Clicked Gallery

O que são dados sintéticos?

Subrayado en un documento técnico real. Explicado por Clicked.

Usado numa frase

Facing a shortage of fresh human text, the lab trained its latest model largely on synthetic data.

O leitor sublinhou uma palavra na documentação. O Clicked tornou o termo técnico «synthetic data» fácil de entender:

Explicado em três níveis

●○○

Overview

▾

Dados sintéticos são dados de treinamento gerados por um computador em vez de coletados do mundo real, e em IA isso geralmente significa dados escritos por outro modelo de IA. Eles entram em cena quando os dados reais são escassos, privados ou caros demais para rotular. Funcionam bem o bastante para serem prática padrão e mal o bastante para serem motivo de briga.

●●○

Detail

▾

Dados sintéticos existem porque os dados reais acabam, custam demais para rotular ou não podem ser usados legalmente. Comece pelo caso da privacidade: um hospital que não pode compartilhar prontuários pode gerar pacientes artificiais com estatísticas parecidas e compartilhar esses, já que nenhuma pessoa real está no arquivo. O caso da escassez é maior, porque os laboratórios que treinam com texto humano vêm consumindo um estoque finito, então cada vez mais põem modelos para escrever material de treinamento para o modelo seguinte. Feito com cuidado, isso é genuinamente útil, pois os exemplos gerados podem ser mirados exatamente nos pontos fracos de um modelo, o que ganha de raspar outra montanha do que ele já sabe. Feito sem cuidado, degrada, porque as falhas e os pontos cegos do gerador são herdados e amplificados pelo que quer que aprenda com ele — uma falha que os pesquisadores chamam de colapso de modelo. As salvaguardas seguem direto desse risco: manter dados reais na mistura, filtrar o lote gerado e testar o resultado contra a realidade, não contra o professor.

●●●

Analogy

▾

Simuladores de voo para treinar pilotos. Emergências reais são raras, perigosas e impossíveis de agendar, então as companhias as fabricam: falhas de motor sob demanda, a tempestade que você quiser, cem vezes por semana. Pilotos treinados assim voam melhor, porque já encontraram situações que uma carreira normal nunca fornece. Mas um simulador só contém o que os construtores pensaram em colocar nele — e é por isso que ninguém deixa piloto pular horas de voo real.

Explicações de IA podem conter erros · Não é aconselhamento profissional

Os mesmos fatos, outra vibe — Modo slang 😎

●○○

Overview

▾

Dados sintéticos são dados de treinamento que uma máquina inventou em vez de dados que alguém coletou, geralmente uma IA escrevendo lições para outra. Entram quando os dados reais são escassos, privados ou caros demais para rotular. Funcionam, e são motivo de briga, porque um modelo ensinado por um modelo herda os erros do professor. 😎

●●○

Detail

▾

Dados reais têm três problemas: acabam, custam uma fortuna para rotular, e boa parte do que presta é radioativa juridicamente. Então os laboratórios fabricam os próprios. As equipes de carros autônomos fazem a versão vívida, porque ninguém tem dez mil clipes reais de um colchão quicando de um caminhão à noite, então elas os geram e treinam com eles. Na fronteira a escala é outra, porque o estoque de texto escrito por humanos está acabando, então os laboratórios agora põem modelos para escrever material de treinamento fresco para o modelo seguinte. O lado bom é a mira, porque você pode gerar exatamente os casos em que o seu modelo insiste em falhar em vez de raspar outra montanha do que ele já sabe. O lado ruim é a endogamia, porque cada falha do gerador desce herdada e amplificada — o que os pesquisadores educadamente chamam de colapso de modelo. Daí as regras da casa: manter dados reais na mistura, filtrar pesado e avaliar o aluno contra a realidade em vez de contra o professor. 😎

●●●

Analogy

▾

Treinar tênis contra uma máquina de bolinhas em vez de contra uma pessoa. A máquina dá mil repetições perfeitas que ninguém conseguiria agendar, e você genuinamente melhora. Ela também nunca disfarça um saque, nunca sobe à rede, nunca faz a coisa esquisita que um adversário de verdade faz. Treine só contra a máquina e você vira excelente em vencer a máquina.

Explicações de IA podem conter erros · Não é aconselhamento profissional

Definição formal — O mesmo termo, explicado da forma habitual

Dados sintéticos são dados gerados algoritmicamente usados no lugar de, ou junto a, dados coletados empiricamente, comumente produzidos por modelos generativos para treinamento ou avaliação. Eles atendem a restrições de escassez, custo de rotulagem e privacidade e permitem cobertura direcionada de casos sub-representados; o treinamento recursivo sobre saída gerada arrisca degradação distribucional, denominada colapso de modelo, motivando a retenção de dados autênticos, filtragem e validação externa.

Quer que o Clicked explique termos como «synthetic data» direto no seu navegador, até em PDFs?

Adicionar ao Chrome — Grátis

50 explicações grátis · Sem cartão de crédito

Mais da galeria

O que é destilação de modelos?

Treinar um modelo com as respostas de outro: para encolher o seu, ou para alcançar o de um rival.

O que é fine-tuning (ajuste fino)?

Treinar um pouco mais um modelo pronto com os seus próprios dados — e como isso difere do RAG.

Overfitting vs. underfitting: qual é a diferença?

Decorou o gabarito vs. nunca abriu o livro — e a diferença de notas que denuncia os dois.

O que é uma alucinação de IA?

Por que a IA afirma fatos inventados com total confiança — e por que você não consegue ouvir acontecendo.

Modelos de IA open-source vs closed-source: qual é a diferença?

Quem controla o modelo, quem vê os seus dados e quem recebe por requisição.

O que é o trade-off viés-variância?

Rígido demais vs. impressionável demais — e por que o erro total é menor no meio do caminho.