Como um modelo aprende

Um modelo de IA é um monte de números, que dão nota a cada palavra que pode vir. O do desenho tem quase seiscentos milhões. Parece muito, mas é pequeno, e não é o do ChatGPT.

No treino, um computador mostra um texto e pede um palpite para a palavra seguinte. Ela já está escrita e serve de gabarito. Quando o palpite erra, o computador mexe um pouquinho em cada número, para a certa ganhar nota mais alta.

Cada correção é pequena. Mas o treino passa por trilhões de palavras. Quem calcula tudo isso são placas de vídeo, peças de computador que fazem milhares de cálculos ao mesmo tempo.

A DeepSeek, uma empresa chinesa de IA, treinou um modelo mais de mil vezes maior que esse pequeno. Numa placa só, o treino levaria 318 anos, um por quadrado do desenho. Com cerca de duas mil placas, levou menos de dois meses.1

Quando você conversa com um modelo de IA pronto, os números dele ficam travados. No desenho, o bloco fica preto e ganha um cadeado.

O modelo lê a conversa e dá nota a cada palavra que pode vir. Sorteia uma para escrever, e as de nota mais alta têm mais chance. Depois passa à próxima. Faz isso mais rápido do que você lê. E nada do que ele escreve volta para mexer nos números.2

Diga a um modelo de IA que a capital de Pernambuco é Recife. Na mesma conversa, ele usa a sua frase, porque o chat manda a ele a conversa inteira a cada pergunta.

Os números não mudam, e o bloco do desenho fica igual antes e depois da conversa. Numa conversa nova, sem a sua frase, ele responde com o que veio do treino. O texto do treino acaba numa data. O que veio depois, ele não leu.

Em 2020, pesquisadores treinaram centenas de modelos de IA, de vários tamanhos. O tamanho é quantos números o modelo tem por dentro. Depois mediram quanto cada um erra ao adivinhar a palavra seguinte. É isso que o treino ensina.

No desenho, o tamanho cresce ao longo da linha de baixo, e cada marca vale dez vezes a anterior. A altura é o erro, e a reta desce. Um modelo pequeno de hoje estaria entre os maiores que eles mediram.3

Cada vez que o modelo dobra de tamanho, o erro diminui cerca de 5%. Cada queda é um degrau da escada. Os degraus se repetem, de modelos minúsculos a outros um milhão de vezes maiores.

Cada degrau tira 5% do erro que restou, e não do erro do começo. Por isso, vinte dobras não zeram o erro. Sobra cerca de um terço. Com essa regularidade, dá para prever o próximo degrau, o tracejado, antes de pagar pelo treino.3

Crescer só o tamanho não é o melhor jeito de gastar. Em 2022, pesquisadores da DeepMind, do Google, tinham um modelo grande. Com o mesmo gasto, treinaram outro, com quatro vezes menos números e mais de quatro vezes o texto lido.

Cada modelo é um retângulo. A largura é o tamanho, a altura é o texto lido, e a área é o gasto. O estreito e alto, em vermelho, venceu o grande em quase todas as provas.4

A regra nova é crescer junto o modelo e o texto. Dobrou o modelo, dobre o texto. A medida ficou perto de vinte palavras, ou partes de palavra, lidas para cada número do modelo.

A linha do desenho marca essa medida. Os outros grandes da época ficam longe dela, e o tracejado sobre cada um é o texto que faltou. Eles cresceram em tamanho e leram pouco.4

O erro medido aqui é um só: o de adivinhar a palavra seguinte, num texto novo para o modelo. Com mais números e texto na medida, esse erro cai. E dá para prever quanto.3

Mas esse treino sozinho não ensina a responder. Um modelo que só passou por ele recebe a pergunta da capital de Pernambuco. Ele trata a pergunta como texto a continuar, e emenda outra pergunta.

O que um modelo de IA escreve sai de um monte de números, ajustados em dois treinos. No primeiro, ele lê uma montanha de texto, da internet e de livros, e aprende a adivinhar a palavra seguinte.

O modelo pequeno do desenho e os irmãos maiores dele leram 36 trilhões de pedaços de palavra. Um pedaço é uma palavra ou parte de uma. É como ler Dom Casmurro mais de trezentos milhões de vezes.5

Um modelo que só passou pelo primeiro treino se chama modelo de base. Para ele, tudo é texto a continuar. A equipe deste site perguntou ao modelo de base do desenho qual é a capital de Pernambuco. Ele devolveu outra pergunta: “Além disso, qual é a capital de Minas Gerais?”.

Em muitos textos, como numa lista de exercícios, depois de uma pergunta vem outra.6

O segundo treino, o que ensina a conversar, é bem mais curto que o primeiro. Ele começa com pessoas contratadas, que escrevem milhares de perguntas e boas respostas. O modelo treina com elas.

Depois, o modelo escreve duas respostas para a mesma pergunta, e uma pessoa marca a melhor. É como julgar redações duas a duas. A cada escolha, o computador mexe um pouco nos números, a favor da escolhida.7

A pergunta da capital foi feita também à versão de conversa do modelo pequeno, a que passou pelo segundo treino. A resposta veio: “A capital de Pernambuco é Brasília.” Tem jeito de resposta, e o fato está errado.

O segundo treino ensina o jeito. O fato teria de vir da leitura do primeiro. O modelo leu sobre Recife, mas, na hora de responder, “Brasília” teve mais chance de sair.6

O jeito de responder faz muita diferença. Em 2022, a OpenAI, a empresa do ChatGPT, mostrou a pessoas respostas de dois modelos dela. Um era pequeno e tinha passado pelo segundo treino. O outro, com mais de cem vezes mais números, não tinha passado.

As pessoas escolhiam a resposta que atendia melhor ao pedido. Nisso, o pequeno ganhou na maioria das vezes. Os dois tinham lido o mesmo texto, e a diferença era o segundo treino.7

Nesse estudo da OpenAI, pessoas escreveram respostas para cerca de 13 mil perguntas. E, para 33 mil perguntas, compararam respostas do modelo. É pouco perto dos trilhões de pedaços de palavra lidos no primeiro treino.

Um treino tão curto muda o jeito e acrescenta poucos fatos. Os fatos vêm da leitura. Quando um fato ficou mal guardado na leitura, sai uma resposta bem-feita e errada, como “Brasília”.7

De onde veio em 2017, pesquisadores queriam ensinar uma cambalhota a um boneco simulado no computador, e ninguém conseguia escrever uma regra que desse nota a uma cambalhota. Então mostraram a pessoas pares de vídeos curtos do boneco, e elas escolhiam o melhor. Com menos de uma hora de escolhas, o boneco dava cambalhotas. A escolha entre duas respostas do segundo treino vem daí.8

Um modelo de IA continua qualquer começo de frase, mesmo sobre algo que não existe. A equipe deste site deu a um modelo pequeno o começo “O primeiro farol construído na Lua ficou pronto em”. Ele escreveu, sem sinal de dúvida: “1969, mas não foi construído até 1971.”

Não há farol na Lua. A frase saiu inteira e firme, como sai uma verdadeira.9

O modelo escreve em pedaços: uma palavra, parte de uma ou até o espaço entre elas. Antes de cada um, calcula a chance de cada pedaço e sorteia. Cada sorteio tem sua urna de cem bolinhas. “1969” saiu em cinco, o espaço antes do ano e os quatro algarismos. Nenhum era quase certo.

O ano só sai se os cinco sorteios caírem nesses pedaços, como cinco caras seguidas na moeda. Por isso, numa urna de mil, ficou com 12.9

Num chat, a frase inventada aparece igual à verdadeira. A letra é a mesma, e nada avisa. Aqui, cada pedaço tem a cor da chance que teve, e quanto menor a chance, mais claro.

O modelo escreve o que costuma vir depois de frases parecidas, e isso pode ser falso. A palavra com mais bolinhas também pode ser falsa. Quem estuda IA chama esse erro de alucinação.

O modelo pequeno que diz “Brasília” primeiro leu, e depois treinou para conversar. Para ver o que guardou lendo, a equipe deste site usou a versão de antes. Deu a ela o começo da resposta, “A capital de Pernambuco é”.

Na urna dela, “Recife” teve 39 bolinhas em mil. Outras tiveram mais: “Fortaleza” e até “o” e “a”, que podem começar uma resposta. Saiu “o”, e veio “o município de Fortaleza”. A resposta certa estava lá, com pouca chance.9

Imagine uma prova em que errar não tira ponto. Na dúvida, chutar compensa. As provas que comparam modelos de IA costumam ser assim. Acertar vale um ponto, e errar vale zero, como dizer “não sei”.

Se errar tirar um ponto, chutar só compensa com mais chance de acerto que de erro. Na pergunta da capital, o modelo pequeno tinha 39 em mil de chance de acertar. Com tão pouco, na faixa vermelha, admitir “não sei” rende mais que arriscar.10

O modelo inventa porque escreve o que costuma vir nos textos, e isso pode ser falso. A firmeza é só aparência: a letra é igual no certo e no inventado.

E chutar rende ponto. As provas que comparam modelos dão zero ao “não sei”, como ao erro. Quem faz o modelo busca nota alta nelas. Por dentro, o modelo é feito de números. O treino muda esses números para a nota subir, e assim premia o chute.10

De onde veio em 2025, pesquisadores da OpenAI, a empresa do ChatGPT, procuraram por que os modelos continuam inventando depois do treino de conversa. Acharam parte da resposta nas provas que comparam modelos. A maioria dá zero ao “não sei”, igual ao erro, e quem treina ajusta o modelo para subir nelas. Assim o chute sai premiado.10

Por dentro, um modelo de IA é feito de números, travados quando ele fica pronto. Quem fez o modelo, ou recebeu os números dele, pode abrir o cadeado. E treinar mais um pouco, com um maço pequeno de exemplos. Um deles pode ser o cartão do desenho, com a resposta “Recife”.

Nesse treino, a cada resposta errada do modelo, o computador mexe um pouco nos números. A mudança fica para todas as conversas seguintes. Isso se chama ajuste fino.

Para o jeito de conversar, poucos exemplos resolvem. Em 2023, pesquisadores escolheram a dedo mil exemplos de pergunta e resposta. Com eles, um modelo de 65 bilhões de números passou a responder como um assistente. Antes, ele só tinha lido texto, e só sabia continuar frases.

Cada cartão miúdo do desenho é um exemplo, e cada quadrado, um bilhão de números. São mil exemplos, contra os trilhões de palavras que ele tinha lido.11

Fato é outra história. Num estudo de 2024, um modelo treinou com cartões de fatos já lidos por ele e de fatos novos. Acertou todos no fim, mas aprendeu os novos por último, devagar.

Ao decorar os novos, passou a inventar mais nas perguntas que não estavam nos cartões. Com os já lidos, mesmo os que ele quase sempre errava, isso aconteceu bem menos. “Recife” deve ser um desses já lidos: dá para ensinar, com pouco estrago.12

Para conferir uma data, você abre o livro na página certa. Com fato novo, um modelo de IA costuma ir melhor assim, com os números quietos. O texto fica fora dele, como o livro do desenho. A cada pergunta, um programa procura nele o trecho certo e cola na conversa. Nada fica nos números.

Num estudo de 2023, com notícias que os modelos não tinham lido, buscar quase dobrou os acertos. Treinar com o mesmo texto rendeu bem menos.13

Em 2021, pesquisadores da Microsoft queriam adaptar um modelo grande a muitas tarefas, como resumir conversas. Cada tarefa pedia uma cópia inteira dele, com todos os números ajustados. Guardar e usar tantas cópias saía caro.

Os números de um modelo ficam em tabelas, com linhas e colunas. A ideia deles foi travar todas as tabelas e treinar, para algumas, duas tiras finas de números à parte. As tiras ajustam a tabela para a tarefa nova.14

Pense na tabuada. Uma coluna de um a dez e uma linha de um a dez dão as cem casas. Cada casa é o número da sua linha vezes o da sua coluna. Duas tiras fazem o mesmo e dão um número a mais para cada casa da tabela.

Esse número se soma ao que já estava na casa, que continua travado. As tiras do desenho têm 85 vezes menos números que a tabela, e só elas são treinadas.15

O bloco do desenho é um modelo pequeno inteiro, com todas as tabelas. Cada quadrado vale um milhão de números. As tiras vão só em algumas tabelas, e juntas dão um quadrado e pouco.

O botão muda a largura das tiras. Com largura um, são uma coluna e uma linha, como a tabuada. Com largura dois, são duas tabuadas, e cada casa soma as duas. Mais largas ajustam a tabela de mais jeitos, mas têm mais números a treinar.15

O que sobra desse treino é um arquivo pequeno, só com as tiras. Ele encaixa no modelo como um cartucho na impressora, e sai para dar lugar a outro. No desenho, três ajustes entram e saem do mesmo modelo.

Num modelo grande de 2020, o arquivo das tiras ficou dez mil vezes menor que a cópia inteira. Desenhado na mesma escala, ele é um ponto, que só se vê com lupa.14

No estudo da Microsoft, as tiras finas foram suficientes. Nos modelos ajustados assim, o treino mudou uma fração mínima dos números. Eles se saíram tão bem quanto os ajustados por inteiro.

Esse jeito se chama LoRA, uma sigla em inglês. Um modelo fica parado, e vários cartuchos pequenos se revezam nele, um para cada tarefa.14

Tudo o que um modelo de IA aprende fica guardado em números. Um jeito de ter um modelo pequeno e bom é treinar um pequeno para imitar um grande. O grande faz o papel de professor, e o pequeno, de aluno. No desenho, o aluno é o bloco menor, de quase seiscentos milhões de números.

O professor fica como estava, e sai um modelo novo, menor. Esse jeito de treinar se chama destilação.

Antes de escrever, um modelo calcula a chance de cada palavra que pode vir. As chances são bolinhas numa urna de mil. Depois de “luz do”, a urna do professor dá quase metade a “sol” e um quarto a “dia”.

O aluno treina até a urna dele ficar igual. Outro aluno treina só com a palavra escrita no texto, “sol”. Põe as mil bolinhas nela, e “dia”, que também servia, fica sem nenhuma. Aprende menos com cada exemplo.916

Pesquisadores fizeram um aluno imitar um professor que classifica textos, como dizer se uma crítica elogia ou reclama. O aluno era bem menor, com pouco mais da metade dos números. Mesmo assim, guardou 97% dos acertos do professor nas provas.17

O modelo pequeno desta parte, o de quase seiscentos milhões, foi treinado em duas etapas. Primeiro, leu muito texto, sem professor. Depois, para aprender a conversar, imitou modelos maiores da Alibaba, a empresa que o fez.5

O pequeno responde com jeito, mas erra a capital de Pernambuco. O jeito veio dos maiores. O fato também passaria, se coubesse nos números do pequeno.

Num estudo de 2024, com outros modelos, pesquisadores mediram quantos fatos cabem. Mais números guardavam mais fatos. Quando o modelo lia só frases que dizem um fato, como “Recife é a capital de Pernambuco”, guardava muitos. Quando lia texto comum, em que fato útil vem diluído, guardava até vinte vezes menos.18

O modelo pequeno do desenho tem poucos números e leu texto comum, de tudo, em mais de cem línguas. As duas coisas diminuem os fatos que cabem nele. Leu “Recife”, mas quase não coube. É a explicação mais provável. Ninguém mediu isso nele.5

Um aluno pequeno chega perto do professor no jeito de responder e em muitas provas. Mas só guarda os fatos que cabem nos números dele.

De onde veio em 2015, pesquisadores do Google tinham um conjunto de modelos de reconhecimento de voz grande demais para atender milhões de pessoas. Treinaram um modelo só para imitar as chances que o conjunto dava a cada resposta. Ele ficou perto do conjunto e leve o bastante.16