Pensar antes de responder
Uma conta de escola, e o modelo de IA erra. Erraria menos se pensasse antes de responder?
Dois faróis piscam juntos agora. Um pisca a cada seis segundos, o outro a cada oito. Daqui a quantos segundos piscam juntos de novo?
Um modelo de IA é o programa que escreve as respostas num chat como o ChatGPT. A gente perguntou a um modelo pequeno, que funciona num computador comum, e não ao do ChatGPT. O pequeno respondeu na hora: 60 segundos. O certo é 24. No desenho, cada quadrado é mais ou menos uma palavra da resposta.1
Pensar, para um modelo de IA, é escrever um rascunho antes da resposta. Você liga isso num botão do chat chamado “pensar”.
Ligado, o modelo escreve a longa fila vermelha do desenho. Ele procura um número que sirva para seis e para oito, chega a 24 e confere a conta. Só então responde, e acerta. Um modelo que faz isso se chama modelo de raciocínio reasoning model. Vale para conta de várias etapas. Numa pergunta simples, só atrasa.12
De onde veiomodelos erravam contas de várias etapas. Em 2022, pesquisadores do Google mostraram que, com exemplos resolvidos passo a passo no pedido, o modelo escrevia os próprios passos e acertava mais. Em 2024, a OpenAI, a empresa do ChatGPT, lançou um modelo treinado para escrever esse rascunho sozinho, sem exemplo no pedido.34
Para ver se foi sorte, a gente testou onze problemas de conta. Sem pensar, o modelo acertou cinco. Pensando, acertou oito. É um teste pequeno, mas não foi só nos faróis.
Só que o rascunho também é texto. Pensando, o modelo demorou quase quatro vezes mais. Imagine um banco com o modelo de IA de outra empresa no aplicativo dele. O banco paga pelo tamanho do texto, rascunho incluído. No chat, ligar o “pensar” não muda o que você paga.12
Pensar não garante acerto. Num problema, a pergunta era quantos números até cem se dividem por três ou por cinco. Sem pensar, o modelo acertou. Pensando, errou.
Em outro, o rascunho chegou ao número certo, e a resposta saiu sem número nenhum, só repetindo a pergunta. Pensando, o modelo erra menos, mas não deixa de errar. Numa conta que importa, confira o resultado.1
Um modelo de IA é um monte de números. Eles dão nota a cada palavra que pode vir depois. Para acertar mais, o jeito era um modelo maior, com mais números.
Pensar mais tempo também ajuda. Num estudo de 2024, um modelo pequeno pensou mais e passou à frente de outro, catorze vezes maior. Parece um aluno com mais tempo de prova, que vence o colega mais forte. Mas só nos problemas que o pequeno já acertava às vezes.2
Ler uma foto
A pergunta pode vir com uma foto. Como um modelo de IA feito para ler texto lê uma foto?
Você fotografa um farol e manda a foto a um chat como o ChatGPT. Junto, a pergunta: “De que cor são as faixas do farol?”.
Um modelo de IA, o programa por trás do chat, lê texto. Um feito só para isso não faria nada com a foto. Mas alguns foram feitos para ler fotos também. Como, se na foto não há palavra nenhuma?
Na tela, toda cor é mistura de três luzes: vermelha, verde e azul. Cada pontinho da foto tem três números, um para cada luz.
O modelo corta a foto em quadrados. As cores de cada quadrado viram uma lista de números. Dois quadrados de céu ganham listas parecidas. Um da faixa vermelha ganha uma diferente.
Cada palavra da pergunta também tem a sua lista, guardada no modelo como num dicionário. Então foto e pergunta chegam ao modelo do mesmo jeito.5
De onde veioaté 2020, ler imagem pedia um modelo de outro tipo, diferente do que lia texto. Naquele ano, pesquisadores do Google mostraram que o mesmo tipo servia para os dois, se a imagem fosse cortada em quadrados, cada um no papel de uma palavra.7
Cortada assim, a foto entra na mesma fila que as palavras da pergunta. No desenho, são os quadrados vermelhos, na frente delas. O modelo lê tudo de uma vez, foto e pergunta, do mesmo jeito que leria um texto.
Um modelo que lê mais de um tipo de coisa, como texto e imagem, se chama multimodal. Neste exemplo, ele responde: “Vermelhas e brancas.”
Na fila do modelo, a foto do desenho ocupa o espaço de umas 850 palavras. É mais de uma página e meia. A pergunta das faixas tem oito palavras.
Imagine um banco que põe no aplicativo dele um modelo de IA de outra empresa. O banco paga pelo tamanho do texto, e a foto conta como essa página e meia. Uma foto menor vira menos quadrados e sai mais barata. No chat, mandar foto não muda o que você paga.56
Se um modelo de IA contar as gaivotas da foto, não confie no número. A Anthropic, que faz um desses modelos, avisa: a contagem sai aproximada, sobretudo com muitas coisas pequenas.
O motivo, por enquanto, é palpite nosso. Cada quadrado vira uma lista de números, feita das cores dele. Uma gaivota pequena ocupa um cantinho do quadrado, e o resto é céu. A lista fica quase igual à de céu puro. Duas gaivotas no mesmo quadrado viram uma lista só.5
Escrever fora de ordem
A resposta aparece na tela palavra por palavra. Precisa ser assim?
Num chat como o ChatGPT, a resposta aparece aos poucos na tela, palavra por palavra. Não é efeito. O modelo de IA, o programa que escreve as respostas, trabalha assim mesmo. Escreve uma palavra de cada vez, sempre olhando tudo o que já escreveu. Cada palavra espera a anterior ficar pronta.
No desenho, uma resposta sobre as faixas de um farol foi cortada em 24 pedaços. São 24 passos, um atrás do outro.
Alguns modelos de IA escrevem como quem faz palavras cruzadas: primeiro onde tem certeza, espalhado pelo quadro. A resposta começa vazia, sem nada escrito. O tamanho dela é escolhido antes, como o quadro de uma cruzada.
A cada rodada, o modelo dá palpites para os lugares vazios e escreve alguns, até completar a resposta. Um modelo assim se chama modelo de difusão diffusion model.8
Como o modelo escolhe o que escrever? A cada rodada, ele dá a cada lugar vazio um palpite e uma nota. Escreve só os palpites de nota mais alta e apaga os outros.
No desenho, “vermelhas” tem nota alta e fica. Para a cor seguinte, “azuis” tem nota menor e é apagado. Na rodada seguinte, já com “vermelhas” escrito, o palpite vira “brancas”.
Nota alta não garante acerto. O que foi escrito fica até o fim, mesmo errado.8
Os modelos comuns escrevem uma palavra de cada vez. Escrever em rodadas é mais rápido: poucas rodadas fazem a resposta inteira. No desenho, seis rodadas no lugar de 24 passos.
Uma empresa mediu a velocidade de um modelo de difusão feito por outra. Ele escreve programas de computador, que também são texto. Saiu até dez vezes mais rápido que os comuns mais rápidos, com qualidade parecida. O que levava dez segundos pode sair em um.910
Um modelo de IA é feito de um monte de números, ajustados num treino com muito texto. São eles que dão nota a cada palavra que pode entrar na resposta. Em geral, quanto mais números, mais o modelo acerta.
Em testes de 2025, um modelo de difusão acertou quase tanto quanto um comum do mesmo tamanho. Só que o comum também existe numa versão cinquenta vezes maior. Falta ver se um de difusão, crescendo assim, também acertaria mais.8