O que o agente tem na cabeça

Imagine que você dá aula à tarde e a caixa de e-⁠mail encheu. Você pede a um agente: “Leia meus e-⁠mails da semana, ache as reuniões pendentes e marque na agenda”.

Um agente tem duas peças. Uma é um modelo de IA, o programa que responde num chat como o ChatGPT. A outra é um programa em volta, que leva o texto ao modelo. Quando o modelo escreve “abra o e-⁠mail”, é esse programa quem abre.

O modelo lê o pedido, responde e pronto. Na próxima vez, não sobra nele nenhum sinal de que esse pedido existiu. A conversa pode até ficar guardada, mas no aplicativo, pelo programa em volta. No modelo, nada fica.

É como um secretário temporário que chega todo dia sem lembrar da véspera. Tudo o que ele tem veio de um treino, antes de chegar a você, e ficou gravado de vez. Uma conversa não muda uma linha.1

Mas num chat o modelo parece lembrar o que você disse antes. O que acontece é outra coisa. A cada mensagem sua, o programa em volta manda ao modelo a conversa inteira de novo. No ChatGPT, esse programa é o próprio aplicativo.

Na escada do desenho, cada coluna é uma mensagem. Ela cresce porque leva junto tudo o que veio antes. Esse texto todo, que o modelo lê de uma vez, se chama janela de contexto.

A janela de contexto é a mesa do secretário temporário: o que está em cima, ele vê. Quanto cabe nela?

Num modelo grande, cabe bastante. O desenho mostra a janela inteira como mil quadrados. O seu pedido é o risquinho vermelho dentro do primeiro quadrado. Cabem uns trinta mil pedidos como o seu. Parece espaço de sobra. Mas numa tarefa de verdade entram também e-⁠mails, agenda e instruções, muito mais do que o pedido.23

Quem já pediu a alguém “dá uma organizada nisso aí” conhece o resultado: cada um organiza do seu jeito. Com um modelo de IA, o programa que escreve as respostas num chat como o ChatGPT, é igual.

Peça “organize minha agenda” e ele tem de adivinhar. Organizar como, para quando, com que critério? O que falta no pedido, o modelo preenche com um palpite. A resposta do desenho saiu assim, genérica, do tipo que serve para qualquer agenda.

Para não deixar nada ao palpite, dá para ir ao outro extremo. Você escreve vinte regras sobre os e-⁠mails, do tipo “se o e-⁠mail disser isto, faça aquilo”. Funciona enquanto os e-⁠mails cabem nas regras.

Aí chega um e-⁠mail que pergunta “Podemos remarcar para depois do feriado?”. No desenho, ele desce a escada de regras inteira, não casa com nenhuma e cai fora. Regra demais quebra no primeiro caso que ninguém previu.

O terceiro jeito diz o que você precisa, para quem e por quê. “Ache os convites desta semana que eu ainda não respondi e proponha horários de manhã, porque à tarde dou aula”.

O porquê faz o que as vinte regras não faziam. Com o motivo, o modelo tem um critério para os casos que o pedido não previu. Das três respostas do desenho, só esta acerta.4

Dá para mudar a resposta sem mexer no pedido. Antes do seu pedido, quem fez o aplicativo do chat põe um texto que você não costuma ver. É a instrução de sistema, o bloco preto do desenho.

Nela pode ir um crachá: “você é o secretário de um professor”. Se trocarem por advogado ou revisor, o mesmo e-⁠mail rende outra resposta. O crachá muda o que o modelo procura no e-⁠mail.4

O crachá muda o foco do modelo, mas não ensina nada. Com “você é advogado”, o modelo não ganha nenhum conhecimento novo sobre contratos.

Exemplos funcionam melhor, e o que eles mostram é a forma. Ponha antes do pedido três e-⁠mails com a resposta já escrita embaixo, como os cartões do desenho. A resposta nova sai no mesmo molde, “Reunião · qui · 10h”. E só nessa vez. Na próxima, sem os exemplos no texto, o molde não volta.5

De onde veioaté 2020, ensinar uma tarefa nova a um modelo de IA pedia treiná-lo de novo, com milhares de exemplos. Naquele ano, o GPT-3 mostrou que alguns exemplos escritos no próprio texto já davam conta de muitas tarefas.6

Só que o modelo copia dos exemplos até o que ninguém quis ensinar. Num dos cartões do desenho alguém digitou “qiu” em vez de “qui”. A resposta saiu com “qiu”. O erro foi copiado, não inventado.

Por isso exemplo se confere antes, e em dose pequena. A Anthropic, que faz um desses modelos, recomenda de três a cinco. Mais que isso ocupa espaço e pouco acrescenta.5

Pense num formulário de banco, com cada coisa no seu campo. Fora do campo, o sistema não aceita.

Um agente junta duas peças, o modelo de IA, que escreve as respostas, e um programa em volta. Quando acha um convite de reunião num e-⁠mail, o modelo o passa ao programa em volta, que marca. E esse programa não lê frase solta como “acho que quinta de manhã serve”. Lê formulário: assunto, dia, hora, com quem, o molde do desenho.8

A empresa que oferece o modelo garante que a resposta venha no molde. Uma resposta fora dele não passa, como a que bate no portão do desenho e volta.

Mas o portão só confere a forma. Se o e-⁠mail dizia quarta e o modelo escreveu quinta, a resposta tem todos os campos e passa. O molde garante que a resposta venha arrumada. Arrumada é uma coisa, certa é outra.

O que ajuda a acertar é o modelo escrever um rascunho antes da resposta. Em 2022 se viu que escrever “pense passo a passo” no pedido já fazia o modelo rascunhar. Contas e lógica melhoravam.

Hoje muitos modelos fazem o rascunho sozinhos. É a isso que se chama “pensar”, nesses modelos. O tamanho do rascunho se regula num botão de esforço, como o do desenho. Num agente, esse botão fica com quem o monta.910

Há conselhos de como pedir a um modelo de IA. Modelos que rascunham sozinhos aposentaram alguns. Saiu o “pense passo a passo”, porque o rascunho já vem. Saíram as ordens em maiúsculas, porque os modelos novos obedecem demais. Escreva “SEMPRE OLHE A AGENDA” e ele olha a agenda até para responder um bom-dia.

Ficaram clareza, explicar a situação, dizer quando a tarefa está pronta e o formato. E poucos exemplos de resposta, só se ela vier no formato errado.107

Um modelo de IA, o que responde num chat, lê de uma vez um texto só. Esse texto é a janela de contexto, a mesa dele. No desenho, vários tipos de texto dividem a mesa com o seu pedido.

Num agente, que faz tarefas por você, há ferramentas, como ler e-⁠mail. O modelo escreve “liste os e-⁠mails desta semana”, e um programa em volta dele executa a ordem. Com muitas ferramentas, são elas que mais ocupam a mesa.

Cada ferramenta vem descrita em texto na janela, usada ou não. Sem a descrição, para o modelo ela não existe.

O bloco cinza foi medido pela Anthropic, dona de um desses modelos. Num agente com dezenas de ferramentas, só as descrições ocupavam uns mil e setecentos pedidos como o seu. Antes de você escrever uma linha. A fileira de baixo é a mesma conta, feita por quem fez esta página num agente qualquer. Deu quase igual.1329

Janela cheia atrapalha a leitura. Quanto mais cheia, pior o modelo lê cada parte dela. O que está no meio é o que ele mais deixa passar. É o meio esmaecido do desenho.

Por isso alguém precisa escolher o que entra: o mínimo que ainda contém tudo o que a tarefa pede. É um trabalho de quem monta o agente.141511

De onde veioaté 2025 se falava em escrever bem o pedido. Com agentes que trabalham sozinhos por muito tempo, o pedido virou uma parte pequena da janela, e nesse ano o trabalho de escolher o que entra ganhou um nome, engenharia de contexto, em inglês context engineering.1211

Quem fez esta página deu a um agente quarenta e-⁠mails e um pedido: marcar as reuniões de um professor. O agente tem duas peças. O modelo de IA escreve as respostas. Aqui, o modelo escreveu “me mostre só os assuntos”, e o programa em volta trouxe a lista. Essa lista entrou na janela, a mesa onde o modelo lê tudo de uma vez.

Os quarenta e-⁠mails inteiros ficaram fora da mesa. Só o índice entrou, como o de um livro.29

Lendo os assuntos, o agente decidiu o que abrir. Abriu sete: os seis convites de reunião e um e-⁠mail do Gustavo. O e-⁠mail avisava que a reunião de quinta às 10h, já marcada na agenda, estava cancelada. Sem abri-lo, o agente confirmaria uma reunião que não ia acontecer.

Os outros trinta e três, boletins, avisos e ofertas, ficaram fechados. Abrir aos poucos, primeiro o índice e depois só o que a tarefa pede, poupa a janela.2916

Ferramenta é o que o programa em volta faz pelo modelo, como ler e-⁠mail. O modelo só tem delas a descrição, e esse texto ocupa a janela. A Anthropic, que faz IA, testou um agente com dezenas de ferramentas, cada uma descrita na janela.

Depois, as descrições saíram. Ficou só uma busca entre as descrições, que traz a certa na hora. No desenho, os cento e cinquenta quadrados viraram dois, e o agente continuou fazendo tudo.17

Mas quem abre só o que procura pode não achar. Se o agente buscasse só a palavra “reunião”, acharia cinco dos seis convites. O sexto, “Café na quinta, 9h?”, do Diego, ficaria fechado. E ele concluiria, errado, que não havia mais nenhum.

Abrir aos poucos poupa a janela, e exige escolher bem o que procurar.1829

Imagine uma semana pesada, centenas de e-⁠mails. Num agente, duas peças trabalham. O modelo de IA escreve as respostas. Um programa em volta mexe no e-⁠mail e na agenda. Tudo isso se acumula na janela, o texto que o modelo relê a cada passo. A janela tem limite.

Perto do limite, o programa pede ao modelo um resumo de tudo. Tira o resto da janela e recomeça do resumo. Os e-⁠mails continuam na caixa. É passar a semana a limpo.19

Há um jeito mais leve do que resumir: tirar da janela o que já foi usado. O e-⁠mail continua na sua caixa. Só a cópia na janela, já lida e resolvida, é apagada.

A Anthropic, uma empresa de IA, testou isso numa pesquisa longa na internet. Uma busca atrás da outra, e cada resultado ficava na janela. Tirar da janela os resultados já usados cortou boa parte do texto lido. De cada cem quadrados do desenho, ficaram dezesseis.20

Só que quem escreve o resumo é o modelo. O que ele deixar de fora some sem aviso. Nessa semana imaginada, chegou um e-⁠mail do Gustavo cancelando a reunião de quinta às 10h. No resumo, ele virou “vários e-⁠mails sobre reuniões”.

Pouco depois, o agente confirma na agenda a reunião de quinta às 10h, que estava cancelada. Ele não leu errado. O cancelamento só não estava mais na janela.

Um modelo de IA, o que responde num chat, lê de uma vez um texto só, a janela. É a mesa dele. O que está em cima, ele usa. O que não está, para ele não existe.

Um agente é esse modelo mais um programa em volta. O modelo escreve “marque quinta, 9h”, e o programa marca. O que um agente guarda fica em dois lugares. A mesa, com o que está em uso. E o que fica fora dela.

Pense no que um secretário fixo guarda de você depois de um mês. Uma coisa que aconteceu um dia, como a reunião das 18h que você recusou semana passada. Um fato que vale sempre, como dar aula à tarde. E um jeito de fazer, como mandar convite com link de videochamada.

Quem pesquisa agentes separa cada tipo numa gaveta. São as três gavetas de fora, no desenho. A quarta é a própria janela, o que está em uso agora.21

De onde veioquem pesquisa agentes chama essas gavetas de memória episódica, a do que aconteceu, semântica, a dos fatos, e procedural, a do jeito de fazer. A janela é a memória de trabalho. São os nomes em letra pequena no desenho.21

As três gavetas de fora só valem quando o que está nelas chega à janela. São os cartões que entram no desenho. Fora dela, o modelo não tem como ler.

E nenhum cartão chega sozinho. Para o agente levar em conta a reunião recusada, alguém guardou o cartão e o trouxe na hora certa. Esse alguém é quase sempre um programa, o que fica em volta do modelo. Ou o próprio modelo, que escreve “guarde isto” e, depois, “traga aquilo”.

Por que nada volta sozinho? Numa pessoa, lembrar muda o cérebro, e o secretário de um mês aprendeu com o trabalho. Aqui a comparação acaba. O modelo foi montado num treino, antes de chegar a você. Usar não muda nada dentro dele. Para ele, lembrar é sempre um programa pôr texto de volta na janela.

Um agente, a inteligência artificial que faz tarefas por você, começa cada trabalho do zero. Ele é um modelo de IA, que escreve as respostas, mais um programa em volta. O modelo escreve “marque a reunião”, e o programa marca. A janela, o texto diante do modelo, está vazia.

O programa começa pondo nela um arquivo de regras da casa, escrito por quem montou o agente. É o aviso na parede para o secretário novo.2223

De onde veioo nome mais comum desse arquivo é AGENTS.md.23

Você corrige o agente uma vez: “reunião só de manhã”. Se a correção ficar só na conversa, ela se perde quando o trabalho acaba. Para valer, vira uma linha no arquivo. Em alguns agentes o próprio agente a escreve, em outros é quem montou.

Na próxima vez que você abrir o agente, a janela está vazia de novo. Mas a linha volta com o arquivo, em vermelho no desenho. Anotada no arquivo, a correção vale nas próximas vezes.22

O arquivo de regras é o jeito mais usado de guardar. Mas ele entra inteiro na janela toda vez, e a janela tem um tamanho. O que o arquivo ocupa falta para o resto da tarefa.

A recomendação de quem faz agentes é ficar em menos de duzentas linhas, a régua no desenho. Arquivo longo enche a janela, e o modelo segue pior o que está nele. E nele só entra o que vale sempre.2322

Um agente lê os e-⁠mails de um professor. É um modelo de IA, que escreve as respostas, e um programa em volta. Quando o modelo escreve “abra o e-⁠mail do Gustavo”, o programa abre. Nesse e-⁠mail, o modelo lê que a reunião de quinta foi cancelada. Onde anota?

Num caderno só para isso. O modelo anota nele, relê e corrige. O programa manda ler o caderno antes de começar. É o recado de um secretário para o substituto de amanhã.24

Imagine uma tarefa longa. Ao abrir o e-⁠mail do cancelamento, o agente anota no caderno: reunião de quinta cancelada. Mais tarde, a janela, o texto diante do modelo, enche. O programa a troca por um resumo, e o e-⁠mail sai da janela. Na sua caixa ele continua. O caderno, guardado à parte, fica.

Antes de marcar as reuniões, o agente relê o caderno, acha a anotação e não confirma a de quinta. Neste exemplo, a anotação evitou o erro.

A ajuda do caderno foi medida. Uma empresa de IA, a Anthropic, pôs um agente para pesquisar na internet e contou quantas perguntas ele acertava. Janela cheia se lê pior, então primeiro só tiraram da janela os resultados de busca já lidos. Os acertos subiram 29%. Depois, além de tirar, deram o caderno. Subiram 39%. A diferença entre os dois é o que o caderno acrescentou. No desenho, as duas subidas em vermelho.20

O caderno tem um parente que mora dentro da janela: a lista de tarefas. Uma empresa de agentes manda o agente dela reescrever a lista a cada passo. Passo é um e-⁠mail aberto, uma reunião marcada. A lista vai no fim da janela, onde o modelo lê melhor. Assim o objetivo não se perde no meio do caminho.

Os dois têm o mesmo risco. Uma anotação errada, no caderno ou na lista, passa a ser lida como verdade.25

Um agente que cuida de agenda anota: quem prefere manhã, que reunião recusou. Em meses, centenas. O agente é um modelo de IA, que escreve as respostas, e um programa em volta. O modelo escreve “guarde isto”, e o programa guarda. O modelo só lê o que está na mesa, e mesa com centenas se lê pior.

A saída é um depósito no porão. Só sobe à mesa o que o modelo for buscar, e só desce o que mandar.26

De onde veioem 2023, pesquisadores deram isso a um agente, e o próprio modelo decidia o que subia à janela e o que descia ao depósito.26

Imagine que, para abrir espaço na mesa, o agente guarde no porão a anotação “reunião de quinta cancelada”. É o bloco que desce no desenho. Na hora de marcar as reuniões, ele não vai buscá-la. E marca de novo a reunião cancelada.

Ninguém lembra o modelo de descer ao porão. Buscar é uma decisão dele, e ele pode decidir mal.

Um agente, a inteligência artificial que cuida de tarefas para você, guarda anotações. Depois de algumas semanas, a gaveta fica como a do desenho. “Prefere manhã” anotado duas vezes. “Aula às terças” numa anotação e “aula às quartas” noutra.

À noite, enquanto ninguém usa o agente, um segundo agente, que só cuida das anotações, relê tudo. Junta as repetidas, marca as que se contradizem e reescreve a gaveta. É arrumar o armário enquanto a casa dorme.27

De onde veioa ideia de um agente reler as próprias lembranças e escrever conclusões sobre elas já aparecia em 2023, num estudo que simulou uma vila de 25 moradores, cada um movido por um modelo de IA, para que agissem de acordo com o que tinham vivido.28

De manhã, a pergunta “que dias dou aula à tarde?” acha a gaveta arrumada. Antes de responder, o modelo de IA, a peça que escreve as respostas, faz um rascunho. Rascunho longo demora e gasta mais energia. Com a gaveta arrumada de véspera, quem monta o agente espera um rascunho menor.

O quanto menor só foi testado com problemas de matemática, não com agendas. Lá, arrumar o material de véspera deixou o rascunho cinco vezes menor, com o mesmo acerto.27

Mas arrumar é reescrever, e quem reescreve pode errar. Suponha que, numa contradição, o agente da noite não marque a dúvida e escolha uma anotação, “aula às quartas”. E que seja a errada. Ela sai da arrumação mais firme do que entrou. Fica uma anotação só, sem a contradição que antes servia de alerta.

Daí em diante, o agente do dia vai ler essa anotação como verdade. E marcar reunião em cima da sua aula.

Num teste, um agente marcou as reuniões de um professor. O agente é um modelo de IA, que escreve as respostas, e um programa em volta. O modelo escreve “marque quinta”, e o programa marca. O desenho é a janela do modelo, a mesa com o que ele lia.

O pedido é quase nada. Quase metade são e-⁠mails abertos e agenda. Um terço é texto que descreve as ferramentas para o modelo. O resto é instrução de quem o montou.29

Nos e-⁠mails havia seis convites de reunião. O agente marcou os seis em horários de manhã. Outro e-⁠mail cancelava uma reunião já marcada, a de quinta-feira às 10h. As regras de quem montou o agente proíbem apagar compromissos. Então ele avisou o professor.

A janela tem um tamanho, e a semana do teste era pequena: tudo isso ocupou meio por cento dela. Para marcar, o agente não precisou lembrar de nada. O que precisava estava na janela.29