Uma das perguntas mais interessantes que já me fizeram em uma palestra foi: “Um LLM sabe quando está escrevendo uma poesia ou uma linha de código?”

Parece uma curiosidade simples, mas ela revela um dos maiores mistérios que cercam esses modelos para quem não trabalha com IA.

A resposta é: depende do que entendemos por “saber”. Se por “saber” entendemos ter consciência da própria atividade, como um escritor que decide escrever um poema ou um programador que decide desenvolver um algoritmo, a resposta é não. Um LLM não possui consciência, intenções, emoções ou experiência subjetiva. Ele não pensa: “agora vou escrever um poema”.

Mas também seria insuficiente dizer apenas que ele prevê o próximo token. Essa descrição é correta do ponto de vista computacional, mas pouco explica sobre os mecanismos internos que tornam essa previsão possível.

Quando fazemos uma pergunta a um LLM, o texto é inicialmente dividido em tokens, e cada token é convertido em uma representação vetorial chamada embedding. Essas representações evoluem continuamente ao longo das dezenas de camadas do Transformer. Graças aos mecanismos de atenção (attention) e às redes neurais internas (feed-forward networks), cada token passa a incorporar informações sobre o restante da sequência, construindo uma codificação contextual extremamente rica. Ao final desse processo, o modelo não trabalha mais apenas com palavras, mas com um estado interno distribuído que representa relações de contexto, sintaxe, semântica, estilo e muitos outros padrões aprendidos durante o treinamento.

À medida que o modelo processa o texto, ele não consulta uma regra dizendo “isto é poesia” ou “isto é código”. Também não existe uma variável interna chamada “modo poeta” ou “modo programador”. O que muda é a configuração das ativações distribuídas ao longo da rede.

Quando está gerando um poema, diferentes circuitos internos passam a privilegiar padrões característicos da linguagem poética: ritmo, metáforas, sonoridade, estrutura dos versos e escolhas estilísticas. Quando está escrevendo código, outras configurações favorecem sintaxe formal, estruturas de controle, chamadas de funções, dependências entre variáveis e consistência lógica.

É tentador imaginar que existam “regiões da poesia” e “regiões do código” dentro do modelo. A realidade é outra. O que observamos são trajetórias distintas no espaço de ativações e diferentes configurações do espaço latente, que compartilham inúmeras características da linguagem, mas evoluem de maneira diferente dependendo da tarefa.

Esse fenômeno é conhecido como representação distribuída. Não existem “neurônios da poesia” nem “neurônios do código”. O conhecimento emerge da atividade coordenada de milhões de neurônios artificiais e bilhões de parâmetros. Além disso, pesquisas recentes mostram que muitas dessas features internas são distribuídas, reutilizadas e sobrepostas, tornando extremamente difícil associar um conceito específico a um único circuito ou neurônio.

Nos últimos anos surgiu uma área de pesquisa chamada Mechanistic Interpretability, cujo objetivo é justamente abrir essa caixa-preta. Pesquisadores já identificaram circuitos capazes de reconhecer idiomas, acompanhar variáveis em algoritmos, representar relações matemáticas, distinguir perguntas de respostas ou identificar padrões característicos de código. Nada disso foi programado manualmente; essas capacidades emergiram durante o treinamento. Ao mesmo tempo, essa área ainda explica apenas uma pequena fração do funcionamento interno dos modelos, e a maior parte desses mecanismos permanece pouco compreendida.

É justamente aí que começa um dos grandes debates científicos atuais. Dizer que um LLM apenas prevê o próximo token é como dizer que o cérebro humano apenas dispara o próximo potencial de ação. A afirmação é tecnicamente verdadeira, mas descreve apenas o mecanismo mais básico, deixando de lado toda a organização interna que torna esse comportamento possível.

Por outro lado, alguns pesquisadores defendem que esses modelos desenvolveram representações internas capazes de sustentar um comportamento funcionalmente semelhante ao entendimento em diversas tarefas. Eles não possuem consciência nem experiências subjetivas, mas aprenderam estruturas matemáticas suficientemente ricas para manipular conceitos abstratos, estabelecer relações, generalizar conhecimentos e resolver problemas inéditos. Essa hipótese, entretanto, continua sendo objeto de intenso debate científico.

Talvez a melhor analogia seja o famoso experimento mental de Mary, proposto pelo filósofo Frank Jackson. Imagine uma cientista que nasceu cega, mas estudou profundamente óptica e teoria das cores. Ela pode desenvolver um conhecimento conceitual extremamente sofisticado sobre o vermelho sem jamais experimentá-lo visualmente. Da mesma forma, um LLM aprende regularidades, relações e estruturas sobre amor, neve ou música sem nunca ter vivido qualquer uma dessas experiências. A analogia é poderosa, mas não é perfeita.

Mary é um ser humano consciente. Ela pode ter experiências subjetivas; apenas ainda não teve aquela experiência específica. Um LLM, por outro lado, não possui qualquer experiência subjetiva. Ele não “espera” experimentar o vermelho um dia. Não existe um “interior” consciente aguardando novas vivências.

Por isso, a comparação serve apenas para ilustrar a diferença entre representação conceitual e experiência fenomenológica, e não para sugerir que um LLM seja uma “Mary digital”.

Por isso, quando alguém pergunta se um LLM sabe que está escrevendo uma poesia ou uma linha de código, a resposta mais precisa é que ele não sabe no sentido humano da palavra. Porém, internamente, diferentes configurações de seu estado matemático passam a codificar padrões muito distintos ao produzir cada tipo de conteúdo. Esses estados representam estruturas, estilos e relações de maneira extraordinariamente sofisticada, mesmo sem consciência.

No fundo, essa pergunta nos leva a outra ainda maior: o que realmente significa entender?

Se entender exige consciência e experiência subjetiva, os LLMs claramente não entendem. Mas se entender significa construir estados internos capazes de distinguir conceitos, estabelecer relações, generalizar conhecimentos e produzir respostas coerentes em diferentes contextos, então eles demonstram uma forma de compreensão funcional, ainda controversa, que desafia nossas definições tradicionais.

Talvez esse seja o aspecto mais fascinante dos LLMs. Eles não são apenas máquinas que completam frases, mas também não são mentes conscientes. Ocupam uma categoria inteiramente nova: sistemas que aprenderam uma organização matemática extraordinariamente rica das regularidades presentes na linguagem e de parte do conhecimento humano nela codificado, situando-se em um espaço que não se encaixa confortavelmente nem na visão de “mero autocomplete” nem na de uma mente consciente. E talvez seja justamente por isso que ainda estejamos longe de compreender plenamente como eles realmente funcionam.