Dissecando as entranhas de um LLM: o que são logprobs e por que eles são tão importantes?

Quando um modelo de linguagem gera uma resposta, ele não “escolhe” diretamente a próxima palavra. Antes disso, para cada posição da sequência, a rede neural produz uma pontuação para todos os tokens do seu vocabulário, que pode conter dezenas ou centenas de milhares de elementos. Essas pontuações recebem o nome de logits.

Os logits ainda não representam probabilidades. Eles podem assumir qualquer valor real, positivo ou negativo. Apenas na etapa seguinte eles são transformados, por meio da função Softmax, em uma distribuição de probabilidades condicionais, isto é, na probabilidade de cada token ser o próximo da sequência dado todo o contexto anterior.

Imagine a frase:

“O céu é…”

Após aplicar a Softmax, o modelo pode estimar algo como:

“azul”: 80%

“cinza”: 15%

“verde”: 4%

“líquido”: 1%

Naturalmente, a soma das probabilidades de todos os tokens do vocabulário será igual a 1.

À primeira vista, seria natural imaginar que toda a matemática interna do modelo fosse realizada diretamente com essas probabilidades. Na prática, isso seria numericamente inviável.

Pela regra da cadeia das probabilidades, a probabilidade de uma sequência inteira corresponde ao produto das probabilidades condicionais de cada token.

Por exemplo, suponha quatro tokens consecutivos com probabilidades de 0,9, 0,8, 0,7 e 0,95. A probabilidade conjunta da sequência será: 0,9 × 0,8 × 0,7 × 0,95 ≈ 0,48

Esse exemplo parece simples. O problema surge quando uma resposta possui centenas ou milhares de tokens.

Como todas essas probabilidades são menores ou iguais a 1, multiplicá-las sucessivamente faz o resultado convergir rapidamente para valores extremamente próximos de zero. Em precisão numérica finita (como FP16, BF16 ou FP32), esses números podem tornar-se menores que o menor valor representável, provocando um fenômeno conhecido como underflow numérico.

É justamente para evitar esse problema que praticamente toda a matemática probabilística em aprendizado de máquina é realizada no espaço dos logaritmos.

Em vez de trabalhar com uma probabilidade p, utiliza-se seu logaritmo natural: logprob = ln(p)

Como toda probabilidade está entre 0 e 1, seu logaritmo será sempre menor ou igual a zero.

Alguns exemplos:

p = 1,0 → logprob = 0

p = 0,8 → logprob ≈ -0,223

p = 0,5 → logprob ≈ -0,693

p = 0,01 → logprob ≈ -4,605

Quanto mais próximo de zero estiver o logprob, maior é a confiança estatística do modelo naquele token.

Além disso, como o logaritmo é uma função monotonicamente crescente, comparar logprobs produz exatamente a mesma ordenação que comparar probabilidades.

A grande vantagem matemática decorre de uma propriedade elementar dos logaritmos:

log(a × b) = log(a) + log(b)

Assim, em vez de multiplicar centenas de probabilidades extremamente pequenas, basta somar seus logprobs.

Essa transformação elimina problemas de underflow, melhora a estabilidade numérica e simplifica praticamente todos os algoritmos de otimização utilizados durante o treinamento.

Ela também facilita a comparação entre sequências.

Suponha duas respostas possíveis.

A primeira possui logprobs:

-0,2, -0,4 e -0,3

A soma é: -0,9

A segunda possui: -0,1, -1,4 e -0,6 cuja soma é: -2,1

Como -0,9 é maior (ou, equivalentemente, está mais próximo de zero) do que -2,1, a primeira sequência possui maior probabilidade conjunta segundo o modelo.

Vale observar que, durante a geração de texto, o token de maior probabilidade nem sempre é escolhido. Antes da seleção final, a distribuição pode ser modificada por estratégias de amostragem como temperatura, top-k e top-p (nucleus sampling).

Temperaturas baixas tornam a distribuição mais concentrada, produzindo respostas mais previsíveis e determinísticas. Temperaturas mais altas aumentam a diversidade das respostas ao permitir que tokens menos prováveis também possam ser selecionados.

Outro detalhe importante é o fluxo completo de processamento.

A rede neural produz inicialmente os logits. A função Softmax converte esses valores em probabilidades válidas, preservando sua ordem relativa: logits maiores resultam em probabilidades maiores. Os logprobs são simplesmente os logaritmos naturais dessas probabilidades.

O fluxo simplificado pode ser representado como:

Rede Neural → Logits → Softmax → Probabilidades → Logprobs

Os logprobs desempenham também um papel central durante o treinamento. Para cada posição da sequência, o modelo conhece qual deveria ser o próximo token correto.

No treinamento supervisionado tradicional, em que o alvo é representado por uma distribuição one-hot, a função de perda mais utilizada, a cross-entropy, reduz-se ao negativo do logprob atribuído ao token correto.

Se o modelo atribui alta probabilidade ao token esperado, seu logprob fica próximo de zero e a penalização é pequena.

Se atribui baixa probabilidade ao token correto, o logprob torna-se bastante negativo e a perda aumenta significativamente.  O algoritmo de otimização ajusta então bilhões de parâmetros para aumentar progressivamente a probabilidade dos tokens corretos e reduzir a dos incorretos.

Sob a ótica da Teoria da Informação, o negativo do logprob corresponde à chamada self-information, ou medida de surpresa. Eventos altamente previsíveis carregam pouca informação e possuem baixa surpresa. Eventos improváveis carregam mais informação e apresentam maior surpresa.

Essa interpretação explica por que logprobs aparecem não apenas em LLMs, mas em praticamente toda a estatística moderna, teoria da informação e aprendizado de máquina.

Existe, porém, uma distinção fundamental que frequentemente passa despercebida.

Logprob mede confiança estatística, não veracidade. Uma afirmação pode receber logprob elevado não apenas porque apareceu muitas vezes durante o treinamento, mas também porque é altamente consistente com os padrões estatísticos aprendidos pelo modelo.

Da mesma forma, um fato verdadeiro, mas raro, recente ou altamente especializado, pode receber um logprob relativamente baixo.

Em outras palavras, o modelo estima apenas qual sequência de tokens possui maior probabilidade segundo a distribuição aprendida durante o treinamento. Ele não verifica se essa sequência corresponde aos fatos do mundo.

Essa distinção explica por que um LLM pode produzir respostas extremamente convincentes e, ainda assim, incorretas.

Toda a matemática interna dos LLMs, desde a geração de texto até o treinamentoé construída sobre distribuições de probabilidade da linguagem, e não sobre uma representação explícita da verdade. Os logprobs não medem o quanto uma afirmação é verdadeira; medem apenas o quanto ela é provável segundo os padrões aprendidos pelo modelo. Compreender essa diferença é essencial para entender tanto o extraordinário poder dos LLMs quanto suas limitações.