Pensar antes de responder

A resposta rápida costuma estar errada

Qual é o último dígito de 7¹⁰⁰?

Se você fizer essa pergunta a um LLM clássico, ele provavelmente responderá "7" em uma fração de segundo. Faz sentido: 7 começa com 7, 7² = 49, e sem pensar muito poderia parecer que continua sendo 7. A resposta está errada — é 1.

Mas se você fizer a mesma pergunta a um modelo de raciocínio, ele hesita. Ele "pensa" por 10, 20, às vezes 60 segundos. E chega na resposta certa. A OpenAI abriu esse caminho com o o1 no fim de 2024, o DeepSeek-R1 o tornou público no início de 2025; hoje todos os grandes modelos têm um modo desse tipo.

A diferença não está na arquitetura — é o mesmo Transformer. Está na forma como o modelo foi treinado, e no que ele tem permissão de fazer antes de responder.

Os thinking tokens

Todo LLM gera tokens, um por vez, da esquerda para a direita. O que distingue os modelos de raciocínio é que eles geram primeiro uma longa sequência de tokens de trabalho — um monólogo interno — antes de produzir a resposta final. Dependendo do fornecedor, você o vê por inteiro, vê apenas um resumo, ou não vê nada.

Esses tokens ocultos são chamados de thinking tokens (ou tokens de reflexão).

O modelo pode escrever qualquer coisa neles: cálculos intermediários, hipóteses que depois descarta, ramos de exploração abandonados, verificações. É um rascunho que ele apaga antes de mostrar o resultado limpo para você.

Não é mágica. É só espaço extra para trabalhar em um problema difícil.

Experimente você mesmo

Coloque o orçamento de reflexão em "Nenhum" e clique em "Raciocinar". Observe a resposta instantânea. Depois, mude o orçamento para "Completo" e rode de novo.

Os blocos cinzas são a cadeia de pensamento interna — o modelo levanta hipóteses, verifica, às vezes volta atrás. Esses thinking tokens custam em latência e preço, mas desbloqueiam problemas que o modo direto não resolve.

A diferença entre os dois não está na capacidade do modelo — está no tempo de cálculo na inferência que ele tem para usar.

Como funciona tecnicamente

Não é uma arquitetura diferente. É o mesmo Transformer, o mesmo mecanismo de atenção, a mesma geração autoregressiva.

O que muda é o treinamento e a decodificação. E, ao contrário do que se imagina, não se mostram a ele milhares de raciocínios bem redigidos para imitar.

Faz-se algo mais esperto: deixa-se que ele procure. O modelo produz suas próprias tentativas, verificamos mecanicamente quais chegam ao resultado certo — um cálculo se confere, um programa passa nos seus testes — e reforçamos os caminhos que funcionaram. Ninguém escreveu esses raciocínios: o modelo os encontrou, e ficamos com os que davam certo. É o RLVR descrito no capítulo 08. A DeepSeek chegou a mostrar, com o R1-Zero, que um modelo pode desenvolver essas estratégias do zero, sem um único exemplo de raciocínio anotado.

Na inferência, damos a ele um orçamento de tokens de pensamento — um limite para quantos tokens ocultos ele pode gerar. Quanto maior o orçamento, mais ele pode explorar. Além de um certo orçamento, a qualidade das respostas em tarefas difíceis para de melhorar significativamente.

Um detalhe importante: os thinking tokens são gerados antes da resposta, no mesmo fluxo de tokens. O modelo não "pensa" em paralelo — ele pensa em série, e isso custa tokens como qualquer outra coisa.

Raciocínio estendido vs chain-of-thought

Você talvez já tenha visto a técnica do chain-of-thought (CoT), onde se pede explicitamente ao modelo "pense passo a passo". É diferente, mas relacionado.

	Chain-of-Thought (via prompt)	Raciocínio estendido (nativo)
Quem dispara	O usuário, no prompt	O próprio modelo
Visibilidade	Visível na resposta	Oculto (thinking tokens)
Controle	Você pode guiar as etapas	O modelo escolhe seu plano
Exemplos	GPT-4 com "let's think step by step"	o1, o3, Claude com extended thinking

O CoT via prompt também melhora o desempenho — mas o raciocínio nativo vai mais longe, porque o modelo não é obrigado a escrever um raciocínio legível. Ele pode explorar caminhos bagunçados, fazer cálculos que depois descarta, se contradizer e se corrigir, tudo dentro do espaço oculto.

Quando vale a pena

O raciocínio estendido melhora significativamente o desempenho em:

• Matemática e lógica — provas, problemas combinatórios, aritmética exata
• Código complexo — debug multi-arquivo, algoritmos não triviais
• Raciocínio estruturado — quebra-cabeças, deduções encadeadas
• Planejamento — tarefas que exigem definir uma estratégia antes de agir

Em compensação, para uma pergunta factual simples ("qual é a capital da França?"), texto criativo ou tradução, o raciocínio estendido não acrescenta nada — e custa mais caro.

Sobre as alucinações (capítulo 13), o efeito exige precisão, porque a intuição engana. Onde o raciocínio realmente ajuda é nos erros verificáveis: uma conta errada, uma dedução torta, um caso esquecido. O modelo desenrola, se relê, se corrige.

Na factualidade pura — um nome, uma data, uma citação — o ganho não está garantido. A OpenAI publicou suas próprias medições mostrando que o o3 alucinava mais que o antecessor em certos testes de conhecimento. Pensar por mais tempo não faz aparecer uma informação que o modelo não tem: apenas lhe dá mais espaço para construir uma história coerente em torno do que acredita saber.

O custo é o verdadeiro freio. Os thinking tokens são cobrados como tokens normais. Um modelo que gera 1.000 tokens de pensamento antes de responder com 30 tokens cobra de você 1.030 tokens. Em milhões de requisições, isso pesa.

Test-time compute scaling

O que os modelos de raciocínio mostraram é que se pode comprar inteligência na inferência: quanto mais tokens de pensamento você aloca, melhores ficam as respostas em tarefas difíceis.

Isso é chamado de test-time compute scaling — em oposição ao scaling habitual, que aumenta os parâmetros do modelo durante o treinamento.

A curva é parecida com as scaling laws clássicas: dobrar o orçamento de reflexão melhora o desempenho, mas com retornos decrescentes. Em algum ponto, pensar por mais tempo deixa de compensar.

E essa é uma descoberta importante: a inteligência de um LLM não é uma constante fixada por seus pesos. Ela também depende do compute que damos a ele no momento de responder.

Um modelo que pensa por muito tempo em um problema difícil pode superar um modelo maior que responde rápido. Velocidade nem sempre é uma virtude.

Mas "pensar por muito tempo", na prática, significa gerar milhares de tokens um a um antes mesmo de começar a resposta. Ora, vimos no capítulo 09 que cada token precisa olhar todos os que vieram antes dele. Se o milésimo token tivesse mesmo de reler tudo desde o início, nenhum desses modos de raciocínio seria faturável. O que torna o milésimo token tão rápido quanto o segundo? O próximo capítulo abre o capô da inferência.

Atualizado em 2 de agosto de 2026