O que está realmente acontecendo lá dentro?

Uma caixa-preta que funciona

Um LLM com 70 bilhões de parâmetros é um objeto que se treina, se avalia, se implanta — mas que não se entende de verdade. Sabemos quais pesos ele aprendeu. Sabemos que esses pesos implementam alguma coisa. Não sabemos o que.

Por muito tempo, isso não parecia importante. Se funciona, funciona. Mas à medida que os LLMs tomam decisões com consequências reais — código médico, agentes autônomos, moderação de conteúdo — a pergunta fica urgente: dá para abrir a caixa?

É esse o objetivo da interpretabilidade mecanicista. Não uma disciplina que descreve o que um modelo faz por fora (isso é benchmarking), mas uma que tenta fazer engenharia reversa dos algoritmos implementados nos neurônios.

Pequeno vocabulário para este capítulo

Antes de mergulhar, eis os termos que vão aparecer. Vamos desenvolvê-los ao longo do caminho — esta tabela é só um apoio para não se perder.

Termo	Em uma frase
Feature	Um padrão recorrente nas ativações do modelo, frequentemente associável a um conceito humano.
Polissemântico	Um neurônio que dispara em vários conceitos não relacionados. A norma num LLM.
Monossemântico	Uma "feature" que responde a um único conceito identificável. O objetivo.
Superposição	A rede codifica mais conceitos do que tem neurônios, empilhando-os.
Circuito	Um subgrafo da rede que implementa uma função específica.
SAE (Sparse Autoencoder)	A técnica que decompõe as ativações em features monossemânticas.
Steering	Modificar o comportamento do modelo amplificando ou suprimindo uma feature.

O problema: neurônios polissemânticos

Se você pudesse abrir um Transformer e observar um neurônio específico, talvez esperasse encontrar "o neurônio que detecta cachorros" ou "o neurônio que sabe somar". A realidade é mais bagunçada.

Um neurônio de um LLM costuma ser polissemântico: ele se ativa em vários conceitos não relacionados. O mesmo neurônio pode disparar forte em menções a cachorros, verbos no passado, perguntas abertas em francês e tags HTML. Por quê? Porque a rede tem muito mais conceitos para representar do que neurônios — então ela os superpõe.

Essa superposição (Elhage et al., 2022) é uma descoberta-chave. Ela explica por que olhar um neurônio na lupa quase nunca dá um sinal interpretável.

A solução: Sparse Autoencoders

Se os conceitos estão superpostos nos neurônios, então a base certa para olhá-los não é o espaço dos neurônios — é outro espaço, maior, onde cada dimensão corresponderia a um único conceito.

É essa a ideia dos Sparse Autoencoders (SAE). Aprendemos uma projeção da ativação interna do modelo para um espaço muito mais amplo (frequentemente 10× ou 100× maior), com uma restrição de esparsidade: só algumas dimensões devem estar ativas ao mesmo tempo. A rede é forçada a representar cada ativação como uma combinação de um pequeno número de features interpretáveis.

Em 2024, a Anthropic publicou um paper marcante ("Scaling Monosemanticity") que aplica essa técnica no Claude 3 Sonnet. Eles extrairam milhões de features, algumas espetaculares: uma feature para o conceito da ponte Golden Gate, uma para bugs de código, uma para bajulação, uma para traição. Essas features são monossemânticas — cada uma corresponde a um conceito único e reconhecível.

Explore você mesmo

Comece pela lista de features: escolha uma e depois percorra os trechos — código, prosa, um enunciado matemático. A pergunta a manter em mente: essa feature acende nas mesmas palavras, ou na mesma ideia expressa de outro jeito?

Passe o mouse sobre um neurônio para ver o que o ativa. Muitos respondem a conceitos sem relação aparente — é a polissemanticidade. Os Sparse Autoencoders decompõem estas ativações em features interpretáveis pelo humano, base da interpretabilidade mecanística.

Escolha uma feature e veja em quais tokens ela acende em diferentes trechos. Você nota que algumas features (como a negação ou os nomes próprios) atravessam línguas e contextos — são conceitos robustos que o modelo abstraiu.

Os circuitos: algoritmos emergentes

Além das features, a interpretabilidade estuda os circuitos: subgrafos da rede que implementam uma função precisa. Um pouco como se identificaria, num microprocessador, o subcircuito que faz a soma.

O exemplo mais famoso é o induction head, descoberto pela Anthropic em 2022 (Olsson et al.). É um mecanismo que aparece tipicamente nas camadas intermediárias de um Transformer e que implementa uma regra simples: se o modelo viu o padrão AB antes no contexto, e agora vê A de novo, ele prevê B.

É uma forma primitiva de aprendizado em contexto (in-context learning). Antes desse circuito, o modelo não consegue explorar repetições do contexto. Depois, ele fica abruptamente mais capaz — e essa transição coincide com um salto nos benchmarks de few-shot.

Vários outros circuitos foram identificados:

• Induction heads — cópia de padrões do contexto
• Bracket completion — fechamento coerente de parênteses aninhados
• Indirect object identification — em "Quando Maria e João foram à loja, João deu um copo a...", o circuito prevê Maria, o nome que ainda não serviu de sujeito
• Feature suppression — um head que desliga uma feature em certos contextos

Cada circuito é um pequeno algoritmo que a rede descobriu sozinha durante o treinamento.

Desde 2025, não nos contentamos mais em isolar um circuito na mão. A Anthropic publicou "On the Biology of a Large Language Model" (2025), que constrói attribution graphs: para um dado prompt, um mapa das features ativadas e da influência de umas sobre as outras, em um modelo de produção. Vê-se ali, por exemplo, o modelo escolher a rima de um verso várias palavras antes, ou passar por um conceito intermediário para responder a uma pergunta de geografia. Esses mapas se apoiam em primos do SAE — os transcoders, que modelam o cálculo de uma camada em vez de reconstruir suas ativações, e os crosscoders, que comparam dois modelos. E o ferramental virou público: qualquer pessoa pode explorar features de modelos abertos no Neuronpedia.

Por que isso importa para a segurança

A interpretabilidade não é só curiosidade científica. Para muitos pesquisadores, é a rota mais promissora para alinhar a sério modelos poderosos.

Hoje, alinhamos por RLHF e fine-tuning: modificamos as respostas observáveis, mas não sabemos se o modelo realmente internalizou um valor ou se está apenas fingindo na superfície. Se conseguíssemos identificar as features e os circuitos responsáveis, por exemplo, pelo comportamento de engano, ou pelo raciocínio moral, teríamos uma alavanca muito mais sólida.

A Anthropic mostrou que dá para dirigir um modelo diretamente: amplificando artificialmente a feature "ponte Golden Gate", deixaram o Claude obcecado por essa ponte — ele a evocava em qualquer pergunta. Demonstração lúdica, mas o mesmo mecanismo permitiria, em princípio, suprimir cirurgicamente um comportamento perigoso sem degradar o resto.

Os limites atuais

A interpretabilidade mecanicista é uma disciplina jovem. As dificuldades são muitas:

• A escala. Um SAE no Claude 3 extraiu 34 milhões de features. Anotá-las, nomeá-las, entendê-las uma a uma é gigantesco.
• A completude. Encontramos features. Também perdemos algumas. Quantos conceitos importantes nos escapam?
• A composicionalidade. Entender uma feature isolada é factível. Entender como 50 features interagem para produzir um comportamento é bem mais difícil.
• A generalização. Uma feature encontrada no GPT-2 não se transpõe mecanicamente para o Claude ou o Llama. Cada modelo é sua própria caixa.
• O próprio método é debatido. Nada garante que um SAE recupere as "verdadeiras" unidades de cálculo do modelo em vez de um recorte apenas conveniente; e o circuit tracing só produz uma explicação satisfatória em uma fração dos prompts a que é submetido. O debate sobre o que essas ferramentas realmente medem está muito vivo.

Mas o ritmo das publicações está acelerando. Anthropic, DeepMind, EleutherAI, OpenAI, Apollo Research, Goodfire, Transluce — equipes inteiras estão se formando ao redor dessas perguntas.

Se queremos confiar em modelos cada vez mais poderosos para decisões cada vez mais importantes, vamos precisar de mais do que fazê-los passar num exame. Vamos precisar olhar por dentro.

Uma observação para terminar, e ela pede um último capítulo. Todo esse percurso, da tokenização às features, descreve uma única e mesma família: modelos que preveem o próximo token. Ora, as imagens que o Midjourney ou o Stable Diffusion produzem não saem de uma predição de token — elas aparecem de uma vez, em toda parte ao mesmo tempo. Que mecânica pode fabricar uma imagem sem nunca escolher um "próximo" o que quer que seja?

Atualizado em 2 de agosto de 2026