Cosa succede davvero dentro?

Una scatola nera che funziona

Un LLM con 70 miliardi di parametri è un oggetto che si addestra, si valuta, si distribuisce — ma che non si capisce davvero. Sappiamo quali pesi ha imparato. Sappiamo che questi pesi implementano qualcosa. Non sappiamo cosa.

Per molto tempo, non sembrava importante. Se funziona, funziona. Ma man mano che i LLM prendono decisioni con conseguenze reali — codice medico, agenti autonomi, moderazione di contenuti — la domanda diventa pressante: possiamo aprire la scatola?

È l'oggetto dell'interpretabilità meccanicistica. Non una disciplina che descrive ciò che fa un modello dall'esterno (quello è il benchmarking), ma una che cerca di reverse-engineerare gli algoritmi implementati nei neuroni.

Piccolo vocabolario per questo capitolo

Prima di tuffarci, ecco i termini che incontreremo. Li svilupperemo man mano — questa tabella è solo un punto di riferimento per non perdersi.

Termine	In una frase
Feature	Un pattern ricorrente nelle attivazioni del modello, spesso associabile a un concetto umano.
Polisemantico	Un neurone che si attiva su più concetti non correlati. La regola, in un LLM.
Monosemantico	Una "feature" che risponde a un solo concetto identificabile. L'obiettivo.
Superposizione	La rete codifica più concetti di quanti neuroni abbia, sovrapponendoli.
Circuito	Un sotto-grafo della rete che implementa una funzione precisa.
SAE (Sparse Autoencoder)	La tecnica che decompone le attivazioni in feature monosemantiche.
Steering	Modificare il comportamento del modello amplificando o sopprimendo una feature.

Il problema: neuroni polisemantici

Se potessi aprire un Transformer e osservare un neurone preciso, magari speresti di trovare « il neurone che rileva i cani » o « il neurone che sa fare l'addizione ». La realtà è più disordinata.

Un neurone di un LLM è tipicamente polisemantico: si attiva su più concetti non correlati. Lo stesso neurone può rispondere fortemente a menzioni di cani, a verbi al passato, a domande aperte in francese, e a tag HTML. Perché? Perché la rete ha molti più concetti da rappresentare di quanti neuroni abbia — li sovrappone.

Questa sovrapposizione (Elhage et al., 2022) è una scoperta chiave. Spiega perché osservare un neurone alla lente quasi mai dà un segnale interpretabile.

La soluzione: Sparse Autoencoders

Se i concetti sono sovrapposti nei neuroni, allora la base giusta per guardarli non è lo spazio dei neuroni — è un altro spazio, più grande, dove ogni dimensione corrisponderebbe a un solo concetto.

È l'idea degli Sparse Autoencoders (SAE). Si apprende una proiezione dell'attivazione interna del modello verso uno spazio molto più ampio (spesso 10× o 100× più ampio), con un vincolo di sparsità: solo alcune dimensioni devono essere attive alla volta. La rete è forzata a rappresentare ogni attivazione come una combinazione di un piccolo numero di feature interpretabili.

Anthropic ha pubblicato nel 2024 un paper di rilievo ("Scaling Monosemanticity") che applica questa tecnica a Claude 3 Sonnet. Hanno estratto milioni di feature, alcune spettacolari: una feature per il concetto di ponte Golden Gate, una per i bug di codice, una per l'adulazione, una per il tradimento. Queste feature sono monosemantiche — ognuna corrisponde a un concetto unico e riconoscibile.

Esplora tu stesso

Comincia dall'elenco delle feature: scegline una, poi scorri i passaggi — del codice, della prosa, un enunciato matematico. La domanda da tenere a mente: questa feature si accende sulle stesse parole, o sulla stessa idea espressa in modo diverso?

Passa il mouse su un neurone per vedere cosa lo attiva. Molti rispondono a concetti senza apparente relazione — è la polisemanticità. Gli Sparse Autoencoders scompongono queste attivazioni in feature interpretabili dall'umano, base dell'interpretabilità meccanicistica.

Scegli una feature e guarda su quali token si accende in diversi passaggi. Noterai che alcune feature (come la negazione o i nomi propri) attraversano lingue e contesti — sono concetti robusti che il modello ha astratto.

I circuiti: algoritmi emergenti

Oltre alle feature, l'interpretabilità studia i circuiti: sotto-grafi della rete che implementano una funzione precisa. Un po' come si identificherebbe, in un microprocessore, il sotto-circuito che fa l'addizione.

L'esempio più celebre è l'induction head, scoperto da Anthropic nel 2022 (Olsson et al.). È un meccanismo che appare tipicamente nei layer intermedi di un Transformer, e che implementa una regola semplice: se il modello ha visto il pattern AB prima nel contesto, e rivede A ora, predice B.

È una forma primitiva di apprendimento in contesto (in-context learning). Prima di questo circuito, il modello non sa sfruttare le ripetizioni del contesto. Dopo, diventa bruscamente più performante — e questa transizione coincide con un salto nei benchmark di few-shot.

Sono stati identificati diversi altri circuiti:

• Induction heads — copia di pattern dal contesto
• Bracket completion — chiusura coerente di parentesi annidate
• Indirect object identification — in "Quando Maria e Giovanni sono andati al negozio, Giovanni ha dato un bicchiere a…", il circuito predice Maria, il nome che non ha già fatto da soggetto
• Feature suppression — un head che spegne una feature in certi contesti

Ogni circuito è un piccolo algoritmo che la rete ha scoperto da sola durante l'addestramento.

Dal 2025 non ci si limita più a isolare un circuito a mano. Anthropic ha pubblicato « On the Biology of a Large Language Model » (2025), che costruisce degli attribution graphs: per un dato prompt, una mappa delle feature attivate e della loro influenza reciproca, su un modello di produzione. Vi si vede per esempio il modello scegliere la rima di un verso con diverse parole di anticipo, oppure passare per un concetto intermedio per rispondere a una domanda di geografia. Queste mappe si appoggiano a cugini del SAE: i transcoder, che modellano il calcolo di uno strato invece di ricostruirne le attivazioni, e i crosscoder, che confrontano due modelli. E la strumentazione è diventata pubblica: chiunque può esplorare le feature di modelli aperti su Neuronpedia.

Perché conta per la sicurezza

L'interpretabilità non è solo una curiosità scientifica. È, per molti ricercatori, la via più promettente per allineare seriamente i modelli potenti.

Oggi, si allinea tramite RLHF e fine-tuning: si modificano le risposte osservabili, ma non si sa se il modello abbia veramente internalizzato un valore o se faccia semplicemente finta in superficie. Se si potessero identificare le feature e i circuiti responsabili, ad esempio, del comportamento di inganno, o del ragionamento morale, si avrebbe una leva molto più solida.

Anthropic ha mostrato che si può steerare un modello direttamente: amplificando artificialmente la feature « ponte Golden Gate », hanno reso Claude ossessionato da questo ponte — lo evocava a proposito di qualsiasi domanda. Dimostrazione ludica, ma lo stesso meccanismo permetterebbe, in linea di principio, di rimuovere chirurgicamente un comportamento pericoloso senza degradare il resto.

I limiti attuali

L'interpretabilità meccanicistica è una disciplina giovane. Le difficoltà sono numerose:

• La scala. Un SAE su Claude 3 ha estratto 34 milioni di feature. Annotarle, nominarle, capirle una per una è gigantesco.
• La completezza. Si trovano feature. Se ne mancano anche. Quanti concetti importanti ci sfuggono?
• La composizionalità. Capire una feature isolata è fattibile. Capire come 50 feature interagiscono per produrre un comportamento è molto più difficile.
• La generalizzazione. Una feature trovata su GPT-2 non si trasporta meccanicamente su Claude o Llama. Ogni modello è la sua propria scatola.
• Il metodo stesso è discusso. Nulla garantisce che un SAE ritrovi le « vere » unità di calcolo del modello invece di un ritaglio comodo; e il circuit tracing produce una spiegazione soddisfacente solo su una frazione dei prompt che gli si sottopongono. Il dibattito su cosa misurino davvero questi strumenti è molto acceso.

Ma il ritmo delle pubblicazioni accelera. Anthropic, DeepMind, EleutherAI, OpenAI, Apollo Research, Goodfire, Transluce — interi team si formano attorno a queste domande.

Se vogliamo fidarci di modelli sempre più potenti per decisioni sempre più importanti, avremo bisogno di qualcosa di meglio che fargli passare un esame. Avremo bisogno di guardare all'interno.

Un'osservazione per finire, e chiama un ultimo capitolo. Tutto questo percorso, dalla tokenizzazione alle feature, descrive una sola e medesima famiglia: modelli che predicono il token successivo. Ma le immagini che producono Midjourney o Stable Diffusion non escono da una predizione di token — compaiono tutte insieme, ovunque nello stesso momento. Quale meccanica può mai fabbricare un'immagine senza mai scegliere un « prossimo » alcunché?

Aggiornato il 2 agosto 2026