¿Qué pasa realmente dentro?

Una caja negra que funciona

Un LLM con 70 mil millones de parámetros es un objeto que se entrena, se evalúa, se despliega — pero que no entendemos realmente. Sabemos qué pesos ha aprendido. Sabemos que esos pesos implementan algo. No sabemos qué.

Durante mucho tiempo, eso no parecía importante. Si funciona, funciona. Pero a medida que los LLMs toman decisiones con consecuencias reales — código médico, agentes autónomos, moderación de contenido — la pregunta se vuelve apremiante: ¿podemos abrir la caja?

Ese es el objeto de la interpretabilidad mecanística. No una disciplina que describe lo que hace un modelo desde fuera (eso es benchmarking), sino una que busca hacer ingeniería inversa de los algoritmos implementados en las neuronas.

Un pequeño vocabulario para este capítulo

Antes de zambullirnos, estos son los términos que iremos cruzando. Los desarrollaremos sobre la marcha — esta tabla solo es un asidero para no perderse.

Término	En una frase
Feature	Un patrón recurrente en las activaciones del modelo, que a menudo se puede asociar con un concepto humano.
Polisemántica	Una neurona que se enciende sobre varios conceptos no relacionados. La regla, en un LLM.
Monosemántica	Una "feature" que responde a un solo concepto identificable. El objetivo.
Superposición	La red codifica más conceptos que neuronas tiene, apilándolos.
Circuito	Un subgrafo de la red que implementa una función concreta.
SAE (Sparse Autoencoder)	La técnica que descompone las activaciones en features monosemánticas.
Steering	Modificar el comportamiento del modelo amplificando o suprimiendo una feature.

El problema: neuronas polisemánticas

Si pudieras abrir un Transformer y observar una neurona concreta, quizás esperarías encontrar "la neurona que detecta perros" o "la neurona que sabe sumar". La realidad es más desordenada.

Una neurona de un LLM es típicamente polisemántica: se activa sobre varios conceptos no relacionados. La misma neurona puede responder con fuerza a menciones de perros, a verbos en pasado, a preguntas abiertas en francés, y a etiquetas HTML. ¿Por qué? Porque la red tiene muchos más conceptos que representar que neuronas — los superpone.

Esa superposición (Elhage et al., 2022) es un descubrimiento clave. Explica por qué mirar de cerca a una neurona casi nunca da una señal interpretable.

La solución: Sparse Autoencoders

Si los conceptos están superpuestos en las neuronas, entonces la base correcta para mirarlos no es el espacio de las neuronas — es otro espacio, más grande, donde cada dimensión correspondería a un solo concepto.

Esa es la idea de los Sparse Autoencoders (SAE). Se aprende una proyección de la activación interna del modelo hacia un espacio mucho más amplio (a menudo 10× o 100× más grande), con una restricción de parsimonia: solo unas pocas dimensiones deben estar activas a la vez. La red es forzada a representar cada activación como una combinación de un pequeño número de features interpretables.

Anthropic publicó en 2024 un paper marcante ("Scaling Monosemanticity") que aplica esta técnica a Claude 3 Sonnet. Extrajeron millones de features, algunas espectaculares: una feature para el concepto de puente Golden Gate, una para los bugs de código, una para la adulación, una para la traición. Esas features son monosemánticas — cada una corresponde a un concepto único y reconocible.

Explora tú mismo

Empieza por la lista de features: elige una y luego recorre los pasajes — código, prosa, un enunciado matemático. La pregunta que conviene tener en mente: ¿esa feature se enciende sobre las mismas palabras, o sobre la misma idea expresada de otra forma?

Pasa el cursor sobre una neurona para ver qué la activa. Muchas responden a conceptos sin relación aparente — eso es polisemanticidad. Los Sparse Autoencoders descomponen estas activaciones en features humanamente interpretables, base de la interpretabilidad mecanística.

Elige una feature y mira sobre qué tokens se enciende en distintos pasajes. Notarás que algunas features (como la negación o los nombres propios) atraviesan idiomas y contextos — son conceptos robustos que el modelo ha abstraido.

Los circuitos: algoritmos emergentes

Más allá de las features, la interpretabilidad estudia los circuitos: subgrafos de la red que implementan una función concreta. Algo así como identificar, en un microprocesador, el subcircuito que hace la suma.

El ejemplo más famoso es el induction head, descubierto por Anthropic en 2022 (Olsson et al.). Es un mecanismo que aparece típicamente en las capas intermedias de un Transformer, y que implementa una regla simple: si el modelo ha visto el patrón AB antes en el contexto, y vuelve a ver A ahora, predice B.

Es una forma primitiva de aprendizaje en contexto (in-context learning). Antes de este circuito, el modelo no sabe explotar las repeticiones del contexto. Después, se vuelve bruscamente más capaz — y esa transición coincide con un salto en los benchmarks de few-shot.

Se han identificado varios otros circuitos:

• Induction heads — copia de patrones del contexto
• Bracket completion — cierre coherente de paréntesis anidados
• Indirect object identification — en "Cuando María y Juan fueron a la tienda, Juan le dio un vaso a…", el circuito predice María, el nombre que no ha hecho ya de sujeto
• Feature suppression — un head que apaga una feature en ciertos contextos

Cada circuito es un pequeño algoritmo que la red descubrió por su cuenta durante el entrenamiento.

Desde 2025 ya no nos conformamos con aislar un circuito a mano. Anthropic publicó "On the Biology of a Large Language Model" (2025), que construye attribution graphs: para un prompt dado, un mapa de las features activadas y de su influencia unas sobre otras, sobre un modelo de producción. Ahí se ve, por ejemplo, al modelo elegir la rima de un verso varias palabras antes, o pasar por un concepto intermedio para responder a una pregunta de geografía. Esos mapas se apoyan en primos del SAE: los transcoders, que modelan el cálculo de una capa en vez de reconstruir sus activaciones, y los crosscoders, que comparan dos modelos. Y las herramientas se han hecho públicas: cualquiera puede explorar features de modelos abiertos en Neuronpedia.

Por qué importa para la seguridad

La interpretabilidad no es solo curiosidad científica. Es, para muchos investigadores, la vía más prometedora para alinear seriamente los modelos potentes.

Hoy, alineamos por RLHF y fine-tuning: modificamos las respuestas observables, pero no sabemos si el modelo ha interiorizado realmente un valor o si solo lo simula en la superficie. Si pudiéramos identificar las features y los circuitos responsables, por ejemplo, del comportamiento de engaño, o del razonamiento moral, tendríamos una palanca mucho más sólida.

Anthropic ha mostrado que se puede steerear a un modelo directamente: amplificando artificialmente la feature "puente Golden Gate", hicieron que Claude se obsesionara con ese puente — lo evocaba a propósito de cualquier pregunta. Demostración lúdica, pero el mismo mecanismo permitiría, en principio, suprimir quirúrgicamente un comportamiento peligroso sin degradar el resto.

Los límites actuales

La interpretabilidad mecanística es una disciplina joven. Las dificultades son numerosas:

• La escala. Un SAE sobre Claude 3 ha extraído 34 millones de features. Anotarlas, nombrarlas, entenderlas una por una es gigantesco.
• La completitud. Encontramos features. También las perdemos. ¿Cuántos conceptos importantes se nos escapan?
• La composicionalidad. Entender una feature aislada es factible. Entender cómo 50 features interactúan para producir un comportamiento es mucho más difícil.
• La generalización. Una feature encontrada en GPT-2 no se traslada mecánicamente a Claude o Llama. Cada modelo es su propia caja.
• El método mismo está en discusión. Nada garantiza que un SAE recupere las "verdaderas" unidades de cálculo del modelo y no un troceado cómodo; y el circuit tracing solo produce una explicación satisfactoria en una fracción de los prompts que se le someten. El debate sobre lo que estas herramientas miden realmente está muy vivo.

Pero el ritmo de las publicaciones se acelera. Anthropic, DeepMind, EleutherAI, OpenAI, Apollo Research, Goodfire, Transluce — equipos enteros se forman alrededor de estas preguntas.

Si queremos confiar en modelos cada vez más potentes para decisiones cada vez más importantes, vamos a necesitar más que hacerles pasar un examen. Vamos a necesitar mirar dentro.

Una observación para terminar, que pide un último capítulo. Todo este recorrido, de la tokenización a las features, describe una sola familia: modelos que predicen el siguiente token. Pero las imágenes que producen Midjourney o Stable Diffusion no salen de una predicción de token — aparecen de golpe, en todas partes a la vez. ¿Qué mecánica puede fabricar una imagen sin elegir nunca un "siguiente" nada?

Actualizado el 2 de agosto de 2026