Acerca de
Dimitri Mérault
Desarrollo aplicaciones iOS desde 2009 — casi desde los inicios de la App Store. Step by Token es otro tipo de proyecto: nació de mi interés por los LLMs y de la convicción de que explicarlos es la mejor manera de comprenderlos de verdad.
Cuando los modelos de lenguaje empezaron a formar parte de mi día a día, quise ir más allá de las metáforas vagas. Construir las visualizaciones de este sitio me obligó a profundizar en los mecanismos con detalle — así es como mejor aprendí.
Me gustan las interfaces bien hechas y las explicaciones honestas. Step by Token intenta ser las dos cosas a la vez.
El proyecto gemelo
Step by Token explica cómo funciona. The Loss Curve muestra cómo se construye uno.
Los dos sitios están pensados para leerse juntos, sin que uno dependa del otro. Aquí manipulas visualizaciones para desarrollar una intuición mecánica; allí escribes el código, lo ejecutas en el navegador y te vas con un pequeño transformer entrenándose en tu propia máquina.
El método
Cada capítulo parte de una intuición concreta, nunca de una fórmula. Si un concepto se puede mostrar de forma interactiva, se muestra: cada uno de los 21 capítulos tiene al menos una visualización manipulable, y fue construyéndolas como mejor entendí lo que estaba describiendo.
El recorrido es acumulativo. Los tokens del capítulo 02 se convierten en vectores en el 03, se miran entre sí en el 04 y atraviesan un bloque Transformer en el 05. Nada se da por sabido antes de haber sido explicado.
La promesa es no hacer nunca trampas con la dificultad: cuando un mecanismo es contraintuitivo, el texto lo dice en lugar de suavizarlo.
Inspiraciones
La forma le debe mucho a The Nature of Code de Daniel Shiffman: bocetos manipulables como unidad pedagógica, una voz abierta y la paciencia de hacer interesante un concepto antes de pasar al siguiente.
En el fondo, los trabajos de Jay Alammar, de Distill y de Anthropic sobre interpretabilidad hicieron legibles fuera de los laboratorios los mismos mecanismos que este sitio intenta explicar a su vez.
Créditos
Construido con Next.js, React, Tailwind CSS y MDX. Las visualizaciones están escritas en SVG y CSS puros, sin biblioteca de gráficos.
Tipografía: Inter y JetBrains Mono, servidas mediante next/font.