Menéame: comentarios [4095362]

#17 TRANSFORMER EXPLAINER - Visualizador gráfico de cómo funciona un LLM internamente

sorrillo — Wed, 10 Sep 2025 05:45:15 +0000

#15 El comentario que has escrito y al que estoy respondiendo es consecuencia de una característica emergente de la organización de partículas fundamentales.

Sospecho que eres incapaz de explicar la elección de las palabras de tu comentario y el orden usado basándote únicamente en la teoría de campos de la física cuántica. Cuando un sistema se vuelve suficientemente complejo el resultado deja de poder explicarse a efectos prácticos por sus elementos que lo componen y se requiere de un análisis de alto nivel independiente del análisis de las partículas que lo componen.

Conocer de qué elementos está compuesto un sistema complejo y cómo interactúan entre ellos no basta para conocer y explicar el comportamiento de ese sistema. Conocer de qué partículas fundamentales está compuesto tu cerebro y cómo interactúan entre ellas esas partículas no basta para conocer y explicar el comportamiento de un cerebro. Tampoco cuando ese cerebro es digital.

» autor: sorrillo

#16 TRANSFORMER EXPLAINER - Visualizador gráfico de cómo funciona un LLM internamente

nalacily — Wed, 10 Sep 2025 05:05:29 +0000

#14 p(siguiente token∣tokens previos)

Eso es el bucle básico, algo que los creyentes en la fe artificial no saben que existe.

Pero un LLM hace mucho más. Lo primero es inyectar el prompt de sistema. Luego lo de clasificar el prompt de usuario para escoger un tipo de tratamiento. Lo de generar un "razonamiento" y sobre todo los intentos de verificación del resultado. Hay mucho código picado ahí dentro.

» autor: nalacily

#15 TRANSFORMER EXPLAINER - Visualizador gráfico de cómo funciona un LLM internamente

nalacily — Wed, 10 Sep 2025 05:02:01 +0000

#11 Eso de las características emergentes suena demasiado a querer ver lo que no está ahí.

» autor: nalacily

#14 TRANSFORMER EXPLAINER - Visualizador gráfico de cómo funciona un LLM internamente

TikisMikiss — Tue, 09 Sep 2025 19:45:25 +0000

#8 #10 Dicho todo esto, si queréis una abstracción guapa guapa y que todo el mundo lo entenderá, una LLM hace esto:

p(siguiente token∣tokens previos)

Ni hace falta el paso intermedio de saber qué es una red neuronal para saber eso.

¿Que saber cómo funciona una red neuronal, qué hace la/s capa/s "oculta/s", cómo "entrena", los pesos, la función de coste, etc etc, ayuda a entender el asunto? Sí, pero todo eso ya se ve en este simulador, aunque sea sobre un tipo de NN específica con sus peculiaridades. Así que está perfecto.

» autor: TikisMikiss

#13 TRANSFORMER EXPLAINER - Visualizador gráfico de cómo funciona un LLM internamente

TikisMikiss — Tue, 09 Sep 2025 19:33:28 +0000

#10 Y más allá de lo que digo en #12, para tener un conocimiento profundo del asunto lo mejor es hacer las especializaciones de Coursera de Deep Learning y de NLP (ambas de Andrew Ng, de Stanford, que dirigía el curso inicial de Machine Learning que fue uno de los primeros de Coursera y una maravilla) y luego ya irse a las LLMs. Me refiero ya según uno quiera meterse en el asunto. Las especializaciones están muy chulas y son amenas.

» autor: TikisMikiss

#12 TRANSFORMER EXPLAINER - Visualizador gráfico de cómo funciona un LLM internamente

TikisMikiss — Tue, 09 Sep 2025 19:28:46 +0000

#10 Yo por lo que entendí de su primer comentario era hacer una visualización de una red neuronal (que bien pudiera ser simple para el ejemplo) de forma más genérica:

"Sería más interesante explicar cómo funciona una red neuronal, porque la gran mayoría de la gente no lo sabe."

Los transformers son un tipo/arquitectura de red neuronal. Si nos vamos a una abstracción intermedia entre un transformer, arquitecturas para secuencias... hasta llegar a la estadística y las regresiones lineales, entiendo que lo suyo sería una simulación de una red neuronal simple o, si quieres acercarte más a lo que viene luego, una profunda. Pero yo por divulgación elegiría una simple primero.

En esta puedes elegir hasta las capas que quieres, pero no sé yo si como divulgación inicial es muy buena:

playground.tensorflow.org/#activation=tanh&batchSize=10&datase

Luego está este, que está más chulo:
simulators.yobee.co.in/

Pero tanto el uno como el otro requieren tener una mínima base de qué es una red neuronal de antes. Un simulador tan "intuitivo/explicativo" enfocado a la divulgación para profanos, como el que has puesto tú para transformers, pero que sea sobre redes neuronales en general, yo no he visto (habrá, pero bueno). Y aunque hubiera, ¿cuál es el propósito de dicha divulgación, si el fin es entender las LLMs de un vistazo rápido?

Por eso he insistido al user que al final para algo como "habría que explicar a la gente cómo funciona una red neuronal" no es tan fácil como ponerles cualquier simulación y ya, porque además, ¿qué propósito tiene esa red neuronal? ¿Es para clasificación? ¿Es para algo más simple como regresión? ¿Es para secuencias?

Al final esa divulgación implica introducir varias capas de conocimiento, y todo ello tampoco va a ser eficiente para el objetivo final de esta divulgación (la que tú enlazas), que es tener una idea para el público general de lo que hace un transformer (y de que al final no deja de """"simplemente"""" predecir el siguiente token).

Por eso está simulación (la que enlazas tú) para visualizar los transformers y hacerse una idea general de cómo funciona un LLM está más que cojonuda, y si quieres irte más allá, te toca una divulgación más extensa y que nadie que no esté interesado se va a mirar.

» autor: TikisMikiss

#11 TRANSFORMER EXPLAINER - Visualizador gráfico de cómo funciona un LLM internamente

sorrillo — Tue, 09 Sep 2025 19:24:00 +0000

#1 Es alucinante pero los hay que se creen que por conocer las partes que constituyen el cerebro digital de un LLM eso les capacita para valorar las características emergentes de ello.

Es equiparable a considerar que un físico de partículas por su conocimiento de las partes constituyentes del cerebro tiene capacidad para valorar las características emergentes de ese cerebro.

Como si un físico de partículas o un biólogo fueran autoridades para determinar si lo que ha hecho una persona es artístico o un mero plagio, si es creativo o una simple repetición de lo aprendido, si es capaz de crear obras nuevas o solo mezclas de lo aprendido de otros.

» autor: sorrillo

#10 TRANSFORMER EXPLAINER - Visualizador gráfico de cómo funciona un LLM internamente

pip — Tue, 09 Sep 2025 19:10:56 +0000

#8 #9 si podéis concretar un poco más sobre a que abstracción os referís os lo agradezco. Yo he leído bastante de AI y, aparte de los papers académicos, solo he leído algo con más detalle que esto: el libro "Build a Large Language Model (From Scratch)". Por encima (mirando el tema más desde lejos), la mayor parte de la bibliografía ataca o a cuestiones prácticas (como usar los LLM), sociales (impacto en la sociedad, etc) o filosóficas (como se compara respecto al cerebro humano, si las máquinas pueden o no pensar, si existe el alma, etc).

Así que agradecería que precisáseis más para buscar bibliografía sobre ese tema en particular.

» autor: pip

#9 TRANSFORMER EXPLAINER - Visualizador gráfico de cómo funciona un LLM internamente

TikisMikiss — Tue, 09 Sep 2025 18:54:58 +0000

#8 Ya, si te he entendido. Pero esa abstracción de la que hablas requeriría o bien de una simulación específica (que igual hay alguna por ahí) o bien pues cualquier artículo divulgador. La cuestión es que al final tienes que combinar varios ámbitos de conocimiento incluso para un "resumen abstracto". Eso el 99% de la gente no lo va a hacer ni con este tema ni con ninguno. Y es totalmente lógico.

A mí me preguntas por cuestiones de cómo funciona mi coche y... ni guarra, oiga.

» autor: TikisMikiss

#8 TRANSFORMER EXPLAINER - Visualizador gráfico de cómo funciona un LLM internamente

nalacily — Tue, 09 Sep 2025 18:51:35 +0000

#7 A ver, no, más en detalle no, al contrario, más en general, más desde lejos. Es lo que yo veo que no se entiende en absoluto.

Lo que no es una crítica a la simulación. Yo hablo de lo que veo que la gente no entiende.

» autor: nalacily

#7 TRANSFORMER EXPLAINER - Visualizador gráfico de cómo funciona un LLM internamente

TikisMikiss — Tue, 09 Sep 2025 18:38:31 +0000

#6 Ya pero al final acabamos explicando lo que es una regresión logística, y de ahí a fundamentos de las matemáticas.

La simulación está bastante bien, si necesitas más contexto y no quieres hacerte una especialización... pídele un resumen a ChatGPT

» autor: TikisMikiss

#6 TRANSFORMER EXPLAINER - Visualizador gráfico de cómo funciona un LLM internamente

nalacily — Tue, 09 Sep 2025 18:33:56 +0000

#3 La simulación es una maravilla, pero es necesario entender de qué forma parte, que es lo que yo veo que no se sabe.

» autor: nalacily

#5 TRANSFORMER EXPLAINER - Visualizador gráfico de cómo funciona un LLM internamente

nalacily — Tue, 09 Sep 2025 18:32:02 +0000

Lo que no te cuentan ahí demasiado claramente es que la memoria necesaria para hacer un transformer crece cuadráticamente respecto al número de tokens a mirar. Esto quiere decir que escalarlo es imposible.

» autor: nalacily

#4 TRANSFORMER EXPLAINER - Visualizador gráfico de cómo funciona un LLM internamente

TikisMikiss — Tue, 09 Sep 2025 18:31:38 +0000

#3 Para visualizarlo y hacerse una idea yo creo que está bastante bien, y está chulo cómo lo han hecho.

» autor: TikisMikiss

#3 TRANSFORMER EXPLAINER - Visualizador gráfico de cómo funciona un LLM internamente

pip — Tue, 09 Sep 2025 18:26:25 +0000

#1 bueno, realmente esta simulación (con código real) recoge una buena parte del núcleo de un LLM, los transformers y la red neuronal posterior. Puedes introducir un prompt de ejemplo y expandir con el ratón cada paso viendo los vectores, matrices, etc, y atendiendo a las explicaciones comprender por qué procesos se pasan hasta generar la lista de tokens de salida más probables y cómo elige uno. Aunque sea incompleto, sinceramente no he encontrado en ningún sitio una explicación más gráfica e interactiva que ésta.

Para un programador que quiera comprender el funcionamiento sin entrar en papers matemáticos y sin aspirar a programar su propio LLM (aunque en el repositorio está el código), esto es oro puro... IMHO.

» autor: pip

#2 TRANSFORMER EXPLAINER - Visualizador gráfico de cómo funciona un LLM internamente

TikisMikiss — Tue, 09 Sep 2025 18:23:53 +0000

#1 Para aprender todo lo que comentas hay especializaciones en Coursera muy buenas.

Para lo demás, pues es como todo, el 99% de la gente se va a quedar con lo mínimo o puede echar un ojo a alguna explicación divulgativa algún día por curiosidad, pero poco más. Es normal.

» autor: TikisMikiss

#1 TRANSFORMER EXPLAINER - Visualizador gráfico de cómo funciona un LLM internamente

nalacily — Tue, 09 Sep 2025 18:17:24 +0000

El transformer es solamente un componente de la red neuronal. Sería más interesante explicar cómo funciona una red neuronal, porque la gran mayoría de la gente no lo sabe.

Aparte de eso, un LLM es un montaje realizado usando redes neuronales como componentes, pero también hay más cosas. Sería aún más interesante explicar qué es un LLM, porque tengo observado que los creyentes en la IA que corren por aquí, pues no lo saben. Es alucinante pero va en serio que no lo saben.

» autor: nalacily