Cada vez que se habla de Inteligencia Artificial Generativa, los comentarios se llenan de la misma frase repetida como un mantra: "es solo estadística", "no razona, solo predice la siguiente palabra". La respuesta corta a la pregunta del título es: sí. Pero la respuesta larga es que eso no significa lo que mucha gente cree que significa. Reducir un LLM a eso es como decir que un cerebro humano es "solo un montón de células intercambiando iones": técnicamente cierto, pero absolutamente inútil para explicar el razonamiento humano.

De la frecuencia a la topología

El error base de la crítica habitual es asumir que los LLM funcionan mediante tablas de frecuencias o permutaciones simples, como el autocompletar de tu móvil de 2015.

Lo que aprenden estos modelos durante el pre-entrenamiento no es una lista de qué palabra suele ir detrás de otra. Lo que hacen es aprender a iterar a lo largo de una función de distribución extraordinariamente compleja. Esta función encapsula la estructura lógica, semántica y sintáctica de todo el corpus de texto que ha producido la humanidad.

Imaginad un mapa multidimensional (el espacio latente). En este mapa, el modelo no memoriza frases; entiende la topología de los conceptos. "Rey" está cerca de "Reina" en la misma dirección y distancia vectorial que "Hombre" está de "Mujer".

• El modelo no "copia y pega".
• El modelo navega por esta función matemática.

Esto es lo que le permite "saber cosas" y hablar siguiendo las reglas humanas. No está recuperando datos de una base de datos, está reconstruyendo información navegando por esa distribución aprendida.

La importancia del post-entrenamiento y RLHF

Aquí es donde la mayoría de los comentarios críticos se equivocan más. Si nos quedáramos solo con la predicción de palabras (el modelo base), tendríamos un sistema capaz de hablar, pero incoherente y sin propósito.

Lo que dota de sentido a los LLM modernos no es la predicción estadística, sino el Post-entrenamiento mediante Aprendizaje por Refuerzo con Retroalimentación Humana (RLHF).

En esta fase, no se enseña al modelo a hablar, sino a comportarse como nosotros queremos.

Es aquí donde los ingenieros enseñan al modelo en qué sentido debe desplazarse por esa función de distribución para ser útil. Se le premia o castiga algorítmicamente para moldear su "intencionalidad". Gracias al RLHF, el modelo aprende, entre otras cosas, a:

1. Encadenar ideas (Reasoning): No solo busca la palabra que "suena bien", sino la que sigue una lógica deductiva paso a paso.
2. Usar herramientas: El modelo aprende a reconocer cuándo su función de distribución no tiene el dato preciso (ej. una raíz cuadrada compleja) y decide detenerse para llamar a una calculadora o ejecutar código Python.
3. Consultar datos externos: Aprende a buscar en internet cuando su "memoria" está desactualizada.

Conclusión

Decir que un LLM no tiene propósito porque "su mecanismo base es predecir tokens" es caer en un reduccionismo que nos impide ver la realidad. Esa predicción es el mecanismo de transporte, pero la ruta que elige el modelo viene determinada por un entrenamiento que va mucho más allá de la estadística simple.

Vemos a mucha gente cómoda en la simplificación del "loro estocástico" porque es una respuesta fácil a un problema complejo. Pero si queremos debatir seriamente sobre el futuro de la tecnología, deberíamos molestarnos en indagar cómo funciona esa función de distribución y cómo el aprendizaje por refuerzo está creando sistemas que, efectivamente, razonan (aunque sea de una forma diferente a la nuestra).

Recuerdo algún caso en Estados Unidos, casos sonados como el del envenenamiento por cromo hexavalente del agua potable de Hinkley, California, en el que más de 900 personas de ese pueblo, de unos 2000 habitantes, denunciaron a una empresa energética, PG&E, por contaminar su agua (la de beber, ducharse, la de las piscinas…) y producirles diferentes tipos de cáncer. El caso se hizo famoso internacionalmente por la película "Erin Brockovich". Ésta es la auténtica Erin, que dijo que la peli era acertada al 98%:

Lo que quería la gente afectada era un juicio público, con jurado, que fuera un escándalo nacional y que la reputación de PG&E quedase por los suelos, como se merecía, además de conseguir una indemnización lo más alta posible.

Y a lo que vengo yo es: en un momento determinado, la firma de abogados que lleva su caso les aconseja que, en vez de un juicio, consientan en que sea un arbitraje, con el resultado decidido por un juez y sin posibilidad de recurso por ninguna de las partes, porque un juicio se alargaría años y años, con recursos y más recursos de la otra parte, con dinero y abogados propios para sostener y alargar esa situación el tiempo que fuera necesario, y les da ejemplos de casos en los que se decidieron por juicio en vez de arbitraje que llevaban décadas esperando, con denunciantes/afectados incluso muertos por el camino.

Y es aquí donde queda demostrado que la justicia es contra los robagallinas, contra los que no se pueden permitir sostener los gastos de un juicio en el tiempo, eso queda para los poderosos, que te hundirán en papeleo y gastos hasta que desistas o te mueras.

Pero también digo que eso es así porque lo permite la legislación: el sistema SABE que las maniobras de dilación, para provocar el desistimiento de la otra parte, es habitual entre la gente poderosa, con posibles, haciendo que la justicia sea injusta ya en su fase de administración:

“Nada se parece tanto a la injusticia como la justicia tardía” - Séneca.

Se me ocurre, para igualar la situación, que, una vez que se ha dictado sentencia, la posible indemnización aumente en un porcentaje importante (¿un 20, un 50%?) por cada recurso que se presente. O que los costes procesales, como los impuestos (¡JA!), sean proporcionales al poder económico de cada una de las partes, de manera que alargar el juicio no sea lesivo sólo para una de las partes, la más débil.

Al fin y al cabo, la Justicia no es el póker, no debería depender de las "fichas" que tenga cada uno, y que cada apuesta valga lo mismo para el que tiene mucho y el que tiene poco. Debería compararse con la Sanidad tal y como la conocemos en España: en la Sanidad Pública se te va a curar igual tanto si tienes dinero como si no, y en la Justicia Pública debería ser igual: se te va a atender y se te va a administrar Justicia tanto si tienes dinero como si no, independientemente del dinero que tenga la otra parte.

En cuanto a Hinkley, viendo la película uno podría pensar que todo terminó bien (seguro que la habéis visto), consiguieron una buena indemnización, pero los enfermos de cáncer siguieron teniendo cáncer (aunque, al menos, con dinero para pagar tanto sus deudas pasadas como tratamientos futuros), y ahora Hinkley es, prácticamente, un pueblo fantasma, con su población reducida a la mitad. Imagino que nadie quiere vivir en un pueblo con el suelo y los acuíferos contaminados…

Y, en realidad, tuvieron MUCHA suerte: el juez declaró a su favor por una filtración de documentos internos de PG&E, pero, en realidad, antes de eso lo tenían muy crudo: PG&E tenía "expertos" infiltrados en organizaciones contra el cáncer que hacían informes "científicos" diciendo que el cromo hexavalente no tenía nada que ver con el cáncer. Llegaron a firmar en nombre de su autor, el científico chino Jian Dong Zhang, cuando éste ya había muerto, la retractación de un informe previo que relataba la relación entre el cromo hexavalente y el cáncer. O hacían informes, también falsos, diciendo que el agua de Hinkley no contenía cromo por encima de los niveles permitidos. Si el juez no hubiera tenido esos documentos internos, que reconocían la contaminación y el daño que producía, seguramente hubiera fallado a favor de la empresa.

Conclusión: lo que defiende a la gente de la calle de los poderosos que sólo quieren acumular más dinero, incluido en temas como la Justicia, es la regulación oficial. De otra manera, estamos indefensos, su poder económico hará que no puedas hacer nada contra ellos, en cualquiera que sea el ámbito: judicial, laboral, social…

Y, ojo, los poderosos también intentarán influir en esa regulación, por eso no hay que cejar en la vigilancia de los intereses de la mayoría y en su regulación correcta. De sus intereses ya se ocupan ellos.

Fuentes:

en.wikipedia.org/wiki/Hinkley_groundwater_contamination

en.wikipedia.org/wiki/Erin_Brockovich