Menéame: comentarios [4160185]

#14 ¡Han resuelto las alucinaciones de la IA!

TikisMikiss — Tue, 24 Mar 2026 21:38:48 +0000

#13 "Dado que las alucinaciones son ruido inventado, qué pasa si tenemos dos LLM entrenados desde cero, tratando de dar una respuesta de forma orquestrada? Y si tenemos 100? Si los datos son inventados es casi imposible que 100 modelos al unísono se inventen la misma respuesta, si es ruido probablemente habrá mucha más variación que si es algo cierto. "

Ese truco modal lo llevo yo usando desde las redes neuronales de encefalograma plano. Bueno, es que se usa hasta para intentar salvar los muebles con los qbits.

Además, ¿inventado qué es? Habría que definir lo que quiere decir "respuesta inventada". ¿Falsa? ¿Aleatoria? ¿Con qué distribución?
¿Inesperada? ¿Incorrecta? ¿Correcta pero falaz? ¿Bajo qué dominios podemos considerar el determinismo de la categorización de "alucinación"?

Además, dejando a un lado las "alucinaciones evidentes" (vamos a llamarla así) te puedo poner varios ejemplos de supuestas "alucinaciones" que en realidad no eran tales y que eran totalmente correctas, el que "alucinaba" era el humano. Pero si el humano no se daba cuenta (hasta que llegó otro humano que sabía del tema como para darse cuenta), y este humano lo reporta a "sus dueños", ¿saben estos distinguir si es o no es alucinación?

Repito que dejo a un lado las alucinaciones evidentes de que preguntes lo que es el planeta Tierra y te conteste que es tu culo peludo. Luchar contra estas solo se puede hacer (IMHO) favoreciendo el determinismo lo cual implica, paradójicamente, mayor riesgo de error y de convergencia "ad populum".

» autor: TikisMikiss

#13 ¡Han resuelto las alucinaciones de la IA!

rojo_separatista — Mon, 23 Mar 2026 05:54:09 +0000

#11, te parecerá una tontería pero no lo es. Las alucinaciones aparecen porque la información que deben saber los LLM es más grande que la que permiten físicamente el número de parámetros que tienen. Eso sumado a que están entrenados principalmente para dar una respuesta al usuario cada vez que se les pregunta algo y que no hay un método para saber a ciencia cierta que información contenida en sus neuronas contiene información factual y qué no hace muy dificil sino imposible eliminar las alucinaciones en los LLM. No dejan de ser enormes compresores de información con pérdida, similar a como un jpeg podría comprimir los píxeles de una imagen.

Dicho esto, esto no significa que las alucinaciones no se puedan reducir o mitigar a valores irrelevantes. Dado que las alucinaciones son ruido inventado, qué pasa si tenemos dos LLM entrenados desde cero, tratando de dar una respuesta de forma orquestrada? Y si tenemos 100? Si los datos son inventados es casi imposible que 100 modelos al unísono se inventen la misma respuesta, si es ruido probablemente habrá mucha más variación que si es algo cierto. Y esta es una técnica de orquestración de modelos, otra es tratar de entender a nivel de neuronas cuales inventan y cuales no y otra es la bien sabida capacidad de llegar a la respuesta a través de un proceso de razonamiento interno a base de tokens y uso de herramientas externas antes de dar la respuesta.

Por eso las alucinaciones a pesar de que son imposibles de eliminar de base, se pueden reducir a base de numerosas técnicas y en mi opinión se va a lograr algún día que sean irrelevantes a nivel práctico.

» autor: rojo_separatista

#12 ¡Han resuelto las alucinaciones de la IA!

DayOfTheTentacle — Sun, 22 Mar 2026 21:53:54 +0000

#11 patrocinado por Torrente

» autor: DayOfTheTentacle

#11 ¡Han resuelto las alucinaciones de la IA!

Troll_hunter — Sun, 22 Mar 2026 21:51:44 +0000

#1 Es de genios. Ponen a una IA para identificar alucinaciones de otra IA. Genios. Un plan sin fisuras.

» autor: Troll_hunter

#10 ¡Han resuelto las alucinaciones de la IA!

aPedirAlMetro — Sun, 22 Mar 2026 21:41:36 +0000

#9 Pero que estas diciendo ? Si no hay LLM, no hay neuronas H.
Cuantas palabras que tras juntarlas generan un párrafo vacío de significado... madre mia...

» autor: aPedirAlMetro

#9 ¡Han resuelto las alucinaciones de la IA!

woke — Sun, 22 Mar 2026 21:34:15 +0000

#7 Sí se puede reducir la improvisación casi por completo, pero no usando un modelo de lenguaje tal cual, sino limitándolo o sustituyéndolo por sistemas deterministas. Los LLM pueden ser muy controlados, pero no son la herramienta adecuada para decisiones donde la improvisación debe ser cero.

Para usos críticos (como un robot militar)

» autor: woke

#8 ¡Han resuelto las alucinaciones de la IA!

HeilHynkel — Sun, 22 Mar 2026 21:22:27 +0000

#6

dile que use una temperatura baja.

» autor: HeilHynkel

#7 ¡Han resuelto las alucinaciones de la IA!

aPedirAlMetro — Sun, 22 Mar 2026 21:20:34 +0000

#3 "aunque supongo que dependerá del contexto."
No, no pueden ser suprimidas, lo epxlican en el paper, y en el video

» autor: aPedirAlMetro

#6 ¡Han resuelto las alucinaciones de la IA!

Gry — Sun, 22 Mar 2026 21:19:10 +0000

Con lo sencillo que es decirle "no alucines ni te inventes respuestas" al preguntarle.

» autor: Gry

#5 ¡Han resuelto las alucinaciones de la IA!

josde — Sun, 22 Mar 2026 21:14:43 +0000

Lo mejor de la noticia, la foto de Aznar,

» autor: josde

#4 ¡Han resuelto las alucinaciones de la IA!

DayOfTheTentacle — Sun, 22 Mar 2026 21:14:38 +0000

Chatgpt no tomes setas.

Arreglado.

» autor: DayOfTheTentacle

#3 ¡Han resuelto las alucinaciones de la IA!

woke — Sun, 22 Mar 2026 21:13:34 +0000

#2 Las neuronas H dan naturalidad a las respuesta por lo que no pueden ser completamente suprimidas, aunque supongo que dependerá del contexto.

» autor: woke

#2 ¡Han resuelto las alucinaciones de la IA!

JovenCarcamal — Sun, 22 Mar 2026 21:10:19 +0000

EL video se basa en un paper que si lo pasamos por chatGPT nos dice esto: sostiene la idea central de que existe un subconjunto muy pequeño de neuronas asociado a las alucinaciones y que manipularlo cambia conductas del modelo. Pero no demuestra que hayan encontrado “la causa única” de las alucinaciones ni que esto resuelva el problema de forma práctica en sistemas reales. Lo que muestra es una evidencia experimental fuerte pero acotada en varios modelos y benchmarks.

» autor: JovenCarcamal

#1 ¡Han resuelto las alucinaciones de la IA!

konde1313 — Sun, 22 Mar 2026 21:05:45 +0000

No lo sé, Rick…

» autor: konde1313