¡Han resuelto las alucinaciones de la IA!

10 meneos

61 clics

¡Han resuelto las alucinaciones de la IA!

Un nuevo método identifica y regula las neuronas internas de los modelos de lenguaje que tienden a generar información inventada, reduciendo así de forma notable las alucinaciones sin necesidad de reentrenar el modelo completo y mejorando la fiabilidad de sus respuestas.

| etiquetas: alucinaciones , ia

8 2 2 K 98

12 comentarios

8 2 2 K 98

Comentarios destacados:

#2 JovenCarcamal

EL video se basa en un paper que si lo pasamos por chatGPT nos dice esto: sostiene la idea central de que existe un subconjunto muy pequeño de neuronas asociado a las alucinaciones y que manipularlo cambia conductas del modelo. Pero no demuestra que hayan encontrado “la causa única” de las alucinaciones ni que esto resuelva el problema de forma práctica en sistemas reales. Lo que muestra es una evidencia experimental fuerte pero acotada en varios modelos y benchmarks.

4 63

#3 woke *

Las neuronas H dan naturalidad a las respuesta por lo que no pueden ser completamente suprimidas, aunque supongo que dependerá del contexto.

0 18

#7 aPedirAlMetro

"aunque supongo que dependerá del contexto."
No, no pueden ser suprimidas, lo epxlican en el paper, y en el video

1 18

#9 woke

Sí se puede reducir la improvisación casi por completo, pero no usando un modelo de lenguaje tal cual, sino limitándolo o sustituyéndolo por sistemas deterministas. Los LLM pueden ser muy controlados, pero no son la herramienta adecuada para decisiones donde la improvisación debe ser cero.

Para usos críticos (como un robot militar)

0 18

#10 aPedirAlMetro *

Pero que estas diciendo ? Si no hay LLM, no hay neuronas H.
Cuantas palabras que tras juntarlas generan un párrafo vacío de significado... madre mia...

0 9