OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

Siempre producirán resultados plausibles pero falsos, incluso con datos perfectos, debido a límites estadísticos y computacionales fundamentales. Los modelos de razonamiento avanzados de OpenAI alucinaban con mayor frecuencia que los sistemas más simples. El modelo O1 de la compañía alucinaba el 16 % del tiempo al resumir información pública, mientras que los modelos más recientes, O3 y O4-mini, alucinaban el 33 % y el 48 % del tiempo. “A diferencia de la inteligencia humana, carece de la humildad necesaria para reconocer la incertidumbre”.

[#3 Grahml]

Vamos, que esas historias para no dormir los que difunden alucinaciones típicas de IA del tipo que el 99 % de los trabajos "white collar) van a desaparecer del 2030, son cuentos asustaviejas basados en nada.

Quién quiere una herramienta informática que te da resultados, ya no sólo de los que no te puedes fiar, sino además (y lo más importante), a la que no le puedes "rendir cuentas", siendo tú el único responsable por dar por correctos sus análisis, creados por estadística, y…   

[#5 la_gusa]

#3 GenAI falla, las IAs "tradicionales" dan generalmente un intervalo de confianza, y puedes ajustar sus predicciones basado en el intervalo con el caso de uso (no vas a usar el mismo intervalo para un edificio de oficinas que para una frontera).

GenAI es cojonuda para algunos casos de uso, pero cuando escucho cosas como automatizar procesos basados en esta tecnología, me da escalofríos. Cualquiera que entienda un mínimo como funciona sabe que nunca será precisa por fundamentos

[#7 Ah_no_nimo]

#3 Asi a brocha gorda, son procesos estadisticos.
Si quieres algo cercando al 100% de fiabilidad sale mas barato un experto humano

[#1 hormiga_cartonera]

No hay más preguntas, Señoría.

Empieza la cuenta atrás de la burbuja.

[#6 Pablosky]

#1 En realidad sigue siendo una herramienta útil si la atas en corto y válidas los resultados, lo que no vas a conseguir jamás es reemplazar a tus empleados.

[#2 Mltfrtk]

"Siempre producirán resultados plausibles pero falsos..."

Pero hay gente que se informa con la IA.

[#4 Tensk]

El problema no es "informarse con la IA", el problema es admitir lo qie dice como palabra divina sin ningún tipo de crítica ni verificación.

Eso y los que creen qie la IA piensa y razona.

Anda, si #_2 me tiene ignorado. Joer, qué bien