Menéame: comentarios [4099531]

#24 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

Cyberbob — Wed, 24 Sep 2025 15:44:40 +0000

#15 el tema de IA entrenada con contenido generado por IA que has nombrado (y es un tema del que se habla poco o nada) va a ser una puta catástrofe, sí.

» autor: Cyberbob

#23 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

ed25519 — Wed, 24 Sep 2025 06:40:27 +0000

#3 Yo me imagino esta conversacion en el mundo real.
Jefe: "Tienes los documentos que te pedi ayer Alberto?"
Alberto: " Me cago en tu pu... madre...y en los muer.... de tu sant.... madre....."
Alberto: "Perdona es que tengo alucinaciones"

Vamos que la IA simplemente copia con lo que ha sido entrenada

» autor: ed25519

#22 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

prejudice — Wed, 24 Sep 2025 05:04:55 +0000

#20 permite reemplazar a los empleados mas baratos como mucho (los becarios, desarrolladores junior, etc), pero posiblemente se tenga que pagar más a los que tengan mas experiencia y capacidad de criterio para revisar lo que genera la IA
Las gallinas que entran por las que salen

» autor: prejudice

#21 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

Pablosky — Tue, 23 Sep 2025 19:59:15 +0000

#20 justo.

» autor: Pablosky

#20 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

Setis — Tue, 23 Sep 2025 16:21:50 +0000

#6 Es decir, el 90% de la sobrevaloración (esa parte que dice "reemplazar a tus empleados") en realidad es cuento.

» autor: Setis

#19 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

Findeton — Tue, 23 Sep 2025 16:05:02 +0000

#1 En realidad hay otros tipos de IA que no tienen alucinaciones, como el modelo basado en la neurología de Numenta/1000 brains project.

» autor: Findeton

#18 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

rojo_separatista — Mon, 22 Sep 2025 10:39:52 +0000

#17, pues eso, que podemos estar escribiendo frases todo el día que sin llegar a ser mentira, no dicen nada.

» autor: rojo_separatista

#17 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

chavi — Mon, 22 Sep 2025 10:38:17 +0000

#13 Un martillo tampoco es lo mismo que una grúa y los dos son herramientas.

Claro que el Apolo 13 era un medio de transporte. Que crees tu que era?

» autor: chavi

#16 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

Tensk — Mon, 22 Sep 2025 09:32:37 +0000

#15 Correcto, ya hay artículos generados por IA pero, quiero pensar, son aquellos en los que a la IA se le da una mínima información y te genera el texto, tipo resumen de partidos de júrgol.

» autor: Tensk

#15 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

Priorat — Mon, 22 Sep 2025 09:25:07 +0000

El problema es que mucha gente se informa en internet en contenidos generados por IA. Igual tu mismo te estás informando con la IA y no sabes que es IA- Y dentro de poco tendremos a la IA entrenandose con contenidos generados por IA, muchos de ellos alucinaciones.

Y esto nos va a traer consecuencias catastróficas porque en un tiempo ya no tendremos ni idea de lo que es real y de lo que no lo es. Nadie va a tener ni idea de ello.

#4 El problema es que ya nos estamos informando con IA y eso aunque no usemos ninguna IA.

» autor: Priorat

#14 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

sliana — Mon, 22 Sep 2025 09:20:26 +0000

es que la realidad no es estadisticamente predecible. y encima si la entrenas con verdades, medias verdades, mentiras e informacion que cambia con el tiempo... pero vamos, que eso estaba claro desde el principio menos para los periodistas y quien se ha tomado lo de "inteligencia" literalmente.

» autor: sliana

#13 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

rojo_separatista — Mon, 22 Sep 2025 08:31:23 +0000

#8, el Apolo 13 es un medio de transporte igual que un carromato.

» autor: rojo_separatista

#12 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

rojo_separatista — Mon, 22 Sep 2025 08:29:40 +0000

#1, #2, #3, #5, #7, los humanos también producen resultados plausibles pero falsos y hay gente que se informa con ellos.

Esto como la conducción autónoma o los aviones modernos, el riesgo cero no existe, pero hay que ver si compensa la relación coste-beneficio y si las alucinaciones se pueden mitigar hasta el punto de que se equivoquen menos que los humanos. Todo esto sin contar el tiempo que pueda tardar hasta que aparezca una mejora en la arquitectura que quizás las pueda eliminar del todo, pensad que las mentes humanas más inteligentes del mundo están trabajando en esto ahora mismo.

Por otro lado esto es una prueba más de que las redes neuronales son capaces de crear nuevo contenido y no se limitan a repetir al pie de la letra lo que han leído antes, sino jamás alucinarían.

» autor: rojo_separatista

#11 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

volandero — Mon, 22 Sep 2025 08:24:48 +0000

Introducción a Chat GPT:

» autor: volandero

#10 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

Tensk — Mon, 22 Sep 2025 08:09:49 +0000

#9 Yo, como tal, no puedo decir que sea usuario de IA. Lo más que uso es la de google pero sólo porque "viene integrada" cuando haces una búsqueda. En mi trabajo también se está empezando a usar un poco o, más bien, a verse en qué se puede usar (resúmenes, tareas repetitivas) pero apenas la he tocado.

Ya lo he contado alguna vez, en cierta ocasión no hace tanto busqué en google cómo hacer en el trabajo algo que no encontraba por ninguna parte y me dijo Gemini que "sí, hombre sí, vas a la configuración y pinchas aquí y allí y allá", sólo que yo ya sabía que "aquí y allí y allá" pues... es que no existían.

Pero vamos, que en su momento en la carrera tuve una asignatura que era una especie de introducción a la IA y, aunque breve, el tema me resultó harto interesante pero también le vi sus fallos, que eran obvios y, como dice el titular de este meneo, son inevitables por mucho que quieras reducirlo.

Así que yo si tengo que seguir lo que dice la IA me fío lo justo, que es nada, y más bien la podría utilizar como un "a ver qué me dice que no haya visto yo", puesto que es bastante probable que haya sido entrenada con documentación a la que yo no tengo acceso ni vía online. Eso sí, una vez tenga la respuesta, trataré de comprobarla antes de hacer nada o iré probando poco a poco si no tengo otro remedio.

Hacerlo sin un doble chequeo, aunque suene a cosa que harían nuestros padres/abuelos cuando no se fiaban de los ordenadores para cosas más sencillas, a día de hoy me parece un error salvo, lo dicho (y aún así) para tareas repetitivas como hacer resúmenes y otras cuestiones más repetitivas, como tratar de ayudar a usuarios/clientes en incidencias más o menos sencillas y habituales.

» autor: Tensk

#9 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

daTO — Mon, 22 Sep 2025 07:59:35 +0000

#4 A ver, es que si hay que preguntar a la IA y después buscar a ver si se ha equivocado, para eso ya lo busco yo y me ahorro el primer paso.

Hace poco me jodió la Gemini de Google. Pregunté por una medidas sobre un tema, di por bueno lo que me dijo, porque iba con prisas, y resulta que estaba equivocado y me tocó hacer el trabajo dos veces. Ya me fue bien como advertencia. Nunca más.

» autor: daTO

#8 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

chavi — Mon, 22 Sep 2025 07:51:39 +0000

#3 Es que son simples herramientas como un excel, un word, una calculadora o un martillo

» autor: chavi

#7 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

Ah_no_nimo — Mon, 22 Sep 2025 06:12:25 +0000

#3 Asi a brocha gorda, son procesos estadisticos.
Si quieres algo cercando al 100% de fiabilidad sale mas barato un experto humano

» autor: Ah_no_nimo

#6 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

Pablosky — Mon, 22 Sep 2025 06:00:27 +0000

#1 En realidad sigue siendo una herramienta útil si la atas en corto y válidas los resultados, lo que no vas a conseguir jamás es reemplazar a tus empleados.

» autor: Pablosky

#5 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

la_gusa — Mon, 22 Sep 2025 05:43:48 +0000

#3 GenAI falla, las IAs "tradicionales" dan generalmente un intervalo de confianza, y puedes ajustar sus predicciones basado en el intervalo con el caso de uso (no vas a usar el mismo intervalo para un edificio de oficinas que para una frontera).

GenAI es cojonuda para algunos casos de uso, pero cuando escucho cosas como automatizar procesos basados en esta tecnología, me da escalofríos. Cualquiera que entienda un mínimo como funciona sabe que nunca será precisa por fundamentos

» autor: la_gusa

#4 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

Tensk — Mon, 22 Sep 2025 05:08:44 +0000

El problema no es "informarse con la IA", el problema es admitir lo qie dice como palabra divina sin ningún tipo de crítica ni verificación.

Eso y los que creen qie la IA piensa y razona.

Anda, si #_2 me tiene ignorado. Joer, qué bien

» autor: Tensk

#3 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

Grahml — Mon, 22 Sep 2025 04:29:05 +0000

Vamos, que esas historias para no dormir los que difunden alucinaciones típicas de IA del tipo que el 99 % de los trabajos "white collar) van a desaparecer del 2030, son cuentos asustaviejas basados en nada.

Quién quiere una herramienta informática que te da resultados, ya no sólo de los que no te puedes fiar, sino además (y lo más importante), a la que no le puedes "rendir cuentas", siendo tú el único responsable por dar por correctos sus análisis, creados por estadística, y nunca con verdadero raciocinio.

Las IAs actualmente (y viendo lo dicho por OpenAI en el futuro también), fallan más que una escopeta de feria. Facilitan ciertos trabajos, cierto, como una Excel, un word, una calculadora etc.

Pero necesitan a morir la intervención humana.

» autor: Grahml

#2 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

Mltfrtk — Mon, 22 Sep 2025 04:27:40 +0000

"Siempre producirán resultados plausibles pero falsos..."

Pero hay gente que se informa con la IA.

» autor: Mltfrtk

#1 OpenAI admite que las alucinaciones de IA son matemáticamente inevitables, no solo fallas de ingeniería [EN]

hormiga_cartonera — Mon, 22 Sep 2025 04:19:53 +0000

No hay más preguntas, Señoría.

Empieza la cuenta atrás de la burbuja.

» autor: hormiga_cartonera