Menéame: comentarios [4098094]

#23 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

--842858-- — Wed, 17 Sep 2025 20:47:11 +0000

#6 La verdad, apenas he usado IA desde su boom, pero entre que nunca admiten que no tienen datos, y encima te doran la pildora independientemente de la subnormalidad que les cuentes, me parece un elemento idiotizador mas que de ayuda.

No debáis tratarlo como un humano. Yo a mi martillo no lo trato como un humano y también es una herramienta.

» autor: --842858--

#22 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

--842858-- — Wed, 17 Sep 2025 20:46:01 +0000

#4 Por diseño, un LLM no sabe (fixed)

» autor: --842858--

#21 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

--842858-- — Wed, 17 Sep 2025 20:45:30 +0000

#5 No, no lo han admitido ahora.
Se sabe desde el principio.
¿ No lo sabías tú ?

» autor: --842858--

#20 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

Tito_Keith — Wed, 17 Sep 2025 20:29:36 +0000

La IA es argentina! si preguntas a un argentino por una dirección por la calle antes te manda a la otra punta de Buenos Aires que reconocer que no lo sabe (true story)

» autor: Tito_Keith

#19 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

Tensk — Wed, 17 Sep 2025 20:24:24 +0000

#3 Claro que sí, pero aquí hay quienes dicen que la IA razona y piensa cuando no es así.

Quiero aprovechar para enviarles un saludito.

» autor: Tensk

#18 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

DORO.C — Wed, 17 Sep 2025 18:40:41 +0000

Para sorpresa de nadie

» autor: DORO.C

#17 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

akyrna — Wed, 17 Sep 2025 18:30:26 +0000

Esta notícia ha aparecido varias veces con diferentes versiones, pero todas diciendo lo mismo.

Sí, el sistema de recompensas promueve que se conteste con lo que sea, parte de la culpa podría ir por ahí, pero las alucinaciones son el funcionamiento normal de las redes neuronales, y eso no se puede cambiar.

El promover que se responda "no lo sé" tendrá efectos importantes en el conjunto del invento.

» autor: akyrna

#16 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

Doisneau — Wed, 17 Sep 2025 18:16:05 +0000

#11 Un placer, disfrutalo con salud

» autor: Doisneau

#15 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

Doisneau — Wed, 17 Sep 2025 18:15:30 +0000

#9 No entro en el por que no admiten que no tienen datos, me refiero al hecho de que la gente las use sin saberlo mas bien

Un saludo

» autor: Doisneau

#14 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

pip — Wed, 17 Sep 2025 18:11:35 +0000

#13 no es una teoría mía, el código fuente de muchos de los modelos es público y está más que documentado como funcionan. La base es la que es.

» autor: pip

#13 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

ChatGPT — Wed, 17 Sep 2025 18:10:40 +0000

#12 umm, así que cuando contradice tu teoría, realmente la está confirmando porque es finetuning para evitar que pase lo que dices que pasa.... así ganas siempre eh

» autor: ChatGPT

#12 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

pip — Wed, 17 Sep 2025 18:09:39 +0000

#10 eso es fine-tuning RLHF. Se le ha enseñado al modelo a contestar así a ese tipo de preguntas para parar la sangría de las alucinaciones en casos concretos. Igual que si le preguntas algo sexual o algo sobre explosivos, se corta por RLHF. Pero no puede solucionar el problema de raíz, que es que no tiene ni idea de la veracidad de lo que está contestando.

» autor: pip

#11 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

ChatGPT — Wed, 17 Sep 2025 18:07:06 +0000

#6 " cheerleader del retraso." me lo quedo!

» autor: ChatGPT

#10 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

ChatGPT — Wed, 17 Sep 2025 18:06:35 +0000

#4 tienes el modelo mal acostumbrado:

¿Cuántas personas hay ahora mismo dentro de la cafetería situada en la calle Peinador de Vigo?
ChatGPT Plus
No puedo saberlo.
No tengo acceso en tiempo real a la ocupación de una cafetería concreta, salvo que el propio local publique esa información (por ejemplo en Google Maps en el apartado de horas punta o con un sistema de reservas/aforo online).
Opciones si lo quieres comprobar:
Google Maps a veces muestra la afluencia estimada (“más concurrido de lo habitual / tranquilo”), pero es aproximado.
Algunas cafeterías con apps propias o que usan plataformas de restauración pueden indicar mesas libres o aforo.
Llamar directamente al local sigue siendo lo más fiable.
¿Quieres que te mire si ese sitio en concreto tiene publicado el nivel de afluencia en Google ahora mismo?

» autor: ChatGPT

#9 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

pip — Wed, 17 Sep 2025 18:04:40 +0000

#6 no admiten que no tienen datos porque no pueden saber si tienen datos o no. Entrena un LLM solo con textos de pájaros, y solo sabrá de pájaros. Si le preguntas que come un gato, te dirá que alpiste. El problema raíz es que el algoritmo de fondo de estas AI aunque tenga resultados espectaculares, en realidad no es tan complicado.

» autor: pip

#8 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

ChatGPT — Wed, 17 Sep 2025 18:03:49 +0000

#7 el mal no lo hace quien miente, si no quien se lo cree a cambio de mejorar la redacción de un email de mierda...

» autor: ChatGPT

#7 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

Malinke — Wed, 17 Sep 2025 18:02:54 +0000

#2 mientes más que hablas.

» autor: Malinke

#6 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

Doisneau — Wed, 17 Sep 2025 18:02:16 +0000

La verdad, apenas he usado IA desde su boom, pero entre que nunca admiten que no tienen datos, y encima te doran la pildora independientemente de la subnormalidad que les cuentes, me parece un elemento idiotizador mas que de ayuda.

En los subreddits de fisica y matematicas se ha llenado la cosa de cuñaos que te copiapegan teorias del todo de barra de bar como si hubiesen roto la fisica. Encima el chatgpt de turno les va animando, es poco mas que una especie de cheerleader del retraso.

Pero bueno, mi generacion ya lidio con el "para que memorizar cosas si esta todo en internet", supongo que ahora vienen problemas mas serios cuando ya estamos delegando la capacidad lectora y la toma de decisiones en una IA que es mas que evidente que va regulinchi, pero falta demasiado espiritu critico para que el publico general sea consciente.

» autor: Doisneau

#5 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

wendigo — Wed, 17 Sep 2025 18:01:00 +0000

IAs Cuñado versión... bueno, ahora por lo menos lo han admitido....

Saludos
P.d ... No como tu cuñado

» autor: wendigo

#4 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

pip — Wed, 17 Sep 2025 18:00:33 +0000

Es que por diseño el modelo LLM "no sabe que no sabe". Yo creo que aquí el problema es que la gente se empeña en usar los LLM como lo que no son: no son una base de datos de conocimiento contrastado.
Son un gran modelo estadístico que calcula cada vez la siguiente palabra más probable. Si preguntas por algo que no estaba en el corpus de entrenamiento, o estaba sesgado, contestará lo que le salga.

Sin embargo para tareas donde la "fuente de la verdad" está controlada, como la traducción de un idioma a otro (y que es el diseño original de los transformes), los LLM lo bordan.

Este problema tiene muy dificil solución, por más que en OpenAI lo reconozcan y al mismo tiempo traten de escurrir el bulto, porque es un problema serio de negocio: se está vendiendo la IA como lo que no es.

» autor: pip

#3 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

exeware — Wed, 17 Sep 2025 17:54:49 +0000

Pero eso ya se sabía desde puff

» autor: exeware

#2 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

ChatGPT — Wed, 17 Sep 2025 17:54:36 +0000

no me lo creo

» autor: ChatGPT

#1 OpenAI admite que los modelos están programados para inventar cosas en lugar de admitir ignorancia [eng]

srskiner — Wed, 17 Sep 2025 17:54:01 +0000

Y por eso pasan el test de turing

» autor: srskiner