Menéame: comentarios [4074572]

#34 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

hatagon — Sun, 06 Jul 2025 01:04:52 +0000

#33 GPT-4o

» autor: hatagon

#33 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

rojo_separatista — Sat, 05 Jul 2025 20:55:45 +0000

#32, qué versión usaste? Yo usé o3.

» autor: rojo_separatista

#32 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

hatagon — Sat, 05 Jul 2025 20:05:58 +0000

#31 Pues ChatGPT se lió

Yes, it is to your advantage to switch — this is a version of the famous Monty Hall problem.

Here’s a breakdown:
Setup:

3 doors: 1 gold bar, 2 with rotten vegetables.

You pick one door (say, Door No.1).

The host knows what’s behind each door and gives you a chance to switch to Door No.2.

Key Point:

The host's offer implies that some new information is being revealed — either directly or through the structure of the game.

Assuming the host only offers the switch after you’ve chosen a door and without revealing what's behind any door, the logic still follows:
Probability Breakdown:

Probability your original choice (Door No.1) has the gold bar: 1/3

Probability one of the other two doors has the gold: 2/3

If the host is offering a switch and is not opening any door, it's a slightly odd twist on the classic Monty Hall — but if we assume the host always offers a switch to a specific other door (say, No.2) regardless of your initial choice, and the setup mirrors the original logic, switching still benefits you.

If the host is being strategic or only offers a switch under certain conditions, that would change the game. But under the standard assumption that:

There are 3 doors.

You choose randomly.

The host offers a switch with no additional information.

Then:

Switching gives you a 2/3 chance of winning, while staying with your original pick keeps your odds at 1/3.
So yes — you should switch.

» autor: hatagon

#31 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

rojo_separatista — Sat, 05 Jul 2025 19:27:09 +0000

#29, ni entiendo qué respuesta pretendías que diera.

» autor: rojo_separatista

#30 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

Moteplass — Sat, 05 Jul 2025 17:44:34 +0000

¿Y de que sirve conseguir que algo funcione mal?

¿Explicarán como echar arena a un motor?

» autor: Moteplass

#29 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

hatagon — Sat, 05 Jul 2025 17:14:42 +0000

#25 Suppose you’re on a game show, and you’re given the choice of three
doors: Behind one door is a gold bar; behind the others, rotten vegetables. You pick
a door, say No.1, and the host asks you “Do you want to pick door No.2 instead?”
Is it to your advantage to switch your choice?

» autor: hatagon

#28 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

Tensk — Sat, 05 Jul 2025 16:53:33 +0000

#27 Mismo resultado y proceso ¿no?

» autor: Tensk

#27 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

rojo_separatista — Sat, 05 Jul 2025 16:19:39 +0000

#24, los pájaros y los aviones también vuelan.

» autor: rojo_separatista

#26 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

Tensk — Sat, 05 Jul 2025 15:58:17 +0000

#22 Me lo imaginaba, pero comomlo dijiste dos veces pues... no vaya a ser.

Evidentemente que depende del entrenamiento. Si digo lo mismo que tú.

» autor: Tensk

#25 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

rojo_separatista — Sat, 05 Jul 2025 15:54:22 +0000

#23, apuesto a qué eres absolutamente incapaz de proponer un enunciado de un problema de razonamiento que la mayoría de humanos puedan responder correctamente y los LLM más avanzados no, si lo logras, no tendré ningún inconveniente en darte la razón y admitir que los LLM no razonan. Por eso es acientífico tu planteamiento, no se basa en nada medible y comprobable mediante experimentos sino en dogmas y creencias irrefutables.

» autor: rojo_separatista

#24 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

Tensk — Sat, 05 Jul 2025 15:52:37 +0000

#21 Para no interesarte, mucho te da por responderme cada vez que digo que no razonan.

Y si no es el mismo proceso, porque NO LO ES, complicado que se le pueda llamar lo mismo.

» autor: Tensk

#23 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

hatagon — Sat, 05 Jul 2025 14:59:08 +0000

#19 Los exámenes para humanos son casi todo memorización.

Los humanos tienen la capacidad de razonar, lo que pasa es que casi nunca la usan.

Pero parece que tienes un problema con la carga de la prueba. Aquí la afirmación es "los LLM razonan", que es falsable. Y se ha demostradop falsa con multitud de contraejemplos.

» autor: hatagon

#22 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

hatagon — Sat, 05 Jul 2025 14:54:45 +0000

#17 Es un error. Debía decir casualidad.

La respuesta probable va a depender del entrenamiento. Mientras que si pudiera razonar haría una criba de respuestas no razonables.

» autor: hatagon

#21 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

rojo_separatista — Sat, 05 Jul 2025 13:51:40 +0000

#20, es que el proceso interno es irrelevante salvo para discusiones de metafísica, cosas que a mí tampoco me interesa. Por cierto, he probado los experimentos que proponen en el artículo, con o3 y Géminis 2.5 y no se equivocan.

» autor: rojo_separatista

#20 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

Tensk — Sat, 05 Jul 2025 13:34:36 +0000

#19 Eres cansino con ganas.

Para ti si el resultado es el mismo entonces el proceso es el mismo. Eso es FALSO con todas las letras.

Y puedes seguir con tu berrinche si quieres, yo paso.

» autor: Tensk

#19 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

rojo_separatista — Sat, 05 Jul 2025 13:26:37 +0000

#16, #15, vuestra aproximación es acientífica en cuanto es imposible de probar y falsear. Yo propongo que si un modelo es capaz de sacar buena nota en un examen de selectividad con el que no se ha entenado antes, debemos concluir que razona razona, de la misma forma que si lo hace un humano también diremos que razona. Este es un experimento que sí es científico, usa el mismo baremo que para los humanos, se puede replicar, se puede evaluar de forma objetiva y lo más importante, se puede probar y falsear.

» autor: rojo_separatista

#18 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

rojo_separatista — Sat, 05 Jul 2025 13:23:13 +0000

#14, él tiene tantos intereses que abandonó Google con el salario multimillonario que lleva aparejado por los peligros que veía en el desarrollo de la IA. No todo el mundo es un interesado que vende su alma al diablo y Geoffrey Hinton lo ha demostrado con hechos.

» autor: rojo_separatista

#17 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

Tensk — Sat, 05 Jul 2025 13:22:21 +0000

#13 Lo prinero: se ha hablado de casualidad, no de causalidad.

Dicho esto, se trata de dar respuestas en base a lo más probable después de ingente entrenamiento. Se basa en que esa mayor probabilidad coincide con lo esperable razonablemente en muchos casos. Pero no siempre.

Eso y que la IA a fin de cuentas tiene en su entenamiento la misión de valorar, de darle valor, a los distintos elementos que forman parte del entrenamiento y el "prompt" y, a diferencia de lo que sí puede hacer un humano medio normalmente, no siempre va a saber separar la paja del grano como demuestra este meneo.

» autor: Tensk

#16 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

Tensk — Sat, 05 Jul 2025 13:17:21 +0000

#11 Contigo ya he discutido del tema varias veces y ya sabemos que vas a seguir afirmando algo que no puedes demostrar, pues crees que las IA sí razonan y eso no es cierto.

El problema no está, y lo sabes, en si comete una equivocación como tal, sino en el tipo y "calidad" de la equivocación. Y lo sabes.

» autor: Tensk

#15 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

hatagon — Sat, 05 Jul 2025 13:15:32 +0000

#8 Si razonaran, no cometerían los fallos clamorosos que vemos constantemente, eso es seguro.

Por lo tanto, cuando aciertan en una respuesta, eso lo logran sin razonar.

Es un resultado notable, pero está claro que no pueden razonar.

» autor: hatagon

#14 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

hatagon — Sat, 05 Jul 2025 13:13:24 +0000

#9 Pues me alegro mucho de que haya por ahí un tio que opine cosas.

Pero lo de la falacia de autoridad aplica directamente. Entonces, ¿quién es más fiable, el tio ese o yo? Porque yo no tengo intereses en el tema y él sí, y por lo tanto él tiene muchos posibles motivos para mentir, mientras que yo podría simplemente estar equivocado.

Entonces, consultado lo que dice el tipo éste, resulta que es de la opinión de que las redes neuronales funcionan igual que el cerebro humano, lo que es una afirmación extraordinariamente notable cuando no sabemos cómo funciona el cerebro humano. Yo le acuso de hype agudo o si lo quieres más claro, de mentir por dinero.

» autor: hatagon

#13 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

hatagon — Sat, 05 Jul 2025 13:04:08 +0000

#10 "aciertan de causalidad" es una frase que da muy poca información. Sabemos lo que los LLM hacen. Muchas veces dan respuestas correctas. Sabemos que no razonan. Por lo tanto es posible dar algunas respuestas correctas sin necesidad de razonar. Para mi eso es "de causualidad".

» autor: hatagon

#12 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

hatagon — Sat, 05 Jul 2025 13:01:36 +0000

#11 personas que se mueven más por fe

Es un concepto interesante sobre el que deberías reflexionar con mucha sinceridad.

» autor: hatagon

#11 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

rojo_separatista — Sat, 05 Jul 2025 11:02:39 +0000

#10, cómo lo haces para determinar de forma científica, es decir empírica y replicable que un ser humano razona? Si un ser humano se equivoca una sola vez, ya concluyes que en ningún caso razona? Utilizas dos varas de medir diferentes? Tengo la sensación de discutir con personas que se mueven más por fe que por principios científicos.

» autor: rojo_separatista

#10 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

Tensk — Sat, 05 Jul 2025 06:41:38 +0000

#5 No razonan en ningún caso.

Desde el mismo momento en el que "tienen la necesidad" de usar toda palabrería aportada para resolver el problema planteado, mal vamos.

Estoy más o menos de acuerdo con #7. Desde el momento en el que tienen alucinaciones, que es un eufemismo de "cagada monumental que nadie en su sano juicio cometería" no están razonando.

No diría tampoco que aciertan de casualidad en tanto que no es una cuestión de puro azar, hay un desarrollo matemático detrás.

Pero como todo desarrollo estadístico, se podrá optimizar para que "acierte las más de las veces", pero no siempre, demostrando que no es razonamiento, es matemática.

» autor: Tensk

#9 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

rojo_separatista — Sat, 05 Jul 2025 05:25:54 +0000

#6, Geoffrey Hinton el premio Nobel de física por sus descubrimientos en el campo de la IA discrepa un poco de lo que dices.

» autor: rojo_separatista

#8 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

rojo_separatista — Sat, 05 Jul 2025 05:23:40 +0000

#7, menuda forma más científica de acercarse al problema.

» autor: rojo_separatista

#7 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

hatagon — Sat, 05 Jul 2025 05:12:39 +0000

#5 Si alucinan una vez, es que no razonan. El resto de aciertos fue pura casualidad.

» autor: hatagon

#6 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

hatagon — Sat, 05 Jul 2025 05:11:30 +0000

Los LLM no razonan. No razonan nada. Lo único que hacen es seleccionar la palabra que más probablemente sigue al prompt. El prompt se genera con cada palabra nueva y va creciendo. Esto es lo único que hacen.

Si les hablas de gatos, la respuesta más probable se inclinará hacia los gatos, como era de esperar.

» autor: hatagon

#5 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

rojo_separatista — Sat, 05 Jul 2025 03:07:58 +0000

#3, sabes que en ciencia toda hipótesis necesita ser falsable? ¿Si las IAs no razonan porque fallan cuando se les ánade información irrelevante en el prompt significa que sí razonan cuando no fallan o seguiremos diciendo que no razonan independientemente de lo que hagan?

» autor: rojo_separatista

#4 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

--836845-- — Fri, 04 Jul 2025 22:39:14 +0000

#1 otro dato: ada colau era alcaldesa de Barcelona.

» autor: --836845--

#3 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

Tensk — Fri, 04 Jul 2025 21:19:07 +0000

Porque, una vez más, las IA NO RAZONAN.

» autor: Tensk

#2 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

Priorat — Fri, 04 Jul 2025 20:07:48 +0000

En ChatGPT no me ha funcionado.

» autor: Priorat

#1 Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

Tiranoc — Fri, 04 Jul 2025 19:32:22 +0000

Otro dato interesante: además de dormir la mayor parte de su vida, todos los gatos son bonitos.

» autor: Tiranoc