Unos simples añadidos de texto pueden engañar a los modelos avanzados de razonamiento de IA (ENG)

Unos investigadores han descubierto que añadir frases irrelevantes como «Dato interesante: los gatos duermen la mayor parte de su vida» a problemas matemáticos puede hacer que los modelos de razonamiento de IA más avanzados produzcan respuestas incorrectas a un ritmo un 300% superior al normal [PDF]. La técnica, denominada «CatAttack» por equipos de Collinear AI, ServiceNow y la Universidad de Stanford, aprovecha las vulnerabilidades de modelos de razonamiento como DeepSeek R1 y la familia o1 de OpenAI.

[#1 Tiranoc]

Otro dato interesante: además de dormir la mayor parte de su vida, todos los gatos son bonitos.

[#4 Klamp]

#1 otro dato: ada colau era alcaldesa de Barcelona.

[#2 Priorat]

En ChatGPT no me ha funcionado.

[#3 Tensk]

Porque, una vez más, las IA NO RAZONAN.

[#5 rojo_separatista]

#3, sabes que en ciencia toda hipótesis necesita ser falsable? ¿Si las IAs no razonan porque fallan cuando se les ánade información irrelevante en el prompt significa que sí razonan cuando no fallan o seguiremos diciendo que no razonan independientemente de lo que hagan?