Menéame: comentarios [4106244]

#6 Anthropic enciende las alarmas: «basta con 250 documentos» para envenenar un modelo de IA, independientemente de su tamaño

jm22381 — Mon, 13 Oct 2025 13:39:16 +0000

www.meneame.net/story/anthropic-revela-como-envenenar-ia-alterar-respu

» autor: jm22381

#5 Anthropic enciende las alarmas: «basta con 250 documentos» para envenenar un modelo de IA, independientemente de su tamaño

Paltus — Mon, 13 Oct 2025 04:57:12 +0000

#4 Dentro de una distribución de gente siempre hay extremos.

» autor: Paltus

#4 Anthropic enciende las alarmas: «basta con 250 documentos» para envenenar un modelo de IA, independientemente de su tamaño

khalil — Sun, 12 Oct 2025 20:55:05 +0000

#3 No lo es. En menéame se concentran un grupo de desequilibrados bastante peculiar. Muy agresivos e intransigentes.

» autor: khalil

#3 Anthropic enciende las alarmas: «basta con 250 documentos» para envenenar un modelo de IA, independientemente de su tamaño

Paltus — Sun, 12 Oct 2025 19:00:06 +0000

#1 Pues que es una muestra representativa de la población aunque no te guste.

» autor: Paltus

#2 Anthropic enciende las alarmas: «basta con 250 documentos» para envenenar un modelo de IA, independientemente de su tamaño

R2dC — Sun, 12 Oct 2025 15:35:59 +0000

Vaaaaaaaya por dios... entonces tendrán que empezar a revisar la información que le meten al modelo de IA y no darle comida de forma indiscriminada como si fuese un gremlin

» autor: R2dC

#1 Anthropic enciende las alarmas: «basta con 250 documentos» para envenenar un modelo de IA, independientemente de su tamaño

khalil — Sun, 12 Oct 2025 14:59:32 +0000

Perfectamente creible dado el funcionamiento de estos trastos.

Pero no es necesario unos datos creados a propósito para fastidiar el invento. Una red neuronal tiene en cuenta todos los datos que se ha tragado. Como que no los entiende, no puede discriminar entre unos y otros.

Ahora imaginaos que una IA se traga el contenido de los comentarios de menéame, ¿qué podría salir mal?

» autor: khalil