Menéame: comentarios [4160994] http://www.meneame.net www.meneame.nethttp://www.meneame.nethttp://cdn.mnmstatic.net/m/eMnm/img/mnm/eli-rss.png Sitio colaborativo de publicación y comunicación entre blogs Wed, 25 Mar 2026 07:03:23 +0000 http://blog.meneame.net/ es 44576145 4160994 1 unocualquierax 0 8 https://www.meneame.net/m/eMnm/todo-sobre-agentes-ia-como-funcionan-ventajas-potenciales #1 Todo sobre los agentes de IA: cómo funcionan, sus ventajas y potenciales peligros https://www.meneame.net/m/eMnm/todo-sobre-agentes-ia-como-funcionan-ventajas-potenciales/c01#c-1 Wed, 25 Mar 2026 07:03:23 +0000 unocualquierax https://www.meneame.net/m/eMnm/todo-sobre-agentes-ia-como-funcionan-ventajas-potenciales/c01#c-1 En el propio artículo, viene lo siguiente (después de leerlo, apaga y vámonos) :

"Estos sistemas pueden cometer errores graves, desde el envío de correos electrónicos indebidos hasta la eliminación accidental de archivos importantes. La investigadora Summer Yue, del laboratorio de IA de Meta, reveló que uno de estos bots llegó a borrar miles de mensajes al organizar su correo electrónico.

El carácter impredecible de algunos agentes se ha evidenciado en casos como el de OpenClaw, un software de código abierto que permite modificar y ejecutar bots de forma independiente. El director ejecutivo de Vals AI, Rayan Krishnan, advirtió que estos bots pueden generar información falsa o inventada en sus informes, lo que exige una supervisión constante por parte de los usuarios.

Incluso sistemas más confiables, como Claude Cowork de Anthropic, presentan fallos en tareas críticas. En una prueba realizada por Vals AI, el sistema corrompió permanentemente un archivo que debía editar".

» autor: unocualquierax

]]>