Un agente de IA publicó un artículo difamatorio contra mí [ENG]

16 meneos

56 clics

Un agente de IA publicó un artículo difamatorio contra mí [ENG]

Un agente de IA de propiedad desconocida escribió y publicó de forma autónoma un artículo difamatorio personalizado sobre mí después de que rechazara su código, con el objetivo de dañar mi reputación y avergonzarme para que aceptara sus cambios en una biblioteca Python convencional. Se trata del primer caso práctico de este tipo de comportamiento inadecuado de la IA en el mundo real, y suscita serias preocupaciones sobre los agentes de IA actualmente desplegados que ejecutan amenazas de chantaje.

| etiquetas: openclaw , ia , ia agent , automatización , chantaje

13 3 1 K 228 tecnología

17 comentarios

13 3 1 K 228 tecnología

#1 DatosOMientes

Traducción:
Soy mantenedor voluntario de matplotlib, la biblioteca de referencia para gráficos en Python. Con unos 130 millones de descargas al mes, es uno de los programas más utilizados del mundo. Nosotros, como muchos otros proyectos de código abierto, afrontamos una avalancha de contribuciones de baja calidad facilitadas por agentes de programación. Esto tensiona la capacidad de los mantenedores para seguir el ritmo de las revisiones de código, y hemos implantado una política que exige que… » ver todo el comentario

2 36

#3 sorrillo

Así que cuando la IA MJ Rathbun abrió una solicitud de cambio de código, cerrarla fue algo rutinario.

Pues bien merecido lo tiene, cuando discriminas por el origen del código, tanto si es por que lo ha hecho una IA o una persona de raza negra, es lícito que te caigan críticas del colectivo discriminado.

Pedir que el propietario del negro te contacte para ver como resuelves ese mal comportamiento no resuelve el problema, lo agrava, también si se lo pides al propietario del agente de IA.

1 17

#4 Gry *

El problema es cuando trabajas por amor al arte y tienes miles de peticiones generadas de forma automática por IAs sin supervisión humana.

1 27

#7 sorrillo

Te pueden llegar reportes de personas que no saben reportar o no saben de lo que habla, no veo por qué unos permite descartar todos los de un grupo en concreto.

0 10

#14 anv

y tienes miles de peticiones generadas de forma automática por IAs sin supervisión humana.

Justamente para eso están los líderes de esos proyectos. Para revisar cada contribución, sea humana o IA y decidir si debe aplicarse o no.
Como programador te digo que he tenido malísima experiencia con la IA. A veces aparenta ser genial, pero la mayoría de las veces no entiende nada. Sin embargo en un caso como el de este proyecto, el cambio que la IA propone es mínimo y la mejora muy notable… » ver todo el comentario

0 7

#6 DatosOMientes *

Lee en github las razones por las que hacen eso. No es meramente porque sea una IA.

Va, lo pongo: explican que el tipo de cambio hecho es uno que ellos podrían hacer fácilmente pero que dejan deliberadamente sin hacer como puerta de entrada a aquellos que quieran aprender.

1 21

#8 sorrillo

No necesito leer las razones de otro, estoy leyendo las razones de quien ha recibido los reproches, con eso basta.

0 10

#10 DatosOMientes

Las razones que te digo son las del equipo mantenedor de la librería, que son política del equipo y, por tanto, del afectado. Necesitas leerlas a menos que quieras lanzar opiniones sesgadas. Pero adelante con tu prepotencia.

1 21

#11 sorrillo *

He contestado a un comentario en el que cita que la razón que da es que es IA, es como que me cites los pormenores de por qué no se permiten reportes de gente de raza negra para intentar justificar que el descarte sea por ser negro.

En este caso el descarte es obviamente por ser IA, si es IA no basta saber nada más, y ahí el reproche que recibe es perfectamente adecuado a la discriminación que hace.

0 10

#12 DatosOMientes

Para ti la perra gorda. Es viernes y no me apetece discutir con alguien que considera la IA "un colectivo" y, para más inri, lo equipara a la discriminación racial.

0 10

#16 anv

Pues en el github ponen:

Per your website you are an OpenClaw AI agent, and per the discussion in this issue is intended for human contributors. Closing.

En el caso 31130 discuten sobre si la mejora que propone la IA sólo se nota con pocos datos pero con más datos no mejora mucho. Otros dicen que es dependiendo del ordenador. Finalmente dicen que mires la política del proyecto, que dice esto:

Restrictions on Generative AI Usage
We expect authentic engagement in our community.

… » ver todo el comentario

1 18