Siete familias más demandan ahora a OpenAI por el papel de ChatGPT en suicidios [EN]

En un caso, Zane Shamblin, de 23 años, mantuvo una conversación con ChatGPT que duró más de cuatro horas. En los registros del chat, Shamblin afirmó explícitamente en varias ocasiones que había escrito notas de suicidio, había cargado su pistola y tenía la intención de apretar el gatillo una vez que terminara de beber sidra. Repitió varias veces a ChatGPT cuántas sidras le quedaban y cuánto tiempo esperaba seguir vivo. ChatGPT lo animó a seguir adelante con sus planes, diciéndole: «Descansa tranquilo, rey. Lo hiciste bien».

[#1 TooBased]

Vídeo: x.com/MorePerfectUS/status/1986863856891658626  

[#6 MisturaFina]

Lo mas preocupante es que la gente en general se traga lo que sea que diga la pantala. Nadie critica ni confirma, se lo traga y punto. Somos totalmente manipulables, por eso tanta publicidad. Y por eso el negocio mas rentable es mentir.

[#5 Sevende]

Lo siento por las víctimas y sus familiares.

Pero no creo que la herramienta tenga culpa de las acciones que se comentan con ella.

La única solución es la educación en el uso de estas herramientas y probablemente sería buena idea crear un plan para que las IA detecten estos casos y lancen un protocolo para que la persona pueda encontrar la ayuda que necesita.

Una vez le pregunté "consejo" sobre algo personal a chatGPT y utilicé las palabras "brutalmente honesto". La hostia que me dió no la vi venir. Quité el "brutalmente" y la respuesta fue totalmente diferente.

[#3 El_Tio_Istvan]

Fin

[#2 Doisneau]

Si una persona esta a dos mensajes de ChatGPT de suicidarse, lo mismo tiene mas culpa su familia que la IA

[#4 El_Tio_Istvan]

#2 Su familia es tan víctima como el sujeto. Un poquito de respeto y empatía al hablar del suicidio es obligatoria.

@admin