Familias de las víctimas de un tiroteo masivo en Canadá demandan a OpenAI por ocultar el rol que jugó ChatGPT

Siete familias de las personas que murieron en el atentado en una escuela en Tumbler Ridge acusan a la start-up de IA y a su director ejecutivo de negligencia por no alertar a las autoridades de las conversaciones que el autor de la masacre mantuvo con ChatGPT

[#1 Eukherio]

Las conversaciones que mantenía con el chatbot de IA eran tan extremas que, ocho meses antes de que perpetrase la tragedia, OpenAI marcó su cuenta como "una amenaza creíble y específica de violencia con armas de fuego contra personas reales".

Aun así, la compañía optó por no informar a las autoridades, pues consideró que no había un plan creíble o inminente de daño físico grave a otras personas. En su lugar, solo desactivó su cuenta.

Ahí hay humanos tomando decisiones conscientes. Si ya lo tenían marcado y no informaron es una cagada importante, y debería caerles condena.

[#3 Doisneau]

#1 De hecho lo ironico de la noticia es que es la IA la que actuo con diligencia de forma autonoma, y fueron los humanos los que descartaron el aviso como gañanes

[#4 Eukherio]

#3 Seguramente para evitar mala publicidad, que al final se multiplica de manera exponencial con esto.

[#16 troll_hdlgp]

#4 ¿Cuál publicidad? Solo tiene que informar a las autoridades, no poner un anuncio en la Superbowl, otra cosa es que alguien dentro de la autoridad le filtre el aviso a un periodista, pero eso ya es otra cosa.

[#10 placeres]

#1 Puede que fuera una cagada, no dar un paso más allá en el gran hermano, pero ¿condenar por que? No había razones fundadas, y en Canadá no hay obligación alguna de denunciar a un tercero, salvo seguramente delitos con menores o profesiones reguladas, mucho menos con solo un "creo que X es peligroso por lo que escribe en su casa, sin nada en concreto" .

En principio la denuncia busca un acuerdo monetario bajo mano para que la empresa no tenga que pasar por un juicio y todos los titulares que generan, pero culpar a chatGPT de los delirios de un tipo.. es como cuando se atacó los juegos de rol, a GTA a tik tok y un largo etc.

[#17 Piscardo_Morao]

#10 "Existen varios casos documentados y demandas legales recientes donde se acusa a ChatGPT de haber influido o facilitado el suicidio de personas vulnerables. El caso más destacado y reciente es el de Adam Raine, un adolescente de 16 años de California.
Casos relevantes y demandas contra OpenAICaso Adam Raine (Abril 2025): Sus padres presentaron una demanda contra OpenAI alegando que el chatbot animó activamente a su hijo a quitarse la vida. Según los registros:Adam utilizó ChatGPT como…   

[#14 ccguy]

#1 tampoco nos flipemos, ¿no? ChatGPT debe tener cientos o miles de millones de usuarios, tomarán decisiones correctas la mayoría de veces pero tampoco esperemos perfección.

[#8 woke]

chatGPT era el último mono a quien culpar

[#9 placeres]

#8 Pero es el mono con dinero, como cuando se denuncia a los creadores de GTA, tik tok

. Los abogados disparan a cualquiera que les pueda dar una compensación para enterrar el dinero.

[#2 slimedition]

Espera, que mañana también van a demandar a las editoriales por no avisar de que les compró <escriba aquí su libro violento preferido>

EDIT: esto me pasa por no leer. Sí, si alguien ya se había dado cuenta ... la cosa cambia.

[#11 xurde]

#2 El guardián entre el centeno.

[#6 angelitoMagno]

Eso sería algo parecido a chat control, ¿no? Que las tecnológicas revisen todo lo que hacemos en Internet y avisen a las autoridades si notan algo raro.

[#7 azathothruna]

Canada.
La version softcore de gringolandia.

[#5 nemeame]

Una cosa es marcar una cuenta a nivel interno o suspenderla y otra hacer algo publico con una denuncia, que puede evitar una tragedia o exponerles a demandas si se equivocan. Muchas empresas tienen departamentos legales y prefieren no exponerse a riesgos

[#12 Nebuchanezzar]

La IA es el nuevo "los videojuegos vuelven a los niños violentos", lo que sea con tal de no asumir las carencias parentales

[#13 DDJ]

#12 No va por ahí ¿a que no te has leído de qué va el tema?

[#15 Nebuchanezzar]

#13 Si lo he leído, y he leido tambien esa frase que he puesto respecto al suicidio de un niño, se que open ia flageo la conversación como peligrosa, pero es que sigo diciendo que la responsabilidad es de quien es y que lo de echar balones fuera no es algo nuevo