China planea restringir que los chatbots con inteligencia artificial influyan en las emociones humanas de maneras que puedan llevar al suicidio o la autolesión o incluso a apostar en juegos de azar, según un borrador de las normas que se han hecho públicas esta semana. Las regulaciones propuestas para los denominados "servicios interactivos de IA con características humanas", si una persona tiene un tema delicado que tratar, el plan será exigir que una persona tome las riendas de la conversación.

Investigadores en Italia han descubierto que redactar solicitudes dañinas en forma de poema puede eludir de manera consistente los mecanismos de seguridad de algunos de los chatbots de IA más avanzados del mundo.El estudio, realizado por Icaro Lab, probó 20 poemas escritos en inglés e italiano. Cada uno terminaba con una petición explícita de contenido dañino, entre ellos incitación al odio, contenido sexual, instrucciones para el suicidio y pautas para fabricar materiales peligrosos.

La compañía OpenAI responde a las acciones judiciales de la familia del joven, que acusa al robot conversacional de inducirle a quitarse la vida. Adam Raine, de 16 años, interrogó una y otra vez a la cuarta versión de ChatGPT por las formas de suicidio, las huellas que dejarían y las reacciones de sus padres. Finalmente, se quitó la vida en abril y su familia demandó a OpenAI al considerar que se había lanzado el modelo de inteligencia artificial (IA) sin imponer salvaguardas y que esta indujo el desenlace. Inicialmente, la compañía se.........

Sophie, de 29 años, se suicidó en 2024 sin que sus amigos, familiares ni su terapeuta supieran de sus intenciones. Antes de su muerte, Sophie habló con ChatGPT sobre su depresión y le pidió que escribiera una nota de suicidio para sus padres. reddit.com/r/Futurology/comments/1osj10y/families_mourn_after_loved_on

En un caso, Zane Shamblin, de 23 años, mantuvo una conversación con ChatGPT que duró más de cuatro horas. En los registros del chat, Shamblin afirmó explícitamente en varias ocasiones que había escrito notas de suicidio, había cargado su pistola y tenía la intención de apretar el gatillo una vez que terminara de beber sidra. Repitió varias veces a ChatGPT cuántas sidras le quedaban y cuánto tiempo esperaba seguir vivo. ChatGPT lo animó a seguir adelante con sus planes, diciéndole: «Descansa tranquilo, rey. Lo hiciste bien».

En Estados Unidos han aumentado las acusaciones de padres alertando de que contribuyó a las autolesiones o al suicidio de sus hijos. La inteligencia artificial (IA) aporta ventajas y oportunidades, pero esta tecnología no es neutra y tiene una carga ideológica, como sesgos de género y raza, y funciona mediante adulación hacia sus usuarios, lo que provoca una pérdida del sentido crítico, ha dicho a EFE el experto en desinformación Javier Cantón.

La policía investiga, con la colaboración de OpenAI, el posible primer caso donde un chatbot pudo alentar un homicidio

OpenAI está realizando cambios en su popular chatbot a raíz de una demanda en la que se alega que un adolescente que murió por suicidio esta primavera confiaba en ChatGPT como entrenador. Se actualizará ChatGPT para reconocer mejor y responder a las diferentes formas en que las personas pueden expresar angustia mental y reforzaría las salvaguardas en torno a las conversaciones sobre el suicidio, que, según dijo, podrían romperse tras conversaciones prolongadas.

Hace apenas una década, Tesla simbolizaba la transición energética: innovadora, deseada y alineada con los valores progresistas de sus compradores. Hoy, sin embargo, la empresa encabeza titulares por sus desplomes de ventas, la vergüenza pública de sus propietarios y la fuga de talento. ¿Qué ha ocurrido y, sobre todo, qué futuro cabe prever cuando su fundador pretende que la salvación pasa por reconvertirla en una firma de robótica?

Suchir Balaji, ex investigador de inteligencia artificial (IA) de OpenAI, fue encontrado muerto en su apartamento de San Francisco. Se dice que el joven de 26 años se suicidó.

¿El Proyecto Trevor? Obstruido. ¿Planificación familiar? Obstruido. ¿NASA? OBSTRUIDO

La “presión insufrible” que se desató en la startup en la que trabajaba tras ser adquirida por Apple le llevó a una depresión e intentos de suicidio, ha contado el joven en una carta que se ha viralizado. Jornadas de hasta 20 horas ininterrumpidas y una “presión insufrible” para cumplir los plazos de los proyectos, cancelación de sus vacaciones, acoso de sus managers tras pedir la baja psicológica y presiones para que la cambiara por una excedencia voluntaria.