Yo dirigí la seguridad de productos en OpenAI. Cuidado con lo que dice del uso erótico de ChatGPT

He leído más obscenidades en el trabajo de las que puedas imaginar, y todas ellas mientras trabajaba en OpenAI. En la primavera de 2021, dirigí nuestro equipo de seguridad de productos y descubrí una crisis relacionada con el contenido erótico. Un cliente importante era un juego de rol de aventuras basado en texto que utilizaba nuestra IA para redactar historias interactivas a partir de las elecciones de los jugadores.

[#2 Tecar]

Esto no es nuevo y los que están en el mundillo lo conocen muy bien, pues las relaciones humano-máquina han estado bajo lupa desde el principio.
Los más viejos del lugar quizá conozcan el caso de ELIZA, allá por los años 60
es.wired.com/articulos/el-primer-chatbot-de-la-historia-y-su-creador-j

[#3 Celsar]

Estamos realmente jodidos si las empresas tienen que elegir entre beneficios y seguridad.
Si no hay un estado que las controle siempre van a elegir beneficio.
Y no solamente en el ámbito de la IA.

[#1 Yorga77]

Sin buscarlo mucho seguro que ya hay algún notas con una IA para eso (posiblemente más de uno) ya se dijo que seguramente seria utilizada para eso.

[#4 frg]

Si nos hemos de fiar de OpenAI y sus competidores para que construyan las tecnologías radicales a las que aspiran, deben demostrar que son dignos de confianza en la gestión de los riesgos actuales

Estamos muertos si nos tenemos que fiar de semejantes ...

[#5 pip]

Esto tiene muy mal arreglo, haces un algoritmo estocástico que autocompleta texto, un chalado le da veracidad y luego se suicida. Tendrán que obligarles a poner mensajes muy claros advirtiendo de que es un software de entretimiento y que no puede ser tomado en serio.

Y luego una versión Pro que cueste lo que debería de costar, unos 200€ al mes, sin tanta salvaguarda.