El paper llega de la mano de la Universidad de Cornell y habla directamente de hacer jailbreak con poesía. Más concretamente, con prompts poéticos capaces de eludir las funciones de seguridad de los modelos de IA más populares como Gemini, ChatGPT o Claude. De hecho, han conseguido instrucciones para crear armas químicas y malware. El hallazgo es peliagudo por dos cuestiones: la primera obviamente en que cualquiera que pueda rimar un par de versos puede obtener asesoramiento sobre cómo hacer armas nucleares o biológicas y el riesgo que ello...

Investigadores en Italia han descubierto que redactar solicitudes dañinas en forma de poema puede eludir de manera consistente los mecanismos de seguridad de algunos de los chatbots de IA más avanzados del mundo.El estudio, realizado por Icaro Lab, probó 20 poemas escritos en inglés e italiano. Cada uno terminaba con una petición explícita de contenido dañino, entre ellos incitación al odio, contenido sexual, instrucciones para el suicidio y pautas para fabricar materiales peligrosos.

Hubo una época en la que los virus informáticos no querían tu dinero ni tus contraseñas. Querían tu atención. En los ochenta y noventa, cuando la informática personal todavía tenía algo de alquimia y mucho de rebeldía, el malware era más bien una forma de expresión, un acto de presencia artística en un entorno nuevo: el sistema operativo. No eran tanto armas como manifiestos. Y si te infectaban, lo sabías, porque te lo mostraban en pantalla con fuegos artificiales, poesía, calaveras ASCII o fondos que se derretían ante tus ojos.

La semana pasada, Microsoft anunció el nuevo Bing impulsado por IA: una interfaz de búsqueda que incorpora un chatbot basado en un modelo de lenguaje que puede ejecutar búsquedas por usted y resumir los resultados, además de hacer todas las otras cosas divertidas que tienen los motores como GPT-3 y ChatGPT. estado demostrando en los últimos meses: la capacidad de generar poesía y chistes, y hacer escritura creativa, y mucho más.Esta semana, las personas han comenzado a acceder a él a través de la lista de espera. Tracucción en primer comentario

Después de leer 3,500 libros de amor y poesía, la inteligencia artificial de Google ha escrito uno de los poemas más inquietantes hasta la fecha. Cómo las inteligencias artificiales interpretan las emociones humanas se está revelando como un área difícil.

A primera vista, son poemas convencionales. Entonces, ¿por qué tanto revuelo con el tal Arnaud? Porque, aunque no lo parezca, los versos que acabas de leer están basados en la sintaxis de ALGOL, el ‘abuelo’ de la gran mayoría de lenguajes de programación que utilizamos hoy en día (denominados por ello ALGOL-like).

Aunque la ciencia ficción se empeñe en presentarnos a los robots como unos potenciales enemigos o unos aliados con capacidades sobrehumanas, la vida real es muy tozuda y toma siempre sus propios derroteros. A veces se adentran en el terreno de la creatividad y el arte, demostrando que en disciplinas como la poesía o la música también saben moverse con soltura. Es el caso de estos robots roqueros, compositores y/o bailarines.