La UE prohíbe la creación de imágenes sexualizadas generadas con IA

El veto, que entrará en vigor el 2 de diciembre de 2026, se ha pactado tras el escándalo que ha causado la generación de fotografías con Grok. Las instituciones de la Unión Europea llegaron este jueves a un acuerdo para prohibir la creación de imágenes sexualizadas generadas con inteligencia artificial, sin el consentimiento de las personas afectadas.

[#4 Find]

...y sin IA?

[#15 rojelio]

#4 Eso hace años que está prohibido, obviamente si te las haces tú en tu casa nadie puede saberlo, pero como te pillen distribuyéndolas te metes en un lío enorme. Entiendo que lo que se busca aquí es que la propia IA se niegue a hacer ese tipo de imágenes, y también poder dar caña a las empresas que lo permitan. Que si, que alguno se pondrá un modelo local para saltarse esa limitación de las IAs públicas, pero aquí la idea es dificultarlo lo más posible, y tener herramientas legales para cuando pillan a alguien.

cc #3

[#16 Tensk]

#15 Ya sé que está prohibido (más o menos) y que esa es la intención de la legislación en cuestión pero... precisamente me estás dando la razón, estás diciendo lo que dije: se dificultará, pero es harto complicado tirando a imposible prohibirlo si no es con una prohibición mucho más agresiva.

[#17 rojelio]

#16 ¿Pero no es eso lo que hacen todas las leyes? Disuadir primero y castigar si eso no basta.

[#21 Tensk]

#17 Lo que estoy diciendo es cómo de implementable es esa prohibición, sin recurrir a que se hagan esos "fakes" de manera completamente ilegal.

[#22 Find]

#15 Si está prohibido tampoco hace falta prohibirlo ahora para IA entonces

[#8 Ominous]

Es como la María Jesús Montero, que quiere prohibir las listas de espera de sanidad en Andalucía.

[#9 lawerka]

#8 Con prohibir la enfermedad era suficiente

[#18 nemeame]

Solo se debería prohibir difundirlas públicamente, lo que mire o haga cada uno en su casa para pajearse no es asunto de ningún gobierno, nunca lo ha sido y nunca lo será

[#19 VFR]

#18 Con lo de nunca lo será me temo que te has pasado de frenada

[#3 Tensk]

La UE establece las puertas al campo.

[#6 Nómada_sedentario]

#3 La UE prohíbe (escriba aquí cualquier acto que se considerará delictivo).
La respuesta -supongo que ingeniosa-:
La UE establece las puertas al campo

[#7 Tensk]

#6 No pretendo ser ingenioso, es una realidad. Pretender que la IA no permita la creación de esas imágenes simplemente implica que llevará más tiempo y/o habrá que buscar qué prompt ponerle para saltarse los guardarraíles que le hayan puesto, pero como no se le impida la generación de imágenes directamente, y aún así no sé yo, es harto improbable que se pueda hacer.

Es como lo de decirle a la IA: "hazme una canción que parezca ser de X grupo musical" y que la IA te diga "no…   

[#10 Nómada_sedentario]

#7 ese argumento sirve también por ejemplo para criticar la prohibición de la tenencia de armas para evitar los asesinatos. Total, se van a seguir produciendo, no?

[#13 Tensk]

#10

Absolutamente nada que ver porque no es un argumento que se pueda trasladar, dado que el contexto es bien diferente, amén de que no es lo mismo.

Eso lo sabes, pero te da igual.

[#11 Battlestar]

#6 Aunque el punto que planteas no es descabellado del todo, tienes que tener en cuenta el volumen del acto y sobre todo la capacidad para imponer esas reglas.
Tu puedes prohibir (escriba aquí cualquier acto que se considerará delictivo) si tienes la capacidad logística para por lo menos afrontar un importante numero de casos. Si no tienes la capacidad de imponer nada ya entramos en el terreno de "puertas al campo".

De todos modos esto que vienen a prohibir creo ya que está cubierto…   

[#2 Apotropeo]

Malas noticias para el negro del WhatsApp

[#1 Nube_Gris]

Malas noticias para la derecha: van a tener que hacer política para convencer a la gente en lugar de preparar videos de mierda para tik-tok.

[#5 Shynea]

Entonces dejamos de tener Frutinovelas? Que voy a hacer sin Banana Negro y Fresita?

[#14 Battlestar]

#5 La normativa se refiere solo a contenido sexualizado de personas "reales" y personas "reales" que existan no personas realistas ficticias (personajes creados por AI).

Lo cual ya está prohibido, al menos en España. Lleva siglos prohibido. Tu no puedes hacer nudes de Marta Sanchez con photoshop y distribuirlos. O bueno, poder puedes pero luego llega marta sanchez y te mete una querella por derecho al honor que te cagas.

La diferencia es que ahora con la AI el volumen de gente que puede hacerlo es muchisimo mayor

[#12 Almirantecaraculo]

Obviamente no puede poner puertas al campo, pero creo el marco con el cual castigar al que lo haga y sea descubierto.

[#20 kondnado]

Adiós a Marge Simpson.