Sanción pionera en Europa: Protección de Datos multa con 2.000 euros un desnudo falso generado con IA

La Agencia Española de Protección de Datos (AEPD) ha sancionado con 2.000 euros, que se reducen a 1.200 por pronto pago, al creador y difusor de imágenes artificiales de menores desnudas. Esta técnica, conocida como deepfake, consiste en incrustar con una herramienta de inteligencia artificial (IA) el rostro de la víctima, en este caso una niña, en la imagen de otra chica desnuda.

[#4 ciriaquitas]

Vaya mierda de multa en comparación a la mayoría de sanciones que impone la Agencia Española de Protección de Datos.

[#10 omega7767]

#4 y con descuento aún por encima.

Dice la noticia que las difundió, a saber si no obtuvo beneficios que incluso pudieron superar la multa.

[#9 MataGigantes]

Entiendo que lo que aquí se sanciona es únicamente la difusión de imágenes, no el simple hecho de crear deepfakes.
Lo de prohibir hacer deepfakes o desnudos de personas mediante IA me parecería un completo sinsentido, porque, por ejemplo, por photoshop cada uno podría seguir haciendo lo mismo a su antojo. Sería como prohibir una tecnología que permite hacer lo de siempre pero más rápido, una estupidez de propuesta.

Que se centren exclusivamente en perseguir la difusión de imágenes, no en las herramientas de IA que las crean.

[#20 fingulod]

Me temo que la ley deja muy claro que para que sea pornografía infantil la imagen no tiene por qué ser real.

#9 No lo veo por varios motivos. Uno a nivel práctico, otro a nivel moral.

Lo primero, las IA no inventan nada. Lo toman de su entrenamiento. Es decir, esas IA se han entrenado con mucha probabilidad con imágenes reales.

Lo segundo, es limitar que existan ese tipo de cosas. Obviamente si lo haces para ti y no lo ve nadie, no te van a condenar, básicamente porque nadie se va a…   

[#31 MataGigantes]

#20 Exacto, la misma analogía que has usado tú la puedo aplicar igual yo para defender mis argumentos.
Los cuchillos de cocina los puedes usar en tu casa para tus labores domésticas, pero si lo sacas a la calle está prohibido porque ahí puede considerarse arma blanca y si te lo ven te lo confiscan o incluso te multan por llevarlo por la calle. Mismo utensilio pero dependiendo de hasta donde lo lleves se permite o no.
Lo mismo tiene que ser para las deepfakes por IA, mientras sean para uso propio exclusivamente no habría que limitarlos en ningún caso, la cosa viene cuando los sacas de tu casa...

[#38 fingulod]

#31 No. Primero, herramientas hay que distinguir entre herramientas genéricas (photoshop o incluso un Foocus) con herramientas que sirvan sólo para hacer deepfakes.

Lo segundo, el hecho punible es matar, no matar en la calle. Y este caso lo mismo. Lo punible debe ser el deepfake, no que te pillen. Otra cosa es que si no te pillen no te pase nada.

Y por cierto, puedes llevar un cuchillo de cocina sin demasiado problema, siempre que no se piensen que lo llevas con intenciones aviesas. Puedo comprar un cuchillo y llevarlo a casa sin problemas. Puedo llevar media cuchillería a afilar. Lo que no puedo es ir de copas con un cuchillo cebollero al cinto. Un AK-47 no lo puedo tener en casa (legalmente hablo).

[#39 MataGigantes]

#38 Tú mismo lo has dicho: "puedes llevar un cuchillo de cocina sin demasiado problema". Exacto, mientras no te detecten los demás puedes llevarlo, el problema es si sacas el cuchillo a la vista y los demás te ven por la calle. Lo mismo con esas imágenes, la difusión es el problema, no el consumo privado exclusivo de esas imágenes.

Y lo de que dices que se permitan cosas genéricas, pero no las exclusivas de un solo propósito, entonces si haces una app que permita hacer desnudos entre otros cientos de tipos de imágenes (como una IA genérica o el mismo Photoshop), entonces ahí no las prohibimos?
Sería como prohibir armas de guerra pero barcos acorazados no porque también sirven simplemente para navegar.

[#36 Ovlak]

#34 Que les parezca más normal y aceptable es lo que les puede incentivar a violar niños. Porque ni es normal ni es aceptable.

[#28 Ovlak]

#19 Que algo venga motivado por la variabilidad genética (y habría que ver si la pedofilia se origina exclusivamente por cuestiones genéticas) no implica su descarte como trastorno. Son miles las patologías y trastornos que tienen un origen genético. Pero bueno, simplemente añadiré que no me he inventado yo que ciertas parafilias sean trastornos, sino que la propia OMS o el DSM las cataloga como tal. Si tu opinión es que esto no es así pues en tu derecho estás, pero que sepas que no es que contradiga a la mía, sino que contradice a la institución sanitaria más importante del mundo.

[#2 strike5000]

Si se ha reproducido la imagen de una persona real bien multado está. Ahora, considerar, como oía esta mañana en las noticias, pornografía infantil una imagen generada por IA me parece excesivo. Que atenta contra el honor y la propia imagen, en el caso de las deepfake, está fuera de toda duda. Que constituya un delito de tenencia de pornografía infantil me parece excesivo.

Relacionada con mi comentario www.meneame.net/story/francia-denuncia-shein-vender-munecas-sexuales-a

[#5 Javi_Pina]

#2 sí, es un debate que deberia tenerse en la sociedad como lo de las muñecas que comentas. Bajo mi punto de vista que se vendan muñecas sexuales o se genere conyenido IA no va a generar nuevos depredadores sexuales pero si puede contentar a los que hay y asi no depredan. Si no voy mal esta considerado enfermedad. Evidentemente tolerancia cero a pornagrafia infantil y abuso de menores. Pero muñecas y IA "no hacen daño a nadie" considero. Auque esta noticia no va de esto.

[#6 ingenierodepalillos]

#_2 #5  

[#7 Javi_Pina]

#6 Entiendo que no te guste, a mi tampoco. Pero es un tema dificil. Como la prostitución. Es elegir el mal menor. Desaparecer no va a desaparecer. Pero podemos tratar de minimizar sus efectos. Por eso pido un debate

[#8 Ovlak]

#5 Sí vas mal en tanto en cuanto estás mezclando cosas. La pedofilia es un transtorno psiquiátrico, pero no está irremediablemente asociado a la depredación sexual. Alguien puede ser pedofilo sin llevarlo a término (en cuyo caso seria un pederasta) y alguien puede ser un depredador sexual pero no un pedófilo. Lo que se pena es el abuso o la agresión a terceras personas (más si cabe cuando son menores), no los impulsos sexuales mientras sea capaz de contenerlos. Con eso quiero decir que ser un…   

[#13 Javi_Pina]

#8 Gracias por la correción, sí pedofilia seria la enfermedad. En cuanto al dilema que se plantea creo que sería necesario un estudio técnico psiquiatrico. Mi intuición me dice que si ayudaria liberar esto pero no se fundamenta en nada.

[#18 Ovlak]

#13 Seguramente tu intuición se base en tu experiencia personal porque muy probablemente seas un persona formada con capacidad de discernir entre lo bueno y lo malo. Pero no todo el mundo tiene o mantiene esa capacidad con todos los aspectos de la vida. Piensa en la publicidad del tabaco. O en la venta de armas. No son actividades dañinas en sí mismas, pero trivializan, incentivan y/o propician actividades que sí lo son, así que por riesgo/beneficio eventualmente se han prohibido. Simplemente observo que es un efecto a tener en cuenta.

[#21 Javi_Pina]

#18 Aqui estas intoduciendo otro factor que es la publicidad que esta diseñada justamente para modificar tu voluntad. Que fuese "legal" no significa que se deba permitir su publicidad, solo faltaría.

[#22 Ovlak]

#21 A ver, no me refiero a modo de publicidad sino a modo de precursor. También te he puesto la venta de armas como ejemplo. Pero puedo usar el consumo de drogas blandas que también sirve como entrada a drogas más duras. ¿Es irremediable que alguien que consuma cannabis acabe introduciéndose en el consumo de drogas más duras y dañinas? Por supuesto que no. Pero es un efecto posible. Diría que incluso probable. Por lo tanto, debe ser tenido en cuenta en ese equilibrio riesgo/beneficio.

[#27 Javi_Pina]

#22 Sin duda y requiere que sea estudiado por expertos, pero eso no va a pasar si no existe debate en la sociesad.

[#30 Ovlak]

#27 En eso no estoy de acuerdo y vuelvo al inicio de la conversación. No es un debate que se deba dilucidar en la sociedad en general, en la barra del bar por usar un término peyorativo, sino en foros científicos y expertos. Y no, que no se produzca lo primero no implica que no se tenga que producir lo segundo. Es más, creo que la sociedad en general rechazaría este tipo de prácticas y se cerraría a tan siquiera escuchar a expertos que pudieran sostener lo contrario, si es que los hay.

[#32 Javi_Pina]

#30 A la sociedad en general esto le da asco, como a mí. Pero eso no tiene que bendarte los ojos, mi fín último es que haya menos o ningún niño violado y para llegar a eso sí tiene que hablarse, los niños tienen que saber y los cientificos estudiar. Igual con el suicidio no puedes prohibirlo ni esconderlo tienes que hablar de ello y estudiarlo para minimazarlo.

[#14 lordban]

#8 De acuerdo en todo menos lo de considerar la pedofilia como un trastorno. Es tan trastorno, o no, como la homofilia, gerontofilia o cualquier otra filia que se desvie de la heterosexualidad normativa. La genética es como es, y se nace con diferentes rangos de diferentes parámetros, entre ellos el de orientación sexual. El entorno puede influir, pero la mayor parte de la orientación sexual de uno es de nacimiento. Aquí el tema como bien dices es ser buena persona. Obviamente quién nace sintiendo atracción hacia personas vulnerables/legalmente fuera del alcance tienen su vida romántica jodida ya de empiece, pero hay que aguantarse, como los tíos que hacen metro cincuenta o el que nace sin brazos.

[#15 Ovlak]

#14 Sin ser experto en el tema, tengo entendido que no todas las parafilias son transtornos patológicos pero sí algunas de ellas, en concreto las que provocan angustia o deterioro social y, especialmente, las que entraña un riesgo de daño a terceros. De este modo, estar sexualmente atraído por los pies es una parafilia a secas pero estar atraído por menores es, además de una parafilia, un transtorno parafílico.

[#19 lordban]

#15 Tu mismo lo has dicho, ese es un criterio subjetivo teniendo en cuenta factores ajenos a la filia en sí, criterio de categorización ligado a la moral, política e ideología del momento. Pero al final a nivel biológico viene del mismo sitio, de la variabilidad genética.

[#17 hazardum]

#14 Yo creo que como dices la orientación sexual es genética y no es un trastorno, pero creo o entiendo en mi opinión que la orientación sexual no abarca todas las filias, es decir, alguien puede ser homosexual, heterosexual o bisexual, independientemente de que le gusten sujetos con más edad o con menos edad, que ya sería una filia pero no una orientación sexual en si misma, que si conllevaría el sexo de la persona.

Es decir, si un hombre es un pedofilo que le gustan las niñas pequeñas, será…   

[#37 lordban]

#17 "será heterosexual de orientación sexual y seguro que podrá tener relaciones con mujeres adultas, aunque prefiera las niñas pequeñas, "

O no. Para todo hay grados. Habrá quién pueda y habrá quién tendrá la misma reacción que tengo yo a las mujeres nonagenarias, que son para mi completamente infollables. Al final la orientación sexual es un cumulo de categorías y rangos, no una división clara.

[#11 MoñecoTeDrapo]

#5 sin tener muy clara mi postura hago de abogado del diablo y digo que eso de que no genera nuevos depredadores no está tan claro. Al crear un producto puedes crear una afición y una "necesidad" que antes no existía o estaba latente.

[#16 Javi_Pina]

#12 el caso de los violadores puede no ser el mismo caso, no sería que les gusta las mujeres, como a los pedofilos los niños sino que les gusta una posición de dominación y control total sobre alguien. En cuanto a que "normalizarlo" augmentaria la cantidad de ñoedofilos. Puede ser pero no creo, se ha normalizado la pornografia gay y no me he vuelto más gay (creo) al final si no es de tu gusto sexual no te va a interesar mirarlo. Cc #11

[#25 uvi]

#16 Pero es que ser gay no es una enfermedad, al igual que ser bisexual.

Ser pedófilo o violador es porque tienes un trastorno, y en ambos casos es violencia sexual, es decir son agresores sexuales. La diferencia normalmente es en el estrato social del delincuente y ambos perfiles son personas que no sienten empatía ni remordimiento por los demás.

[#29 Javi_Pina]

#25 bueno un pedofilo no tiene porque ser agresor sexual (si no establece contacto), literalmente es que le atraen sexualmente los niños. Dentro de ese apartado habrá todo tipo de gente y algunos como los que comentas. Igual que hay gente heterosexual y gente violadora dentro de ese aspectro sexual. El tema es ver como sociedad como mejorar esto porque asi como esta ahora y como ha estado siempre, prohibido e invisibilizado pues parece que no esta funcionando mucho, almenos vamos a hablar de ello.

[#35 uvi]

#29 Hace un tiempo vi un documental en La2, noche temática, sobre este tema, era en Francia, creo que este (el tercero documental):

www.rtve.es/rtve/20110519/pederastia-una-lacra-social-en-la-noche-tema

El caso es que una forma que encontraron de "solucionar" el problema era hacer terapia de grupo donde habían pedófilos y victimas de pedófilos. Y daba la impresión que los pedófilos afinaban la empatía y les ayudaba a ver que lo que hacían producía daño en terceras personas...pero no se como acaba el tema, pero decian algo parecido a lo que tu dices de esconder el problema vs atacarlo directamente.

[#33 Ovlak]

#16 Normalizarlo no significa que se produzcan más pedófilos sino que los que ya lo son lo consideren normal y aceptable. La pornografía gay no ha producido más gays, pero sí ha ayudado a que los que sí lo son lo vean normal. Lo que pasa es que ser pedófilo es un trastorno mientras que ser gay es una orientación sexual.

[#34 Javi_Pina]

#33 que les parezca mas normal y aceptable no me molesta si no violan niños y no se generan nuevos pedofilos por estar más disponible contenido que es de lo que va todo esto. El trastorno es real como minimizar el efecto es lo que hay que estudiar.

[#12 uvi]

#5 Lo que comentas es normalizar la pornografía infantil y el abuso de menores, por lo que si lo normalizas la gente con el tiempo no verá nada malo en ello, es lo normal.
Es como en los países en desarrollo donde tienen turismo sexual con menores, es lo normal en esos países y por lo que se ve va en aumento.

Vender una muñeca sexual con pinta de niña menor no creo que contenten a los depredadores, ya que como dices es una enfermedad y al final los impulsos le llevarán a una persona real.
Es como un violador, ¿por que no se compra una muñeca sexual y deja de violar?

[#23 ElPerroDeLosCinco]

#5 Creo que no es un debate para que opinemos los paisanos de a pie. Deben ser los expertos los que estudien el tema y aclaren si la pornografía infantil (y las muñecas y demás mierdas que les gusten) aumenta o reduce el deseo de los pederastas de tener contacto con niñas reales. Las dos cosas suenan razonables, pero solo una de ellas puede ser verdadera. Mientras tanto y ante la duda, yo prohibiría estos contenidos generados por IA.

[#26 Javi_Pina]

#23 Estoy de acuerdo y de hecho lo están prohibidos. Pero pido abrir debate y estudios cientificos como comentas.

[#3 Mala]

A ver para cuando multa para aquellos que pueden vender nuestros datos y costumbres... aunque pidan consentimiento.

[#1 Joroñas]

Que bien!

Poco me parece

[#24 slump74]

Pues se van a hinchar a poner multas. Ahora mismo la app de Grok permite generar vídeos de "casi desnudos" a partir de cualquier foto con una calidad impresionante y en muchos casos ya bastante difícil de discernir de un vídeo real. De ahí a compartir los vídeos, y caer en el delito, solo hay un paso.
Y hace nada, con un truco, hacía desnudos directamente, pero eso ya lo caparon.