Una adolescente estadounidense víctima de una aplicación, que usa la inteligencia artificial generativa para crear un desnudo falso de cualquiera a partir de una imagen con ropa, ha demandado a los creadores por las secuelas que arrastra y por el potencial uso que estén haciendo de sus imágenes para entrenar modelos de IA, según recoge Portaltic. En 2023, compañeros de instituto de Jane Doe (nombre genérico que se usa para no identificar a la menor de edad, en este caso, de 17 años) obtuvieron y usaron imágenes de ella para cargarlas en la app…
|
etiquetas: ia , app , desnudo , consentimiento 
En España al menos está prohibido difundir imágenes íntimas sin consentimiento. Que me dirás, pero es que son imágenes "fake". Ya, pero siguen siendo imágenes íntimas de una persona reconocible. Por eso digo, no se en que acabará esto, pero de primeras si que veo base para el juicio.
En España al menos está prohibido difundir imágenes íntimas sin consentimiento. Que me dirás, pero es que son imágenes "fake". Ya, pero siguen siendo imágenes íntimas de una persona reconocible. Por eso digo, no se en que acabará esto, pero de primeras si que veo base para el juicio.
#15 Y si es menor se considera pornografía infantil. Aunque la foto sea falsa.
¿Estáis absolutamente seguros de que sólo sirve para eso? Creo que no lo sabemos ni vosotros ni yo. Ahí está el quid de la cuestión : si sirve para algo más que para eso, no ha lugar a juicio.
(Por cierto @sarri, esa palabra de "ridículo" es un poco faltona. A lo mejor el ridículo lo estás haciendo tú).
Así que sí, estoy seguro. Y si tú pinchas el enlace, lo estarías también.
Pues aunque sólo sirviera para eso, el delito no está en generar la imagen, el delito está en hacerla pública.
Por lo tanto, la empresa que ha fabricado esa aplicación no tiene la más mínima culpa de que el imbécil que la ha hecho pública haya cometido ese delito.
La empresa no comete ningún delito, lo comete el que la hace pública.
Si se la guarda para él, nadie comete ningún delito, ni la empresa que ha fabricado la app, ni el tío que la ha generado y se la guardado.
Sigo defendiendo mi opinión porque creo que tengo razón. Repito : el delito no está en generar imágenes, está en pasársela a otra gente y más aún si la ha publicado en redes.
Así que no veo nada claro que generar esa imagen no atente contra tu derecho al honor y a la propia imagen. Y la aplicación está hecha para eso, que es claramente un fin ilícito.
Me alegro que digas que no lo tienes tan claro. Por lo menos me ofreces el beneficio de la duda. Gracias.
#31 No es cierto. Lee la ley, tomar una fotografía sin permiso es delictivo.
En la práctica, hay mucha gente que hace fotos a gente por la calle y no pasa nada. Y hasta puede hacer exposiciones con ellas. Pero técnicamente, no es legal.
Edit. Si eres periodista y la foto tiene interés informativo, también es legal.
Por cierto, la app, por lo que sé, sólo desnuda A MUJERES…………
El delito es usarlo sin el consentimiento de la persona de la foto, ¿no?
Supongo que si esa persona da el consentimiento, no hay delito.
En este caso está claro que hay delito porque no hay consentimiento.
Vamos a poner una analogía. Tu pones una tienda que vende ganzuas y todo tipo de objetos para robar. ¿Crees de verdad que si viene la policía les puedes decir "es sólo para si te dejas las llaves en casa, no para usarlo sin consentimiento"?
#54 Supongo que quieres decir "ilégitimo".
#55 No lo tengo nada… » ver todo el comentario
Otra cosa es distribuir fotos de menores retocadas con intenciones pederastas o para dañar a alguien.
Sobre las fotos sin retocar habría que ver si son de una red social o "robadas". En la prensa vemos fotos robadas todos los días.
En cuanto a si algo es delito, si nos ponemos estrictos, es algo que debe dictarlo un juez y aún así. Pero vamos, poner desnudos debajo de una cara es una nimiedad.
Díselo a las chavalas a las que se lo hicieron a ver que piensan...
www.eldiario.es/sociedad/deepfakes-sexuales-caso-menores-almendralejo-
Es como la portada del jueves de los reyes follando. Si uno lo dinuja en casa, no pasa nada, pero si lo distribuyes, ahí es cuando vulneras el honor.
Que hay adolescentes que se van a pajear como monos con fotos de las compañeras va a pasar siempre. De ahí que haya que educar a los menores para que no se expongan.
Si son fotos robadas, pues a crujirlos.
www.eldiario.es/extremadura/policia-identifica-extremadura-personas-us
...han acabado por destapar un caso que afecta al menos a 25 menores de entre 12 y 17 años...
A ver si así con las negritas nos damos cuenta de lo que provocan estas aplicaciones
Para mí lo escalofriante está en cómo han entrenado a esa ia para que pueda simular imágenes de menores desnudos.
#91 No. La pornografía infantil por ejemplo es delito con que la tengas o la generes, no necesitas distribuirla.
Obviamente, si no lo distribuyen en este caso nadie lo sabe y ojos que no ven, corazón que no siente. Pero eso no lo hace legal.
Si una mujer se hace fotos desnuda con un filtro para parecer teen, también es pederastia?
Para mí el delito es que humillaron a esas chicas distribuyendo fotos simulando su desnudez, que es como si ponen grafitis llamándolas putas, por ambas cosas deberían crujir a los menores implicados y obligarles a pedir perdón públicamente durante meses en su instituto por lo que han hecho.
Luego, la IA no pega un cuerpo, pega partes de un cuerpo en este caso. Y sí, da mucho yuyu por lo que dices, pero puede no ser cierto... voy a dar el beneficio de la duda. Luego, a tu segunda pregunta no. La ley lo deja muy claro, si el modelo tiene 18 años o más, aunque lo hagas parecer menor no es delito.
... pensemos también que en cierto modo le quita importancia y relativiza el desnudo. Si hacer todo eso es posible sin ningún esfuerzo, pues tarde o temprano tendrá menos importancia. En cambio, todo lo "prohibido" es un cebo… » ver todo el comentario
A ti te parecerá una nimiedad. Pero a la víctima probablemente no. Y si vas a la cárcel condenado por pornografía infantil lo mismo tampoco te lo parece.
Luego que la aplicación está disponible en las tiendas de aplicaciones y por tanto como va a ser delictiva si Apple y Android la han aprobado, te han demostrado que no es así.
Ahora que no es delito si hay consentimiento (cuánta gente crees habrá usado esa app con consentimiento?), y que el delito es compartirla y no obtenerla. Pero olvidas que ha habido casos de MENORES DE EDAD… » ver todo el comentario
Por favor, lee mi comentario #70 , que va dirigido a #_42.
Gracias.
Pero como voy sobrado de tiempo, te contesto yo al tuyo con el tema de la responsabilidad.
Está claro que si una persona utiliza mata-ratas para envenenar a alguien, la responsabilidad es suya y no del fabricante.
Pero ahora imagina que el fabricante anuncie su producto diciendo que puede acabar con mamíferos de hasta 100kg, su textura es perfecta para… » ver todo el comentario
importantes: está permitido si son de uso privado y la persona sale de forma incidental, no si son las protagonistas y se usan con fines comerciales o de difusión sin consentimiento. Si la persona es el sujeto principal de la fotografía o se toman en un espacio privado, es necesario su permiso para evitar una vulneración de su derecho a la imagen.
Cuándo se permite (y bajo qué condiciones)
Uso privado e… » ver todo el comentario
Pues nada, como hasta un puto cliente de correo se puede usar para joder a alguien, todo prohibido, el que quiera comunicarse con otro que lo haga por radio. El que quiera un martillo que se lo fabrique (y que no le pillen)
Estamos en una era donde yo lo flipo, la gente de izquierdas totalmente prohibicionista y los fachas clamando por la libertad. Lo de este país...
Yo opino igual, mientras no se publique, ni se envíe a terceras personas. Aunque claro, enviar el fake supongamos que es delito y enviar la foto original y luego pasarla por la app? Se tarda más, pero se consigue lo mismo.
Yo no veo delito, la verdad, es una putada, en especial para las mujeres, pero son montajes, mientras no lo divulgen y los hagan pasar como reales o los usen partes sacar beneficio
Esa aplicación está a la venta en Google y en Apple. No van a ser tan idiotas como para vender un producto que sólo sirve para cometer delitos, porque repito : EL DELITO LO COMETE el imbécil que ha pasado esa imagen, generada por él mediante esa herramienta, y LA HA HECHO PÚBLICA bien con amistades o bien en las redes.
El delito está en hacerla pública.
De tu comentario
¿Estáis absolutamente seguros de que sólo sirve para eso? Creo que no lo sabemos ni vosotros ni yo. Ahí está el quid de la cuestión : si sirve para algo más que para eso, no ha lugar a juicio.
Si vas a ir moviendo la portería pues nada
Estamos debatiendo, y mientras debatimos vamos reflexionando.
Creo que donde está el delito es en la publicación, no en la generación de imagen.
Lee mis otros comentarios por favor.
(Una portería es algo estático que no se tiene que mover. Las ideas sí)
Aquí está:
No te llevan a las tiendas de Google o Apple. Te llevan a otra web, donde se promociona otro servicio similar.
Y luego un manual para descargar el apk e instalarlo, o les tiraron para atrás android y apple o ni lo intentaron porque sabian la respuesta.
Vamos, que son unos piratas de mucho cuidado, y muy conscientes de ello
Ahora, entra a la página de la empresa cuya presunción de inocencia defiendes con tanto ahínco (o mira las capturas que se han puesto en comentarios) y entonces no diré otra vez que estás haciendo el ridículo.
Tú puedes grabarte con tu pareja haciendo cochinadas y no es delito. Pero si lo compartes con tus amigos es delito.
Y si en vez de hacerlo con esa aplicación, hubieran dibujado su rostro y un cuerpo desnudo, ¿ denunciaría a la fábrica de lápices ?.
No conozco esa aplicación, pero seguro que también puede generar esas imágenes partiendo de una foto de Angelina Jolie, o de un personaje de comic, femenino o masculino.
No está hecha sólo para utilizarla en el rostro de esa chica.
Es decir, no es más que una herramienta para generar imágenes partiendo de otra imagen.
Anda echa un vistazo y no hagas el ridículo...
grandespechos 18 piernas delgada ebony milf asiática madura selfie piernas abiertas lencería medias tanga bikini pantimedias
Un reportaje más a fondo para quien quiera indagar en el tema
www.theguardian.com/technology/2024/feb/29/clothoff-deepfake-ai-pornog
In the year since the app was launched, the people running ClothOff have carefully guarded their anonymity, digitally distorting their voices to answer media questions and, in one case, using AI to generate an entirely fake person who they claimed was their CEO.
Igual eso nos debería dar una idea de lo "legal" que consideran su modelo de negocio...
Supongo que habrá algún filtro de edad (por IA por supuesto) pero no parecen excesivamente preocupados a juzgar por la cara y la indumentaria...
ojo: nudes, NSFW
clothoff punto net
No se en que quedará esto. Siendo USA, supongo que ganará quien tenga abogados más caros, pero vamos, que comparar a esta app con una caja de lápices me parece que no hay por donde cogerlo.
Pero entiendo que no te importa "porque es fake", ¿eh? Dicho esto: ¿tienes a mano alguna foto de tu madre? O de tu hermana, también serviría. O de tu pareja, suponiendo que tengas… Porque, claro, "como es fake", no te importará que publique una foto de tu madre desnuda, o de tu pareja, y que yo diga lo que me parezca sobre la "foto" y cómo se consiguió, y que la que tenga que dar explicaciones de que eso es fake sea la persona afectada.
Me estás atribuyendo palabras, ideas y sentimientos que en ningún momento he expresado y mucho menos albergo.
Mis sentimientos al respecto de la publicación de esas imágenes son muy similares a los tuyos : lo aborrezco.
Si lees todos mis comentarios, verás que han sido única y exclusivamente alrededor de la idea de la legalidad, del aspecto JURÍDICO, que por otra parte es el CENTRO DE LA NOTICIA : la DEMANDA.
Reflexionar y debatir, intercambiar opiniones sobre quién tiene la… » ver todo el comentario
No tienes por qué aguantar a ese energúmeno. Ponlo en el ignore.
Y lo de la mención de mujeres cercanas a ti ha sido para ver si así te dabas cuenta de lo DENINGRANTE que puede ser, porque lo que parecía es que estabas justificándola, igualando una aplicación que sirve SÓLO para eso con unos lápices.
Por cierto, hay hasta una pregunta en el Parlamento Europeo al respecto:
www.europarl.europa.eu/doceo/document/E-9-2023-002788_EN.html
Aborrezco la demagogia. Me da mucho asco.
"el único uso de la app es desnudar"
Esta aplicación puede salvar vidas, no hace falta ni usarla, solo con que exista, se acabaron las noticias como esta: www.meneame.net/story/seis-horas-hijo-estaba-muerto-duro-testimonio-ma
Espero que el juicio no lleve a prohibir la aplicación... Si por mí fuera, obligaría a los niños a usarla en el instituto con todos sus compañeros hasta que se aburran, así ya nadie tendría interés por compartir fotos reales.
clothoff.es/
Es que si fuese al revés, que tengan su cuerpo, pero le coloquen, yo que sé, la cabeza de M. Monroe, pues seguramente nadie se hubiese enterado y no hubiese sufrido ese calvario.
Y luego está una parte para mí muy turbia, se pueden subir fotos de niños de 7 años?
¡SPOILER! ¡SPOILER! ¡ATENCIÓN SPOILER!
En este capitulo se trata de un caso bastante similar a este, una niña de 13 años es vicitma de una compañera celosa. La acusada usa una app de IA llamada Nude/AI para generar imagenes sexuales de la vicitima con el profesor de música. Obviamente los chicos de SVU no tardan mucho es detectar que esas imagenes no son reales y que… » ver todo el comentario
Yo lo he dicho mil veces. Si no permitimos que las armas estén al alcance de cualquiera, porque su uso tiene consecuencias, ¿por qué permitimos que cualquiera tenga en su movil una app que puede falsificar la voz o la imagen de alguien, con consecuencias nefastas?
Si, si, claro. La responsabilidad… » ver todo el comentario
Pero una aplicación para desnudar a alguien es es literalmente una herramienta diseñada para delinquir. No tiene otra función o apenas la tiene. Las armas de fuego pueden servir para defenderse. Una app asi, no.
Además, no hay ADN? Geolocalización? Escritos previos dónde se demuestre que lo ibas a hacer? Además de no tener ni puta gracia tampoco eres el lápiz más afilado...
Llevas ropa reversible para que no te localicen por las cámaras. No lleves la ropa en una bolsa pues la bolsa te identificaría. Es imprescindible una gorra para que no te vean la cara. Hay métodos para fastidiar a los reconocedores automatizados.
El teléfono, en casa, bien parado. No se lo dejes a un cómplice pues los trayectos identifican a la persona. Puedes llevar otro apagado y metido en una funda "jaula de faraday" (disponible en aliexpress).
No… » ver todo el comentario
Recortar digitalmente un desnudo y sustituirlo por el cuerpo de otra persona no tiene nada de delito.
El delito sería la distribución o el lucro.
meneame.net/story/veintena-madres-badajoz-denuncian-desnudo-hijas-inte
Aparte que esta aplicación sirve para generar pornografía infantil.
Edit. Concretamente en este caso es pornografía infantil. La chica tiene 17 años.
Es como los temas de relaciones entre una chica de 17 y un adulto, que se empieza a hablar de pedofilia y pienso "creo que le estamos haciendo un flaco favor al tema englobándolo también ahí" , pero bueno.
Ojo que no lo estoy defendiendo que te veo venir
Gracias por la aclaración.
Equivalente masculino: John Doe.
Excepto curiosamente si se trata de un cliente de prostitución, que se queda en "John".