Ya no es algo (horrible) que le puede pasar y pasa solo a celebridades o 'influencers' como Rosalía ["es un tipo de violencia y da asco", dijo cuando le sucedió] o Laura Escanes ["el cuerpo de una mujer no se utiliza", respondió dolida cuando le tocó a ella]. La denuncia de decenas de niñas en Almendralejo (Badajoz) de que sus falsos desnudos creados por Inteligencia Artificial (IA) circulaban desde hacía meses por el pueblo ha vuelto a poner sobre la mesa la especial vulnerabilidad de las chicas en internet
|
etiquetas: tecnologia , ia 
Lo que quiero decir es que la tecnología avanza, y aunque los primeros… » ver todo el comentario
Sin embargo, Photoshop no viene por defecto con una funcionalidad que te permita hacer un montaje específicamente sexual en pocos segundos, porque si así fuera a Adobe le caería la del pulpo. Lo que ha cambiado es que muchas IAs abiertas están permitiendo hacer esto a partir de un prompt de pocas palabras, y por eso estamos viendo ahora miles de montajes que antes no se hacían.
Algo parecido ocurrirá con las estafas de cualquier tipo y luego, para gente con algo más de conocimiento pero con mucho menos esfuerzo, la creación de nuevos virus informáticos o biológicos...
Los gobiernos deben ponerse las pilas para regular todo eso, no es fácil, tal vez es imposible que desaparezca, pero hay que hacerlo lo más complicado posible.
La tecnología accesible es lo que tiene, que facilita mucho las cosas y cualquiera con el gatillo fácil puede hacer una masacre.
Estimada Helena,
Tu artículo parte de un hecho real y desafortunado, pero lo encajas en un marco interpretativo prefabricado que no resiste un análisis riguroso ni jurídico ni empírico. No informas para comprender el fenómeno; informas para confirmar un relato.
Has optado por:
- Una explicación monocausal (“machismo”) donde el fenómeno es multicausal
- Una autoridad, que por muy psicopedagoga que sea, no… » ver todo el comentario
En cualquier caso, el no poder manipular ninguna imagen de terceros por norma, ni es realista ni se puede legislar a mayores sin coartar libertades (no así la difusión).
No veo protestas por no poder hacer un escaneo de un billete de 50€.
Y no se exactamente eso de "las libertades" como aplica a un sistema digital de una empresa privada.
Hay muchas cosas que las empresas no pueden hacer.
Si yo ahora cojo una foto de una usuaria de X, la imprimo, y la pego sobre una foto X tambien cundiria el panico? Y si cojo una foto, y en el paint recorto de manera cutre su cara y la pego en un jpg porno, tambien seria violencia digital? Y si perfecciono la tecnica y lo hago con photoshop y queda mucho mas realista? Habria que pedir censurar Photoshop y los programas de retoque? Y si oso cruzar la barrera, y sin su permiso, me las… » ver todo el comentario
Lo cual si lo piensas es aún más loco en este caso concreto, porque en el esquizofrénico reddit tenemos miles de comunidades donde cientos de miles de usuarios (varias de esas comunidades pasan fácilmente del millón) fetichizan a niveles violentos todo tipo de condiciones de… » ver todo el comentario
Si es que se lo han buscado. Cómo no se me había ocurrido antes...
Es responsabilidad de las mujeres por haber dejado disponibles esas fotos. El que use esas imágenes sin permiso, las altere y las comparta no tiene ninguna responsabilidad ya que las mujeres no debían haberlas dejado disponibles?
Creo que van a dejar que avisos a estas empresas y estas empresas escurriendo el bulto dejando que los usuarios encuentren prompts para saltarse las protecciones sea la nueva normalidad
Creo que no es difícil de entender, si hacen que una IA me ponga con una gorra de maga, un porro y en tutú, y es parte de la dinámica aceptada entre todos y quien dice que no, no se le hace, no hay problema.
De verdad, no es tan difícil de comprender: consentimiento y sin difusión más allá de lo acordado (en este caso el grupo de WhatsApp).
¿En qué parte exactamente te pierdes?
Tener un cuchillo en la cocina no me… » ver todo el comentario
Y por lo que se ve, a varias de esos modelos online conocidos ya les han encontrado varias maneras de saltarse sus barreras.
Los modelos abiertos por otro lado, siguen necesitando sus LORAs, ahí si que los pueden capar si los usuarios ven y denuncian esos contenidos en servidores en caso que haya material chungo de menores. Que tampoco será una solución perfecta (nadie puede diferenciar un cuerpo de 17 de uno de 18) pero al menos es algo para los contenidos más perversos.
Y siempre habrá algún perturbado que tenga acceso a fotos de niños por estar en el grupo de padres donde se comparten las fotos de la última excursión , o fotos que pueda hacer el mismo desde la ventana y las pase por el modelo y en segundos tenga todo tipo de imágenes.
Creo que esto debería regularse de alguna manera , que la propia comunidad sea la que denuncie estos modelos.
Que grata sorpresa.
Y generar un video de una persona desnuda es ilegal. No es necesario compartirlo.
Pero vamos, justifíjate como quieras diciendo que hay un agujero legal porque no lo explicita. Es condenable.
No, en muchos casos el delito se produce al distribuir. Tu novio/a te puede mandar fotos en pelotas y no es… » ver todo el comentario
Y que el RGPD no aplique no significa que sea legal, significa que habla de otra cosa. Estamos hablando del derecho a la propia imagen, que es el bien a proteger. Y la ley y varias interpretaciones dejan claro que el bien jurídico a proteger se produce en la creación, no en la… » ver todo el comentario
Se condenará al que lo ha distribuído y al que la ha sacado por cómplice, ya que, por acción u error, ha permitido que se distribuya, claro. La pena será mayor para el primero sin duda. Pero no se condenará al que ha creado la app, el Photoshop o el lápiz que ha permitido que la imagen se haya creado.
Pero vamos, una futura reforma del Código Penal que está en tramitación lo va a dejar aún más claro.
La palabra clave ahí es "futura".
Y si es una aplicación creada exclusivamente para hacer desnudos... puedes tener problemas legales, y muchos.
No, has dicho que tiene posibilidades de acabar en el trullo, aunque también es cierto que en los tiempos que corren no es extraño acabar en el trullo por hacer algo legal.
He dicho que la analogía del cuchillo no tiene por qué ser cierta.
La analogía del cuchillo es cierta en el contexto en que aplica, es decir, cuando lo que hace la herramienta no es ilegal per se. Lo que tú has hecho es pervertir el concepto recurriendo a una… » ver todo el comentario
Y estás confundiendo hacer la imagen con hacer la aplicación. Yo el que he dicho que tiene probabilidades de acabar en la cárcel es el que ha generado la imagen. Es el problema de mezclar dos cosas.
Sobre la analogía, repito, si es una aplicación genérica y alguien la usa mal no hay ningún problema (cuchillo), si es algo exclusivo (rifle modificado) suerte con el juez.
Y por cierto, problemas legales no es sólo acabar en la cárcel. Puede ser una demanda millonaria.
Dependiendo del sistema legal es diferente: en EEUU una vez que sales a la calle o publicas fotos publicas, pierdes la presuncion de privacidad. Eso signfica que si alguien hace una modificacion de tu imagen y la publica (y eso tiene ramificaciones legales), tienes que demandar a la persona por un delito concreto.
En Hispanistan, tienes derecho a tu propia imagen y no pueden divulgar tu imagen en publico si te afecta.
Del tema consentimiento para la publicación de la propia imagen ni hablamos porque sin duda te queda a galaxias de entendimiento y capacidad.
Cualqueira puede coger una foto mia y tirarle dardos, solo que muy bien de la puta cabeza no debe estar, pero.. bueno, no me meto en la vida privada de nadie.
Educar, en tu caso, significa decirle a la gente lo que tiene que pensar. No existe el derecho a coger mis fotos, existe la capacidad de alguien a hacerlo.
Lo siento, pero no tienes derecho a ejercer la violencia. Ni siquiera en defensa propia. Y siempre vas a ir a juicio para demostrar proporcionalidad.
Así que no nos flipemos con películas y atengámonos al código penal y civil real, no el de la fantasía.
Y de todos modos, solo sirve para el género femenino?
En cualquier caso, los objetivos por los que se están utilizando sí son perseguibles
La ley no tiene ningún vacío legal, si usas la IA para generar imágenes falsas con contenido pornográfico de personas reales y lo difundes es delito, y hay sentecias al respecto.
Creo que algún papel importante cumplen las empresas detrás de las IAs, y es eso lo que se apunta.
Es el debate de los derechos de autor, elevado a la privacidad y el derecho al honor.
1. Chica posa sexy en Instagram, porque es su cuerpo, es empoderada y tiene un culazo tremendo.
2. El chaval se baja una app que le da a un botón y hace una recreación realista y ficticia de esa chica desnuda del todo. Es difícil para él no dar a ese botón.
3. El chaval lo flipa, no ya por el desnudo en sí, sino por hacer la gracia, y la comparte con los colegas. Evidentemente esta acción es totalmente reprochable.
4. La ley dice que hasta 4 años de cárcel si es mayor de edad.
5. ¿Perdón? ¿Cuatro putos años de cárcel?
¿Estamos tontos?
Veo que haces mención a:
-posa en instagram
-es sexy
-está empoderada
-tiene culazo
Que tiene que ver todo eso para que un chaval haga y difunda ese material?
El posar sexy, estar empoderada, y tener culazo, da derecho a un pavo a "darle al botón" y difundir material pornográfico de la chica en cuestion?
Me gustaría que lo desarrollaras
Yo no tengo fotos publicas que nadie me pueda coger y ponerme nada.
#34 y #38 ya lo dicen por ahí arriba. El primer pensamiento que os sale es culpabilizar a las víctimas. Hay que mirárselo.
El problema es que alguien divulgue en publico una foto mia comiendole la polla a alguien. No que se la casquen con esa foto.
Como no tienen derecho a coger tus cosas, por ejemplo.
Aquí el tema NO es el desnudo.
NO es que ella suba fotos.
NO es que a alguien le ponga la idea y este salido.
El tema es el puto consentimiento y el daño que eso hace, reputacional y psicológico.
Lo que describes no es “una broma” ni “hacerse una paja con la IA”. Es coger a una persona y crear contenido pornográfico falso suyo sin consentimiento, y encima compartirlo, porque si lo hiciera para él , se hiciera una paja y lo… » ver todo el comentario
"con mis amigos nos puteamos con IA y ya lo hacíamos con Photoshop"
Entonces has estado a un paso de 4 años de cárcel si alguno de tus amigos lo llega a difundir.
De verdad estáis enfermos.