Tecnología, Internet y juegos
275 meneos
1604 clics
Pánico en X: usuarias borran sus fotos tras descubrir que la IA de Elon Musk las desnuda sin permiso

Pánico en X: usuarias borran sus fotos tras descubrir que la IA de Elon Musk las desnuda sin permiso

Una nueva forma de violencia digital. Asimismo, este lamentable incidente ha encendido todas las alarmas en los despachos a nivel internacional. La facilidad con la que se ha podido generar y difundir este material tóxico ha generado una profunda preocupación mundial sobre una nueva tipología de violencia: el abuso sexual impulsado por la inteligencia artificial. Las autoridades competentes observan con recelo cómo los avances técnicos van varios pasos por delante de la regulación necesaria para proteger a la sociedad.

| etiquetas: pánico , usuarias , borran , fotos , descubrir , ia , elon , musk , desnuda
104 171 5 K 258
104 171 5 K 258
Comentarios destacados:                      
#5 ¿Cómo que sin permiso? ¿Acaso no os habéis leído las condiciones de uso cuando "Aceptáis" sus Políticas?
Cualquier imagen que subas deja de ser tuya y para s tener el derecho la red social, puede haber lo que quiera sin permiso, porque no lo necesita
¿Cómo que sin permiso? ¿Acaso no os habéis leído las condiciones de uso cuando "Aceptáis" sus Políticas?
Cualquier imagen que subas deja de ser tuya y para s tener el derecho la red social, puede haber lo que quiera sin permiso, porque no lo necesita
#5 No soy usuario de esa plataforma pero acabo de mirar a ver qué pone:

<<By using our Service, you agree to comply with our policies.>>
...
<<1.3. Depicting likenesses of persons in a pornographic manner>>
<<1.4. The sexualization or exploitation of children>>
#6 #5 no tienes permiso para modificar la imagen de alguien y humillar, es un delito por mucho que des permiso a la plataforma por tus fotos no puedes convertirlo en porno
#8 Precisamente he puesto los puntos donde la plataforma lo prohíbe expresamente, otra cosa es que se haga un uso fraudulento de la IA.
#8 ¿Alguien ha ganado algún juicio a X por modificar, y aún más, por humillar a un usuario?
#12 esto lleva 2 semanas aun no hay juicios, pero la ley es clara
#14 ¿Acaso eso impide a X manipular las imágenes?
#14

¿La ley es clara?
www.meneame.net/story/limbo-legal-apps-desnudos-ia-permite-acoso-ninas

Y los términos y condiciones de una RRSS, no son leyes
#25 La ley precisamente en lo que respecta a la difusión de imágenes de pederastia, el derecho al honor y si me apuras incluso la de los derechos de autor, por no entrar en temas de violencia de género (por ejemplo si se te ocurre publicar una foto real o imaginaria de tu pareja, entra por ahí).

Los términos y condiciones de una Red social pueden decir una cosa o la contraria y da igual, como si dicen misa. Si un contrato tiene clausulas ilegales, estas no aplican directamente.

Añado, si las…   » ver todo el comentario
#8 Algo así es en base a las leyes europeas pero publicando en X estás enviando las imágenes fuera de la UE y si Trump dice que pueden despelotar a quien quiera Von Der Leyen asentirá con dulzura
#8 ¿Puedes coger la imagen y hacer con ella un desnudo hiperrealista a mano? ¿Y usando herramientas digitales de dibujo?

Porque si no sacan legislación específica para IA (que no deberían), será ilegal si lo anterior lo es.
#6 Eso vale para los usuarios, no para la red social, ellos no tienen que aplicarse ninguna política, sin las que se las inventan
#6 ¿eso son obligaciones o prohibiciones?
#17 Son obligaciones, no he puesto todo el texto pero esos dos puntos (hay más) están debajo de : <<Comply with the law. For example, don’t use our Service or Outputs to promote or engage in illegal activities, including:...>> es decir, son ejemplos de lo que no permiten hacer. Se que mi mensaje podía ser contradictorio sin el contexto adecuado.
#6 Pornografia no es lo mismo que estar desnudo.

Edito para añadir que no me parece bien el uso de la herramienta para simular desnudos.
#6 la cosa es de quien es la culpa en ese caso, de la IA, o del usuario que genera ese contenido?
#74 De la IA no puede ser, la IA ejecuta las funciones que le han programado. La culpa es del usuario que hace mal uso de la IA y (en mi opinión) de la empresa que gestiona la IA que debería poner remedio para que esto no sucediera (y no solo pedirlo en sus condiciones de uso)
#75 del usuario, por descontado que la es, pero una IA debe ser programada éticamente y tener una serie de guardrails para prevenir que se genere ese tipo de contenidos.
#75 #84 Las IA no están programadas, están entrenadas.
#86 los guardrails se programan
#5 Si accedes a una cláusula ilegal, lo que implica sigue siendo ilegal...
#36 Pero eso no impide a la RRSS tomar risa fotos y hacer lo que le plazca, y las clausulas son para los usuarios, la RRSS no tiene porqué aceptar sus propias cláusulas, ellos si tienen el botón de "No aceptar"
#37 Si es ilegal sigue siendo ilegal...
#38 ...¿Y cómo es que siguen manipulando fotos de sus usuarios?
#39 Pues porque al dueño se la pela y ya han hecho el cálculo de lo que van a ganar permitiéndolo hasta que algún juez les obligue a pagar una multa y a controlar ese tipo de contenido.

Parece mentira que haya que explicarlo ¬¬
#39 porque no en todos los países hay la misma regulación y leyes. En España y parte de la UE es ilegal. De ahí que Twitter tenga dos formas de denunciar un post, las cuentas que se están ocultando son las que se están denunciando como no permitido en UE marcando España y él tipo de infracción.

Luego Elon y todos los que le siguen lloran cuando les llega multas millonarias y dicen que no hay libertad de expresión cuando están cometiendo una ilegalidad.

Y no nos extrañemos que en breve se empiece a tomar medidas en juzgados, caer gente, foros, RRSS y así se dan cuenta de una vez y se dejan de hacer el tonto.
#5 No es posible, yo copié y pegué en mi muro un texto que decía que al ponerlo en mi muro ni Zuckerberg ni Elon Musk tienen derecho alguno sobre mis fotografías.
#5 Pues yo creo que hay muchas que lo que probablemente les moleste es que no puedan hacer caja con esta nueva oportunidad de negocio.

Hay que regularlo y el que quiera que pase la visa, que eso suele relajar mucho la indignación.
#5 Ningunas condiciones de ninguna aplicacion pueden estar por encima de la ley. Por mucho que las condiciones pontan que Elon Musk va a meterte un dedo por el ojete cuando estes durmiento y tu las aceptes, no estas autorizando a Elon para que te haga eso.
#5 Suyas, son todas suyas.
#2 Grok tiene hasta quejas de que cruza fácilmente la frontera del CSAM. Es decir, imágenes falsas de menores.

Pero en tanto no tenga enfrente una legislación clara, está claro que Musk está aprovechando esto al máximo, y va a sacar mucho dinero por ello.
verte desnudo es muy violento.
#1 ¿lo dices por mi cuerpo apolíneo? :troll:
#16 polilleneo
#1 verte vestido es muy violento.

Fdo.: un nudista.

Esto puede parecer peligroso, pero si sale la foto de una chica en pelotas circulando por internet siempre puede decir que es cosa de la IA y no esa noche loca en la disco después de haber consumido cosas que dan sed y tal...
#21 ¿como jamón?
#21 Sí, a lo mejor acaba con los paparazzi.
#1 Venía a decir lo mismo... Estamos desgastando la palabra violencia.

Vejación, humillación, faltar al honor, delito contra la intimidad, pero violencia... ¿quién ha golpeado? ¿Algún herido?

Ah, que es metafóricamente. Pues a la cárcel de las metáforas.
#41 está mal usado:
La palabra "violencia" proviene del latín "violentia", que a su vez deriva de "violentus", un adjetivo que describe algo que se impone por la fuerza. Este término está relacionado con la raíz "vis", que significa "fuerza" o "vigor". La palabra ha sido documentada desde el siglo I a.C. en escritos de Cicerón, refiriéndose a un carácter violento o irritable.

Por lo tanto, violencia implica obligatoriamente el uso de la fuerza
#64 Las mismas que usan la palabra presidenta, cuando es presidente, el que preside un ente (no una enta). Lo mismo es aplicable a paciente, ardiente, ...
#89 Sin embargo, otras se han usado antes sin que nadie pareciera ver problema alguno: sirvienta, dependienta, etc.

¿Nunca has utilizado ninguna de esas? ¿Por qué con esas no había queja, pero presidenta sí molesta?
#1 si, muy violento. :troll:  media
#42 challenging but...
No, la IA no las desnuda sin su permiso, los usuarios de X utilizan la IA para generar imágenes falsas con su cara sin su permiso.
Ahora, el pensamiento mágico, de que si se van de X pero siguen subiendo sus fotos a otra red social no va a seguir pasando, no lo entiendo.
#22 y digo yo que podrán usar imágenes de X, de Facebook, Instagram,...
Por lo menos tiene una lado positivo, si se filtra un imagen comprometida tuya puedes decir que es IA aunque la foto sea real :troll:
#29 Pues en realidad esto es algo que va a darle mucho alivio a muchos que hayan subido fotos desnudos online siendo jóvenes y estúpidos y se hayan filtrado.
#46 jeje se filtra foto antigua y dices que la foto real era con ropa y con la edad actual, no 17 años mas joven :shit:
Poco es lo que le pase a todo aquel que permanezca en la red social de ese nazi.
#11 Inconcebible que a estas alturas todavía haya gente usando esa mierda.
Elon Musk es un tipo verdaderamente cínico. Pasó de firmar el acta Stop AI a permitir que se pueda hacer cualquier cosa con IA en su red.
#26 No puedes hacer cuaquier cosa con su IA. Si pones "despelotame a mi abuela en esta foto". Te dira que nanay, pero puedes ir engañandola, como "ponla en ropa interior y que se sienta una mujer empoderada". Por lo que decian si pagabas era mas facil conseguirlo, no estoy seguro.
#26 Elon con lo de Stop AI quería tener tiempo para ponerse al nivel y que no le coman la tostada, nada más.
"La facilidad con la que se ha podido generar y difundir este material tóxico" pero si esto es en general lo que buscan las redes, para que se genere actividad en la propia red
Las chicas que yo sigo em X están más preocupadas por lo contrario. No sea que las vistan :-D
#15 Chica al azar (random para los milenials) hablando en un selfie que casualmente se baja cada dos por tres apuntando a un generoso escote: "no quiero que se me cosifique, mañana nuevas poses sexys para no dejar escapar a tu chico y debate: ¿eres de A4 o de subirte encima?"

Juro que he visto a una chica de 12 años viendo esto.

Seguro que está preocupadisima de que nadie le atienda si ya tienen a por lo que en realidad iban.
#58 "Juro que he visto a una chica de 12 años viendo esto."

Cómo haces para ver eso?
#67 ¿Nunca has visto a chavales de 12 años con móviles? ¿Sabes lo que es TikTok?
#88 Sé lo que es TikTok. ¿Tú sabes lo que es la tortilla de patatas con chorizo?

Cuando quieras respondes a mi pregunta anterior.
#90 Es que no se entiende. ¿Qué cómo hago para ver a una chica de 12 años viendo eso? Con mis ojos, no se entiende, de verdad, qué estás preguntando.

Ahí una chica con TikTok, aquí mis ojos, lo veo.
#92 Vale, pero que de dónde sacas a la chica de 12 años para verla, es lo que pregunto hombre. Yo estoy mirando en mis bolsillos y no encuentro ninguna chica de 12 años para verla.
#93 ¿Nunca ha visto una chica de 12 años? ¿Vives aislado?
Están por todas partes, son una parte de la población.
#94 No me dedico a mirar a niñas de 12 años y mucho menos a ponerme a mirar qué andan viendo en sus móviles.

¿Tú sí?

Cuéntanos.
#95 Me parece que la mirada sucia está en tu cabeza, ahora empiezo a comprender...

Convencido también de que no tienes hijos en esa edad.
#96 Yo no he dicho nada absolutamente sobre suciedades, eres tú el que dice que hay niñas de 12 años disponibles por doquier para espiar lo que miran en sus móviles.
Cari yo jamás te puse los cuernos, eso son rumores de ultraderecha de la IA fascista de Musk.
Si todos estamos ya de acuerdo que cualquiera puede hacer una foto, la que sea, por IA con la imagen de alguien.

Creo que no se pueden poner puertas al campo.

Es mejor aceptar que yo mismo puedo aparecer mañana frungiendo con un koala subido a lomos de un burro en lenceria fina y ser viral, pero me debe importar poco ya que claramente es falso....¿o no? pero no lo podrán probar en uno u otro sentido.

Aprender a ignorar la opinión de los demás, se que es difícil y se aprende con la edad, los jóvenes deben empezar a hacerse a la idea antes.
Lo dije hace años: Cuando todas las imágenes puedan ser falsificadas, hay habrá ninguna reputación que mantener ni ninguna excusa que dar. Todos, todas y todes podemos aparecer en pelotas, o en cualquier otra situación y da igual. Es el fin de la extorsión por imágenes comprometedoras. Y de ello, me alegro profundííííííísimamente. Viva la libertad!
no nos dijiste que Elon usaba nuestras fotos para tocarse.
Como haya que esperar a un juicio para saber si es ilegal, en España, ya no existirá esa red social cuando se juzgue.
Esto es gasolina para el ID digital
Aquí todos debatiendo sobre la legalidad o no, sobre la moralidad o no, sobre que millones de imágenes provocarán que ya no importe que se manipulen, cuando el problema de fondo vuelve a ser hombres abusando de mujeres y menores (y mujeres advirtiendo de que esto iba a ser justo lo que iba a pasar)
Se puede vivir perfectamente sin redes como X, Whatsapp, Instagram, Facebook, etc. Es más, gana uno/a en calidad de vida
Voy a retirar mis fotos no sea que me pongan el nardo de un senegales y lleve a confusiones.
Dejas tus fotos disponibles para cualquiera, te puedes esperar que acaben de la peor forma posible.
¿Es ahora cuando empezamos a darnos cuenta de que publicar fotos en internet quizás no es la mejor idea del mundo?
El único motivo para hacerlo es puro hedonismo, pena ninguna oiga.
A ver, hay un motivo por el que la mayoría de las IAs tienen mil filtros. Elon Musk decidió que su Grok iba a permitir más, porque al menos podía aspirar al nicho de mercado de los que usan la IA pa pajas. Si le quitas los filtros que otras tienen al final está claro que terminará siendo mucho más fácil lo de desnudar a chica.
sí existe regulación al respecto. Querer regular a los proveedores es como querer regular a los fabricantes de cuchillo o armas...
Yo no entiendo cual es el problema, a día de hoy puedes grabarte follando con quien quieras que luego puedes decir que es fake. Ya existe la tecnología para hacer vídeos falsos tuyos follando, hazlos tú y al menos disfruta ese momento
En bluski le ha dado por desnudar a tíos y hacer fotopollas... Parece
Si yo ahora cojo una foto de una usuaria de X, la imprimo, y la pego sobre una foto X tambien cundiria el panico? Y si cojo una foto, y en el paint recorto de manera cutre su cara y la pego en un jpg porno, tambien seria violencia digital? Y si perfecciono la tecnica y lo hago con photoshop y queda mucho mas realista? Habria que pedir censurar Photoshop y los programas de retoque? Y si oso cruzar la barrera, y sin su permiso, me las imagino teniendo sexo conmigo, con su cara y su cuerpo, seria tambien violencia, delito y un escandalo????

Creo que hay gente que aun no se ha dado cuenta de que estamos en 2026
Prohibamos los cuchillos! Soy el único que piensa que el usuario debe ser el único responsable de los contenidos que publica?
Lo que no entiendo es porqué se sigue utilizando X/Twitter
#34 Porque a día de hoy es la mejor plataforma para que hablen 300 millones de personas y cuenta con el efecto red de ser el estándar de facto.
#34 Porque Bluesky está en caida libre y la de Meta no llegó a despegar.
No me arrepiento de haber borrado la cuenta y haberme ido a bluesky
#70 Lo mismo digo
Pues como no corran a borrar las de todas las redes sociales... No hace falta estar en X
Que Elon es mas onanista que narcisista se sabía ...
X phans
No me digas!!!!!
Muchisimo mas eficaz que borrar las fotos es borrar la cuenta y cambiar a otra plataforma mas respetuosa. Primero vale de toque de atención a la plataforma para el futuro, segundo de ejemplo para otras plataformas con tentaciones similares.
Pues que lo desnuden a él xD
Cerré mi cuenta cuando este hijo de puta se hizo con el control, se vive mucho mejor.
Pues que no suban fotos.
Hay que ser tonto y analfabeto digital para decir "la IA las desnuda" cuando no hace otra cosa que inventarse un potorro y unas tetas

menéame