Portada
mis comunidades
otras secciones
#5:
#2 Al respecto, me autocito sobre algo que dije hace años aquí:
Es muy animado el debate sobre la punibilidad de la pornografía infantil virtual. El derecho penal funciona bajo la teoría de los "Bienes Jurídicos Protegidos". Se castiga la violación porque la libertad sexual es un Bien Jurídico Protegido. Se castiga el homicidio porque la vida es un Bien Jurídico Protegido. Se castiga el robo porque la propiedad... bueno, lo vais pillando.
Así que, en función de lo que se defiende, cada bando ve dos BJP distintos:
El bando de la "legalización" ve el bien jurídico protegido en las personas menores de edad. Si para la realización de ese material ningún menor de edad ha intervenido, castigar las representaciones no protege ningún bien y por ende es una disposición contraria a la ley.
El bando de la "prohibición" ve el bien jurídico protegido "la infancia", de forma más general, no sólo incluyendo a las personas que lo componen. La representación sexual de menores debe ser castigada porque aunque no hayan dañado a niños concretos, dañan a la niñez.
En resumen: los primeros ven a los niños y los segundos a la niñez.
Es muy animado el debate sobre la punibilidad de la pornografía infantil virtual. El derecho penal funciona bajo la teoría de los "Bienes Jurídicos Protegidos". Se castiga la violación porque la libertad sexual es un Bien Jurídico Protegido. Se castiga el homicidio porque la vida es un Bien Jurídico Protegido. Se castiga el robo porque la propiedad... bueno, lo vais pillando.
Así que, en función de lo que se defiende, cada bando ve dos BJP distintos:
El bando de la "legalización" ve el bien jurídico protegido en las personas menores de edad. Si para la realización de ese material ningún menor de edad ha intervenido, castigar las representaciones no protege ningún bien y por ende es una disposición contraria a la ley.
El bando de la "prohibición" ve el bien jurídico protegido "la infancia", de forma más general, no sólo incluyendo a las personas que lo componen. La representación sexual de menores debe ser castigada porque aunque no hayan dañado a niños concretos, dañan a la niñez.
En resumen: los primeros ven a los niños y los segundos a la niñez.
#1:
Meneo porque por mucho que diga el fiscal, no está tan claro esto y es algo muy novedoso (el uso de IAs) en algo ya de por sí muy debatido: las imágenes fotorrealistas pedófilas creadas. Muchas ramificaciones legales y éticas.
#106:
#5
¿Qué quiere decir exactamente proteger la niñez?
No sé si seré raro, pero creo que es la primera vez que leo un sustantivo abstracto como sujeto de derechos legales. Por ejemplo, defender "la nación" no es abstracto, ya que España es un sustantivo concreto, un nombre propio. Cuando se habla, por ejemplo, de ofender los sentimientos religiosos, se sobreentiende que es un daño u ofensa a personas.
¿Se puede dañar, por ejemplo, la vejez, o la transparencia, o la inteligencia? ¿Es la Inteligencia Artificial un daño a la inteligencia, y, por tanto debería ser punible? ¿Y las canciones de Leticia Sabater? ¿Se pueden considerar un daño al "buen gusto" y, por tanto, ofensivas?
¿Cambia la cosa si en lugar de hacerlo una IA es un dibujo pervertido sexual que hace un dibujante, como, por ejemplo los Hentai?
Y quizá la cuestión más difícil es: si una IA genera una imagen que parece real ¿cómo se sabría si es real y, por tanto, punible por hacer daño a un niño, o si no es real y, por tanto, no punible. No creo que haya dibujantes que dibujen tan bien que sea indistinguible de una foto... Pero sí puede haber IA, ahora, o dentro de 10 años, que hagan imágenes que no sean distinguibles de una foto.
¿Qué quiere decir exactamente proteger la niñez?
No sé si seré raro, pero creo que es la primera vez que leo un sustantivo abstracto como sujeto de derechos legales. Por ejemplo, defender "la nación" no es abstracto, ya que España es un sustantivo concreto, un nombre propio. Cuando se habla, por ejemplo, de ofender los sentimientos religiosos, se sobreentiende que es un daño u ofensa a personas.
¿Se puede dañar, por ejemplo, la vejez, o la transparencia, o la inteligencia? ¿Es la Inteligencia Artificial un daño a la inteligencia, y, por tanto debería ser punible? ¿Y las canciones de Leticia Sabater? ¿Se pueden considerar un daño al "buen gusto" y, por tanto, ofensivas?
¿Cambia la cosa si en lugar de hacerlo una IA es un dibujo pervertido sexual que hace un dibujante, como, por ejemplo los Hentai?
Y quizá la cuestión más difícil es: si una IA genera una imagen que parece real ¿cómo se sabría si es real y, por tanto, punible por hacer daño a un niño, o si no es real y, por tanto, no punible. No creo que haya dibujantes que dibujen tan bien que sea indistinguible de una foto... Pero sí puede haber IA, ahora, o dentro de 10 años, que hagan imágenes que no sean distinguibles de una foto.
#87:
#19 Si que lo están, con stable diffusion y su modelo base puedes hacer practicamente de todo, y aunque el modelo base no está entrenado para hacer porno, se pueden reentrenar modelos con cosas específicas, como porno, tu propia cara, estilos de artistas específicos, etc, etc. Te pongo un ejemplo, un ejemplo que puedes intentar hacer tu mismo en la web de dreamstudio: El modelo base tiene introducidos conceptos como Mel Gibson y Hulk, si le pides a Mel Gibson como Hulk, aquí tienes el resultado:
#140:
#123 Una representacion de un menor que no existe, ni ha existido, ni nunca existira. ¿es un menor?
Porque otro tema es hacer un montaje de un menor que si existe, y representarlo en esas situaciones que no se han dado en la realidad mediante fotomontajes. Ahi esta claro el individuo perjudicado, pero en el primer caso yo no lo veo tan claro y unicamente veo una especie de "policia de la moral".
Porque otro tema es hacer un montaje de un menor que si existe, y representarlo en esas situaciones que no se han dado en la realidad mediante fotomontajes. Ahi esta claro el individuo perjudicado, pero en el primer caso yo no lo veo tan claro y unicamente veo una especie de "policia de la moral".
#77:
#5 Interesante...
Me pregunto si tendría eso la misma relación que juegar a matar gente en los juegos.
Más todavía con gráficos cada vez más realistas (el GTA 5, que tiene casi 10 años, es tal vez un ejemplo de realismo), donde puedes matar, atropellar, golpear, acuchillar, etc. gente de calle, policías, militares, etc...
Curioso asunto...
Me pregunto si tendría eso la misma relación que juegar a matar gente en los juegos.
Más todavía con gráficos cada vez más realistas (el GTA 5, que tiene casi 10 años, es tal vez un ejemplo de realismo), donde puedes matar, atropellar, golpear, acuchillar, etc. gente de calle, policías, militares, etc...
Curioso asunto...
#17:
#12 No sé lo suficiente de IA, pero supongo que sí... A menos que haya aprendido a unir un cuerpo y una cara de un niño (que ha aprendido de imágenes no sexuales) con imágenes sexuales de adultos. Y por eso es tan interesante.
Ahora, de ser así como dices... ¿es penalmente responsable el pedófilo? ¿O lo es "la IA"? Y esto me lleva a un debate transhumanista muy interesante que seguro que tendremos en las próximas décadas: la responsabilidad penal de una IA. Evidentemente no vas a poder castigar a una IA, pero... ¿a sus programadores sí? ¿Y si la IA goza del suficiente criterio propio y autonomía como para aprender por sí sola en formas que sus creadores no podrían haberlo previsto, serían también responsables?
Ciencia ficción jurídica, pero que seguro que es una conversación que vamos a terminar teniendo.
Ahora, de ser así como dices... ¿es penalmente responsable el pedófilo? ¿O lo es "la IA"? Y esto me lleva a un debate transhumanista muy interesante que seguro que tendremos en las próximas décadas: la responsabilidad penal de una IA. Evidentemente no vas a poder castigar a una IA, pero... ¿a sus programadores sí? ¿Y si la IA goza del suficiente criterio propio y autonomía como para aprender por sí sola en formas que sus creadores no podrían haberlo previsto, serían también responsables?
Ciencia ficción jurídica, pero que seguro que es una conversación que vamos a terminar teniendo.
#73:
Acabo de leer la noticia y deja entrever que el detenido habría entrenado al sistema de creación de imágenes con toda su base de fotos pedófila, y a partir de ese entrenamiento ha generado las imágenes por las que ha sido detenido.
#58:
La verdad es que no le veo ningún sentido. Es como en algunos países donde la posesión de dibujos pornográficos en los que aparecen menores están estrictamente prohibidos. En Australia condenaron a un hombre por tener dibujos pornográficos de los Simpson: https://www.theage.com.au/national/simpsons-cartoon-ripoff-is-child-porn-judge-20081208-6tmk.html
Espero que aquí no lleguemos a ese extremo de majadería.
)
Espero que aquí no lleguemos a ese extremo de majadería.
editado:
me cuelgo de #5 que al parecer #_2 me tiene bloqueado (ahora me arrepiento de haber votado positivo su comentario )
Comentarios
#2 Al respecto, me autocito sobre algo que dije hace años aquí:
Es muy animado el debate sobre la punibilidad de la pornografía infantil virtual. El derecho penal funciona bajo la teoría de los "Bienes Jurídicos Protegidos". Se castiga la violación porque la libertad sexual es un Bien Jurídico Protegido. Se castiga el homicidio porque la vida es un Bien Jurídico Protegido. Se castiga el robo porque la propiedad... bueno, lo vais pillando.
Así que, en función de lo que se defiende, cada bando ve dos BJP distintos:
El bando de la "legalización" ve el bien jurídico protegido en las personas menores de edad. Si para la realización de ese material ningún menor de edad ha intervenido, castigar las representaciones no protege ningún bien y por ende es una disposición contraria a la ley.
El bando de la "prohibición" ve el bien jurídico protegido "la infancia", de forma más general, no sólo incluyendo a las personas que lo componen. La representación sexual de menores debe ser castigada porque aunque no hayan dañado a niños concretos, dañan a la niñez.
En resumen: los primeros ven a los niños y los segundos a la niñez.
#5 Gracias por la aclaración, ahora entiendo mejor otros debates.
#5 Muy interesante.
#5 en este caso, a la IA la tendrán que haber adiestrado con imágenes... reales... de niños reales... para que pueda aprender lo que excita a un pedofilo.
#12 la IA por un lado aprendió lo que es la categoría "niño" y por otro lado ha aprendido otras categorías (juguetes sexuales...) y luego le han hecho un "promt" ajustado a lo que quería el pedófilo para imaginar esas situaciones grotescas.
No se hizo ningún daño a ningún niño en concreto.
#15 no creo que la IA esté tan avanzada como para eso, y en cualquier caso se sabrá en el juicio.
#19 sí que están tan avanzadas, te recomiendo ver el canal de youtube de dot.csv
#21 qué grande es doc.csv y qué maravilla ver sus videos pasados para entender lo rápido que ha avanzado la IA
#19 Claro, por eso para que una IA te saque una imagen de un perro tortuga tienes que alimentarla con images de perros tortuga reales.
#84 claro que sí, o cómo te piensas tú que las hacen??
#84 la imagen adjunta es la que mando a todo el mundo que parece tener una opinión sobre las IA que parecen haber adquirido tras ver dos cortes de noticia en antena 3...
De momento solo ha habido 2 personas a las que he conseguido hacer entender lo que pone
#19 Si que lo están, con stable diffusion y su modelo base puedes hacer practicamente de todo, y aunque el modelo base no está entrenado para hacer porno, se pueden reentrenar modelos con cosas específicas, como porno, tu propia cara, estilos de artistas específicos, etc, etc. Te pongo un ejemplo, un ejemplo que puedes intentar hacer tu mismo en la web de dreamstudio: El modelo base tiene introducidos conceptos como Mel Gibson y Hulk, si le pides a Mel Gibson como Hulk, aquí tienes el resultado:
#19 no entiendes lo que es una IA, básicamente puede imaginar cosas nuevas que no ha visto basandose en las que ha visto, igual que funciona la imaginación humana.
#19 Pues si, lo está, ese es el debate ahora sobre los derechos de autor y sobre si son arte o no. La IA no usa photoshop para mezclar imágenes pre-existentes, las crea de 0, las inventa.
#19 vale, "no crees que", es decir que no lo sabes. Tienes aquí un montón de gente que si lo sabe y dispuesta a explicártelo. A ver si con suerte les haces caso y la próxima vez que alguien diga algo incorrecto sobre las IA eres tú el que les corrige y enseña la realidad
#15 discrepo, aunque depende de lo avanzado de la ia, es probable que utilice imágenes de niños reales obtenidas de algún pool de imagenes sea Internet, bancos de imágenes y por otra, cuerpos de niños o generados, pero hay una base real sobre la que se apoya. Muy interesante, supongo que en un futuro, estos debates serán generados por ias.
#43 las Ia mas avanzadas se apoyan en otras fotos para aprender el concepto niño, pero no replican ninguna parte de esas fotos en concreto para imaginar esas nuevas fotos
#43 añado el dato de que muchas de esas pools recogen imágenes de sitios aleatorios sin ninguna clase de permiso ni control por lo que es muy posible que sí tengan imágenes pornográficas de menores. Hace poco vi el caso de una chavala denunciando haber encontrado imágenes médicas suyas y de otras personas y que estaba luchando por que se borraran.
#15 #43 ver #73
#15 La noticia da a entender que el detenido adquiría material pedófilo para entrenar a la red. Ahí si que se habría producido daño, no en la producción de las imágenes sintéticas, si no en la obtención, almacenamiento y tratamiento del material pedófilo, partiendo de la base de que no se pueden obtener datos de caracter personal sin permiso (las imagenes de personas son datos de caracter personal, con la agravante de que son niños y esas imagenes afectan muy gravemente a su intimidad). Partiendo de la base de que la pornografía infantil no se suele obtener por medios lícitos pues su tenencia infringe algún que otro artículo del código penal. SI mal no recuerdo alguno de los delitos dentro del artículo 197 del CP.
#12 está en inglés, pero explica bastante bien qué hacen las IA de generación de imágenes, por qué no son ni plagios ni tienen que haber sido entrenadas con contenido ilegal.
En el ejemplo, aunque una IA no haya visto jamás un perro negro, sería capaz de generarlo porque ha sido entrenada para saber qué es un perro y qué es el color negro.
#15
#12 No sé lo suficiente de IA, pero supongo que sí... A menos que haya aprendido a unir un cuerpo y una cara de un niño (que ha aprendido de imágenes no sexuales) con imágenes sexuales de adultos. Y por eso es tan interesante.
Ahora, de ser así como dices... ¿es penalmente responsable el pedófilo? ¿O lo es "la IA"? Y esto me lleva a un debate transhumanista muy interesante que seguro que tendremos en las próximas décadas: la responsabilidad penal de una IA. Evidentemente no vas a poder castigar a una IA, pero... ¿a sus programadores sí? ¿Y si la IA goza del suficiente criterio propio y autonomía como para aprender por sí sola en formas que sus creadores no podrían haberlo previsto, serían también responsables?
Ciencia ficción jurídica, pero que seguro que es una conversación que vamos a terminar teniendo.
#17 Pregunto, si seguimos la idea esa de que se ha usado modelos reales en el proceso de aprendizaje de la IA ¿no habría que identificar exactamente cuales y de quienes vienen?
#23 Sí... Y eso nos lleva a otros dos debates:
1- ¿De quién es la culpa? ¿De los programadores de la IA, de la IA, del pedófilo, de quien haya subido la foto originalmente si no tenía legitimidad para hacerlo?
2- ¿Debería ser un delito sexual per se el hecho de aparecer en montajes fotorrealistas pornográficos?
#24 Aparte, creo que requeriría reprogramar el software para añadir "trazabilidad" y saber de donde viene cada parte del resultado.
Otra cosa que me parece interesante es que en algunas IA limitan a propósito el fotorrealismo. Se ven muchas imágenes de estilo anime, pero el fotorrealismo se limita muchas veces a lo que se llama "deep fakes", que es una categoría aparte completamente.
#29 No es tan sencillo, en estos modelos lo mismo de una imagen esta utilizando 5 bytes. Es como si usara 1ms de medias frecuencias de una canción de 10 mins.
Me refiero, de que te sirve?
#29 el fotorrealismo se puede entrenar simplemente con fotos. No está limitado ya.
#17 #24 la IA no lo permite en la licencia. Los desarrolladores no tienen culpa.
#51 #50 Claro, es que no sé qué IA en concreto emplea. Yo hablo de forma más genérica, no de esto en particular.
#54 seguro que es Stable Diffusion. No hay más que puedan provocar esta noticia.
#24 podrías añadir a la clasificación al entrenador de la IA. El creador del algoritmo puede ser uno, pero quien le da los datos es otro, mientras que el usuario final puede ser aún un tercero.
Por decirlo así, el programador sería quien fabrica la máquina de hacer cuchillos, el entrenador quien fabrica un cuchillo con esa máquina y el usuario final quien usa el cuchillo.
Aunque normalmente programador y entrenador (sobre todo en estos proyectos grandes) suelen ser el mismo.
#17 La IA sin datos no hace nada por lo que tampoco se podría responsabilizar al programador. Sería como responsabilizar al P2P o la redes de la piratearía o al cuchillo de los crímenes.
#31 Ahora hablo desde la ignorancia: ¿el programador no podría haber establecido un filtro para a) no poder generar ciertas imágenes o b) no aceptar ciertas peticiones aunque tenga la capacidad de hacerlo?
#32 sí que puede poner esos filtros, pero también se pueden evitar (hay por ahí un vídeo de como se saltan el filtro de que ChatGPT escriba textos como Hitler).
#36 Qué interesante todo esto.
#37 Es de código abierta esta IA, eso quiere decir que te la puedes descargar y si sabes programar la puedes modificar y correrla en tu ordenador.
#32 el programa ya tiene esos filtros. Pero si reentrenas se pueden saltar. Lo que pasa es que la licencia no lo permite.
#59 Vale, me parecía raro ya siquiera a nivel de compliance que no hubiese puesto siquiera un pequeño filtro.
#66 como dijeron es código abierto asi que se puede saltar pero a nivel de webs (hay unos 130 proyectos que conozco que usan SD) y modelos hay muchos filtros.
#74 La mayoría de portales de SD han capado un montón los prompts, es que ya ni siquiera puedes pedirle "sexy" o sinónimos. Pero he visto servicios privados que lo han modificado y te venden el servicio de porno a medida.
#78 https://tuscriaturas.miraheze.org/wiki/Texto_a_imagen pero ahora he hecho más páginas dentro de la categoría y seguramente divida esa en algunas más.
Por las fechas cuadra que sea SD 1.4 y eso ya puede crear cosas muy realistas. Con Kandinsky también se crean cosas muy raras. Aunque en ese caso hay un canal específico para +18 pero obviamente no está permitido tampoco cosas con menores.
A mí hay veces que me han impedido general alguna cosa. Recuerdo especialmente un prompt de un montón de híbridos de animales que le puse "in the style of Children of Bodom cover" y pum, salta el filtro...
Ahora mismo hay una cantidad de modelos derivados de SD cómo Analog o 22h que alcanza niveles de realismo muy elevados y seguramente se empleen para estas cosas delictivas.
Cuando tenía un worker de computación distribuida tuve que ponerle un baneo por lista de palabras porque las cosas que pedía la gente son demenciales...
CC #66
#52 #89 Por curiosidad, ¿qué pasa con los artistas que crean imágenes de ese tipo, sacadas de su imaginación?. Supongo que podría emplearse cómo base para ese debate de IAs, ya que (en teoría) lo representado ha salido de su imaginación y nadie ha sufrido.
#17 No tienes más que ver los miles de dibujos hechos con Stable Diffusion de astronautas montando unicornios y cosas así para ver que la IA no necesita ejemplos del mismo dibujo.
#40 Sí, por ejemplo. Ya me parecía. Como dije más abajo, la IA puede unir dos cosas muy legales (imágenes de niños, e imágenes sexuales de adultos) en algo muy ilegal.
#52 así es
#12 Eso he pensado yo hasta que he leído en #52 que se ha podido entrenar con fotos de niños y fotos porno separadas y luego pedir a la IA que los mezcle…
#14 No es cierto, las IAs tienen cierta capacidad de generalización. ¿Has visto las fotos que hace de astronautas cabalgando? ¿Cuántas imágenes así crees que tenía en su conjunto de entrenamiento? Lo que sí tenía era imágenes de astronautas, por un lado, y caballos con jinete, por otro. Con eso le basta.
Edito: #12, #17
Aunque no he entrado a leer la noticia, igual el problema es que sí que usó imágenes reales...
Edito 2: Según dicen otros comentarios sí que podría haber usado imágenes reales.
#17 "¿es penalmente responsable el pedófilo? ¿O lo es "la IA"? "
Por que esto no es equivalente a lo siguiente?: es penalmente responsable aquel asesino, o lo es el fabricante del cuchillo que uso para degollar a la victima?
#17 Conforme lo veo, la IA no deja de ser un programa, extremadamente complejo, pero un programa, hace sólo lo que le piden, y en el caso de las IAs, lo que hace lo limita lo que le piden y con lo que la entrenan, imagina una máquina que se cree para matar cerdos, por ejemplo, y para que no sufran, no lo hace en una cadena de montaje, sino que va, los busca cuando están solos, se los carga y los quita de en medio (obviamos la sanidad en este asunto), luego alguien pilla y modifica la máquina para que haga lo mismo con humanos ¿quién es el responsable del asesinato, la máquina, o el que hizo que atacase a los humanos?
Una IA no tiene voluntad, no cometerá un crimen porque ella quiera, no asesinará a nadie por voluntad propia, no robará ni por necesidad, sólo hará aquello para lo que la entrenes, o por lo menos lo intentará, pero no tiene voluntad propia, no tiene gustos, no entiende de necesidades, aunque las tenga, no ....., porque es una máquina, de código, pero máquina, sin sentimientos, sin nada que la acerque a la definición de vida siquiera, es un instrumento.
Conforme lo veo, culpar a la IA sería como en un asesinato con un cuchillo de carnicero, culpar al cuchillo.
#12 Fotos reales de niños desnudos hay muchas en internet. Hablo de fotos sin contenido sexual.
#12 No necesariamente, no funciona así el entrenamiento. La red neuronal no comprende lo que le excita a nadie, eso no forma parte de los parámetros con los que se ajusta el sistema. El sistema de algún modo asocia palabras y frases con imágenes o partes de imágenes, relaciones espaciales entre las partes, etc, a costa de exponer al sistema a cientos de miles de ejemplos de tipo: "descripción en texto" + "imagen", de tal modo que lo que se busca es que el sistema vaya modificando sus parametros internos sucesivamente hasta que se consigue que genere una imagen como se esperaría (que debe ser muy similar a la del ejemplo). Para conseguir ese ajuste, en esa fase de entrenamiento se puntúa cuanto de bien ha conseguido la red recrear la imagen a partir de la descripción de texto dada. Cuanto más cercana esté esa puntuación a 0 (lo que significa que la imagen generada es muy similar a la imagen esperada) mejor ajustado está el sistema. Una vez que se ha tuneado o "entrenado" al sistema, este puede generar imágenes tan realistas como se ha perseguido durante el entrenamiento (aunque no estarán exentas de errores). ¿Magia?, más bien fruto de la complejidad y la fuerza bruta. Esos modelos de inferencia (mal llamados Inteligencias Artificiales) capaces de generar imágenes cuentan con miles de millones de parámetros que es lo que se ajusta progresivamente durante la fase de entrenamiento y que en el fondo consiste en la multiplicación de vectores de entradas y matrices de parámetros de manera encadenada para obtener vectores de salida. f(x) es una función que modifica la salida de algún modo:
f(vector entrada*matriz)=vector salida. Siendo el final de esa cadena de operaciones un vector que representa la imagen esperada.
#12 La inteligencia artificial luego creaba las posturas, gestos, color de pelo, miembros masculinos o edad, entre otros factores, usando imágenes reales que encontraba* por la web, incluido el internet profundo a través de la red Tor.
(*El lenguaje figurativo del artículo da a entender que la IA es tan lista que lo hace todo ella sola, lo cual es falso. Normalmente el material que se suministra para entrenar a la IA se busca manualmente o de manera automatizada o más bien una combinación de ambos, y es un proceso autónomo o fase previa que está fuera del proceso de entrenamiento. Este último consiste en analizar sistemáticamente y de manera repetida las imágenes suministradas junto con los textos descriptivos y ajustando automáticamente los parámetros de la red neural hasta que esta es capaz de generar imagenes exitosas).
Pero no se "adiestra" en función de "lo que excita a un pedófilo", es labor del que se encarga de "adiestrarla" el suministrar el material pedófilo a partir del que generará nuevas imágenes pedófilas. No es tan inteligente como se pretende hacer parecer desde los mass media. No hay ningún proceso de razocinio en la producción de esas imágenes.
#12 Por eso, cuando le pides a una IA la imagen de un oso panda en monopatín, es que se ha entrenado con imágenes de osos panda en monopatín...
#5 tiene que tener un desarrollo jurídico curioso. Gracias por la aclaración me resulta muy interesante, si no es molestia, trabajas en la abogacía penal?
#26 Sí, para mi desgracia.
#27 mi pareja también, sois unos currantes de otra liga…
#30 Gracias, hombre. Mi mujer dice que los que sí sois de otra liga sois nuestras parejas
#5 Sólo se debería proteger a las personas. No conceptos abstractos. Si podemos decir que la niñez se ve perjudicada, pronto otro querrá proteger la belleza o la elegancia y a los feos nos meterán en la cárcel.
#39 Entonces no deberíamos proteger la libertad o la justicia o la democracia. Son sólo conceptos abstractos, no personas.
¿No?
#44 Me parecen conceptos muy concretos.
#44 Es que eso no pasa. Es más bien al revés: regulamos la libertad de las personas para hacer algo (y limitamos muchas cosas), regulamos lo que democráticamente puede hacer una persona (y limitamos mucho, pregunta en Cataluña), etc. No creo que la ley defienda conceptos abstractos, sino situaciones concretas de aplicación de ese concepto.
#44 haciendo de abogado del diablo, son conceptos contemplados por ejemplo en la constitución como derechos, poderes del estado o sistemas de gobierno, la infancia creo recordar que no.
Por poner un ejemplo, si tú detienes ilegalmente a alguien atentas contra su libertad de movimiento, de esa persona. Si durante el entrenamiento de la IA sólo se usaron imágenes de dominio público legales (ningún niño fue víctima) y si el niño creado por la IA no se corresponde con una persona real (no se afecta a la intimidad o el honor de ningún niño sino que el rostro es nuevo) ¿a quién perjudica esa imagen?
#44 en otro orden de cosas, creo que en la última modificación de la ley se prohibió cualquier representación sexual de un menor, incluyendo dibujos por ejemplo, así que con la ley en la mano esas imágenes son ilegales
#44 la libertad no es una abstracción, es un grado.
#97 Al no haber victimas, es claramente un tema exclusivamente moral y basado en suposiciones de que si no se penaliza todo el mundo naturalizará esto, cosa absurda y nunca demostrada.
Supongo que es un debate similar al de la prostitución o la pornografía dura. #39
#39 ...y a los feos nos meterán en la cárcel.
Como debe ser. Y después deberían tirar la llave de la cárcel al río
#5 llámame animal, yo solo veo horca o guillotina
La verdad es que no le veo ningún sentido. Es como en algunos países donde la posesión de dibujos pornográficos en los que aparecen menores están estrictamente prohibidos. En Australia condenaron a un hombre por tener dibujos pornográficos de los Simpson: https://www.theage.com.au/national/simpsons-cartoon-ripoff-is-child-porn-judge-20081208-6tmk.html
Espero que aquí no lleguemos a ese extremo de majadería.
#58 lo siguiente es prohibir a Novokov.
#5 Interesante...
Me pregunto si tendría eso la misma relación que juegar a matar gente en los juegos.
Más todavía con gráficos cada vez más realistas (el GTA 5, que tiene casi 10 años, es tal vez un ejemplo de realismo), donde puedes matar, atropellar, golpear, acuchillar, etc. gente de calle, policías, militares, etc...
Curioso asunto...
#77 Según los últimos estudios que creo recordar, no hace más proclive a cometer actos violentos pero sí a reaccionar "mejor" ante la violencia y, en concreto, en ejercicios militares (porque ya hemos pasado el acondicionamiento de disparar a una figura humana).
#5 Sea como fuere no debería tener el mismo castigo.
Me imagino que también habría que justificar que la infancia esta en peligro, que debido a esas imágenes hay mayor riesgo de que algún menor le pase algo.
#5 interesante. Pero que "la infancia" se vea perjudicada me parece muy difícil de justificar. En qué sentido?
#90 Hm, podría argüirse que la proliferación de imágenes sexuales con niños podría conllevar a una progresiva normalización al respecto que podría redundar a su vez en un aumento de delitos. Podría simplemente basarse en la mera moralidad (las leyes tienen una gran carga moral).
Yo veo un tema peliagudo. Me inclino más por no perseguir si no hay víctimas directas, pero estoy convencido en un 60%. Respeto también a quienes opinan lo contrario.
#93 Sí, es lo que digo en #92, que puede normalizar demasiado el sexo con niños. Yo me inclino por no penalizar pero tampoco estoy excesivamente convencido.
#96 Y en el hipotetico caso de que un determinado acto (no este, por ser un mal ejemplo sino cualquier otro, como el hurto), se haya normalizado, ¿Deberia seguir siendo un delito?
Hay situaciones que se normalizan y dejan de ser un delito porque la sociedad en su conjunto las acepta, como por ej. el adulterio, fue delito, ya no lo es.
#92 vaya por delante que no tengo ni idea de leyes, pero esto me suena como si me dices que beber alcohol puede ser delito porque causa delitos.
Yo igual soy muy radical con estas cosas, pero considero que si sigo no tiene víctima demostrable, no debería ser delito.
En este caso, además, puede ser hasta positivo para todo el mundo. Los pedófilos "liberan tensiones" y ningún niño sufre.
#92 De la misma forma que la películas violentas y gore podrían conllevar a una progresiva normalización de la tortura y el asesinato, lo cual podría redundar en un aumento de delitos. Podría simplemente basarse en la mera moralidad (las leyes tienen una gran carga moral).
#5 Ya, en teoria es un delito sin victima , pero hay un coda. Estas aberraciones sinteticas pueden satisfacer temporalmente las fantasias de un perturbado , pero ya sabemos "mono ve , mono hace" , y alguno de estos animales se nos va a escapar e intentar hacer lo que ve en esos videos con niños reales.
Se que es un argumento debil , como cuando lo del asesino del rol , o lo de que los videojuegos pueden promover la violencia , pero la verdad es que a mi me da muy mal rollo todo esto.
Hasta que no haya una realidad virtual fideligna en la que toda esta depravacion pueda ser satisfecha sin daño a ser viviente alguno , es un terreno muy peligroso.
#93 Miralo desde otro punto de vista, a lo mejor esto podria ser la metadona de un yonki. A lo mejor a alguno de estos le llega con mirar un dibujo mas o menos realista y la cosa no pasa a mayores.
#5 el bien jurídico protegido al prohibir imágenes virtuales de contenido pedófilo es el mismo que se encuentra detrás de la prohibición de las imágenes reales del mismo tipo, ya que al ser potencialmente indistinguibles, si se permitiesen unas, se darían ciertos casos en los que una imagen real pasase por ficticia y por tanto se entorpeceria en potencia la defensa de los mismos derechos que la ley trata de proteger. La interpretación de una ley nunca puede acabar suponiendo un detrimento para los derechos que iniciaste intentaba proteger. Tampoco es lícito que se distribuyan imágenes que puedan servir como un apología de un acto ilícito y aún en mayor medida siendo este acto profundamente contrario a los derechos fundamentales de un aparte especialmente protegida de la población como son los niños. Y la representación de una imagen ficticia de este tipo puede interpretarse como una apología de una situación real de naturaleza similar.
En España dudo que la doctrina de los tribunales mantenga una postura que priorice la libertad individual de generar imágenes que pueden agredir gravemente los usos y costumbres sociales teniendo en cuenta que la sociedad no gana nada al hacerlo, más bien lo contrario. Aunque la verdad es un debate nuevo y bastante interesante.
No entendí bien tu última frase.
#98 No creo que el BJP sea exactamente el mismo. El que hay detrás de la prohibición de imágenes reales, además de la protección de la infancia, se trata de impedir que se cometan actos pederastas contra niños reales. Sigue una estrategia de atacar también al consumidor: si el consumidor se siente demasiado intimidado como para comprar pornografía infantil, redundará en menores ventas y por ende menor producción. Eso dice la teoría.
La interpretación restrictiva de las normas penales hacen que no las tenga todas conmigo sobre que los tribunales sean proclives al castigo. No lo sé. A ver cómo se desarrolla todo.
#98 "Tampoco es lícito que se distribuyan imágenes que puedan servir como un apología de un acto ilícito"
Bajo ese razonamiento no se podría filmar una película en la que se represente el asesinato de una persona ya que asesinar personas es ilegal...
#5
¿Qué quiere decir exactamente proteger la niñez?
No sé si seré raro, pero creo que es la primera vez que leo un sustantivo abstracto como sujeto de derechos legales. Por ejemplo, defender "la nación" no es abstracto, ya que España es un sustantivo concreto, un nombre propio. Cuando se habla, por ejemplo, de ofender los sentimientos religiosos, se sobreentiende que es un daño u ofensa a personas.
¿Se puede dañar, por ejemplo, la vejez, o la transparencia, o la inteligencia? ¿Es la Inteligencia Artificial un daño a la inteligencia, y, por tanto debería ser punible? ¿Y las canciones de Leticia Sabater? ¿Se pueden considerar un daño al "buen gusto" y, por tanto, ofensivas?
¿Cambia la cosa si en lugar de hacerlo una IA es un dibujo pervertido sexual que hace un dibujante, como, por ejemplo los Hentai?
Y quizá la cuestión más difícil es: si una IA genera una imagen que parece real ¿cómo se sabría si es real y, por tanto, punible por hacer daño a un niño, o si no es real y, por tanto, no punible. No creo que haya dibujantes que dibujen tan bien que sea indistinguible de una foto... Pero sí puede haber IA, ahora, o dentro de 10 años, que hagan imágenes que no sean distinguibles de una foto.
#5 y si lo ha realizado con sus fotos de pequeño, seria su niñez o seria el.
#5 vale, desconozco los entresijos judiciales y que quede claro que aborrezco más que nunca tener que hacer de abogado del diablo pero: bajo esta misma premisa sobre la protección y el bien jurídico en la pederastia+IA: ¿qué pasa por ejemplo con el homicidio y las películas donde aparecen? porque yo interpreto que podría ser lo mismo aplicando estas premisas del lenguaje jurídico del bando de la prohibición, aunque en el lenguaje social del sentido común todos sabemos que no es lo mismo.
#5 Te copio la doctrina de la Fiscalía General del Estado con respecto a la pseudopornografía infantil o pornografía infantil virtual:
Avanzando en esta línea, parece que para las conductas de tráfico sin la previa utilización de menores y para las conductas de simple posesión, la exégesis mas acertada es la que identifica como bien jurídico protegido la indemnidad sexual de los menores en general, como tipo de peligro. La punición de estas conductas se basaría, pues, en su peligrosidad en tanto favorecedoras de posibles futuras agresiones o abusos de menores a través del fomento de la pedofilia. En definitiva se trataría de reaccionar penalmente contra el potencial de estímulo de explotación sexual de los niños que éstas implican (vid. Propuesta de decisión marco del Consejo de la Unión Europea relativa a la lucha contra la explotación sexual de los niños y la
pornografía infantil, 2001/0025). Dicho en otras palabras, el legislador quiere proteger la indemnidad sexual de los menores anticipando las barreras de protección penal. La indemnidad sexual de los concretos menores que aparecen en el material pornográfico no integraría, pues, el objeto de protección de la norma.
#5 En virtud del principio de intervención mínima y fragmentaria del derecho penal, en caso de considerar la niñez como el bien protegido, a mi juicio la aplicación del código penal para castigar el perjuicio a esos abstractos bienes jurídicos está totalmente fuera de lugar. Bien se puede enmarcar esa protección mediante el recurso a la sanción administrativa. Y con ello no estoy postulándome ni a favor ni en contra de la persecución de pornografía infantil ficticia, que de hecho existe en otros formatos, como el comic o la animación. (Me he tenido que registrar con otra cuenta porque los moderadores de este foro, que parecen unos niñatos de algodón me han anulado la capacidad de comentar en mi anterior cuenta ¿así se fomenta el debate MNM? de vergÜenza)
#5, me da mucha alegría encontrarme comentarios tuyos en las noticias, que lo sepas.
#5 no sería esto equivalente a prohibir las imágenes de BDSM extremo con mujeres?
Es una representación de algo que en realidad no está pasando.
Quiero decir: grabar a una mujer torturándola de verdad es algo masyaue punible y en lo que todos estamos de acuerdo que sea así. Grabar a una mujer simulando ser torturada en actos sexuales no.
#5 En el caso de la prohibición por "la infancia", ¿no deberían estar prohibidas igualmente imágenes en la que mayores de edad vistiesen y aparentasen ser menores?
#5 yo estoy un poco espeso...¿si creo un personaje con IA y lo decapito,es delito?..¿Si creo un personaje con IA y lo violo es un delito?. De nada
Meneo porque por mucho que diga el fiscal, no está tan claro esto y es algo muy novedoso (el uso de IAs) en algo ya de por sí muy debatido: las imágenes fotorrealistas pedófilas creadas. Muchas ramificaciones legales y éticas.
#1 yo no veo quién es la víctima de que el pedófilo juegue con su IA, o que haga dibujos con un lápiz o con el photoshop...
#1 cierto. No se podría aseverar que sean menores de edad ya que no existen y están deformados.
#1 por lo que tengo entendido, la ley deja muy claro que se persigue siempre y cuando se pretenda imitar personas reales y en el caso de la IA deberías necesitar especificar los "prompts" que quieres y nos que no, por lo que no hay lugar para dudas.
#57 Claro, eso no lo sé. Pero más bien llevo el debate a un nivel más general, no sé si en todas las IAs necesitas especificar los prompts. Va porque en un futuro es muy posible que una IA nos casque exactamente lo que queremos ver sin ninguna configuración adicional.
#63 por lo que sé sí es necesario a no ser que esté programada y especializada en algo específico como podrían ser paisajes, por ejemplo. La cosa es que si no especificas te da algo aleatorio o genérico (si no recuerdo mal, se supone que en ese caso te da un resultado muy parecido a una imagen que tenga en la memoria, sin apenas modificación).
Habrá que ver cómo avanza tanto el debate legal por derechos de autor como el del uso desautorizado de imágenes.
#1 Tal y como yo lo veo, porque la noticia no me lo deja del todo claro, a este tipo lo detuvieron por compartir material pedófilo y llevaban tras él desde 2011,así que dudo que fuese por hacer uso de IA que son algo relativamente nuevo en lo que a creación de imágenes se refiere, al menos para el público general.
En cambio la noticia sí deja claro que el acusado tenía guardados varios teras de material pedófilo, que sí es ilegal. Supongo que sería por ese motivo por lo que lo detuvieron, por posesión y distribución de pornografía infantil.
En cualquier caso podría haber usado ese material para enseñar a la IA como generar imágenes nuevas, lo que imagino que sí se puede considerar ilegal
#1 Pero no es tan novedoso, ¿no? Está la pornografia en formato manga que muestra a personajes con aspecto infantil. Entiendo, por lo que leo de tus comentarios, que es el mismo problema que con la IA.
#1 Pero el 189CP dice que pornografia infantil es:
a) "Todo material que represente de manera visual a un menor ..."
d) "Imágenes realistas de un menor ... "
"Todo material", si no me han cambiado el idioma, significa cualquier tipo de material ... e "imagen realista" es cualquiera que parezca real. Dado que la posesion esta penada, segun lo entiendo yo, esta penado hasta poseer dibujos o renderizados 3D ... asi que poseer cosas hechas con IA tambien deberia estar penado, no?
Policía del pensamiento
Acabo de leer la noticia y deja entrever que el detenido habría entrenado al sistema de creación de imágenes con toda su base de fotos pedófila, y a partir de ese entrenamiento ha generado las imágenes por las que ha sido detenido.
#73 ¡Arrea! va a haber imágenes de esas hasta en la sopa.
#79 No te extrañe que un modo de negocio ultra turbio sea que estos enfermos hagan compraventa de esas redes previamente entrenadas con lo más extremo de la deep web.
#83 no vamos a poder distinguir la realidad de la ficción.
#79 Lo que va a acabar pasando es que nadie acepte como prueba una fotografía o video.
#14 no necesariamente, la IA podria mezclar las categorías de niño, y de desnudez (sacando la categoría desnudez de adultos).
Otra cosa es que eso no es lo que habrá pasado (al igual que no existen adultos que no haya visto nunca niños desnudos).
#11 La noticia no me deja nada claro qué ve concretamente el fiscal como delito, si las imágenes en sí o el material de base. Y dudo que todos esos 4 teras de porno sean sólo de IA.
Dicho esto: la última instrucción de la fiscalía que conozco es de dejar en paz al hentai y a los dibujos que se nota que son dibujos, pero ir contra las imágenes muy realistas. No deja claro qué se considera como "muy realista", pero me parece recordar que específicamente excluye al manga.
Por otra parte, esto son instrucciones de la fiscalía general para los fiscales, pero no obligan a ningún juez a interpretarlas así, tampoco.
Es complicado.
#35 Hubo un tiempo en que el porno infantil era legal.
Luego se argumentó que para dificultar la violación de niños era mejor prohibir ese material. La idea era que si no se podía vender, se desincentivaba su producción.
Si esa prohibición funciona para lo que se diseñó, o no, es otro tema. Se estuvo así durante unos años. La justificación para las condenas era que existían niños perjudicados. Es decir que el dinero usado en comprar ese material acababa financiando el daño a niños. No existía internet entonces.
Pero luego apareció lo de prohibir los dibujos (exactamente este caso, pues no va venir de como se hacen), donde no existe ningún niño perjudicado. Esto es mucho más difícil de defender.
Lo de que la cosa dependa de lo muy o poco realista que sea el dibujo es llevar la subjetividad a un extremo. Eso no consiste en ninguna diferencia en la naturaleza del dibujo, sino en la apreciación de quién lo mire. Se trata al fin y al cabo de enviar o no a alguien a la cárcel dependiendo de lo que a un juez le dé la real gana de considerar o no considerar, sin que haya nada objetivo detrás.
Porque en definitiva aquí lo que se está penalizando es la tendencia sexual concreta de la pedofília, aunque usando excusas para ello. Algo tan difícil de justificar como la persecución de la tendencia sexual concreta de la homosexualidad. Veo por aquí a quién lo califica de "desviados" o cosas peores, pero es un hecho que quienes lo son no han hecho nada para serlo.
Por inventarme un paralelismo, es como si alguien quisiera perseguir a los negros por la razón de que es un racista y los negros le dan asco, pero como que eso no lo puede justificar, se dedica a perseguir algo que a los negros les guste hacer, aunque sea algo que no causa ningún daño a nadie, y para excusarse se inventa una frase sin significado tal como "proteger el bien jurídico de la blanquitud".
Por poner un contraejemplo, la prohibición del asesinato no sirve para proteger "el bien abstracto de la vida" sino para proteger la vida de personas concretas.
En definitiva, no veo justificable nunca que una ley se base en la moralidad y no veo como una frase sin significado puede justificar nunca nada. Un crímen sin víctimas nos debe parecer algo muy sospechoso, digno de un mejor análisis.
#13 pero no de imágenes pornográficas con niños. O no tiene por qué, vaya.
Meneo porque con el cambio de ley de los dosmiles poseer dibujos pedofilos (¿Un cuadro de un niño Jesús en el Belén no sería delito también?) también es delito.
Lo va tener muy muy crudo en el juicio aunque no haya ninguna victima humana en este caso.
No se, yo lo veo polémico, pero si la persona no hace daño a nadie y no es un peligro, déjalo jugar con su IA, con su lápiz (como dicen algunos otros aquí) o con su plastilina.
#34 Hm, no . Las instrucciones de la Fiscalía dicen que no deben perseguirse los dibujos que se note que son dibujos, como el hentai o el cartoon occidental. Sí se persiguen los dibujos fotorrealistas.
Por otra parte, se castiga la pornografía y la exhibición. No el mero desnudo. Si fuese así, todo pediatra con un manual dermatológico sería un delincuente. Así que tranquilo, puedes seguir teniendo una foto del Niño Jesús.
cc #41
#42 ¿Pero por qué se persigue los dibujos fotorealistas?
Comprendo que se persiga a uno que suba un vídeo en plan fotomontaje de un político (ojo de cualquier signo político) hiperrealista para intoxicar y mentir. ¿Pero un tío de estos y su comunidad alrededor no lo entiendo?
#34 mandémosle al psiquiatra pero no a la cárcel
#72 Es que mira que es polémico, pero si no hace daño a nadie (pero de verdad) y tiene una vida normal fuera de eso, Y se ve que no va ha hacer daño a nadie. No se ni siquiera un psiquiatra...quizá algún tipo de vigilancia periódica por si acaso....
#72 Los psiquiatrras solo tratan enfermedades.
#34 ¿Un cuadro de un niño Jesús en el Belén no sería delito también?
¿Pero qué cuadros de Belenes has visto tú?
#14 Ya, pero un menor desnudo per se no es material pornógrafo. La IA podría coger dos cosas legales (fotos de menores desnudos, por un lado; y actos sexuales adultos consensuados, por otro) y unirlos en algo muy muy ilegal, ¿no?
#75 Aprovecha y pon tu lista de IAs que a muchos nos va a ser útil
#14 he visto imágenes de adultos aniñados o rejuvenecidos.
“Utilizaba un programa donde describía lo que quería y este generaba las imágenes”. Este tipo de aplicaciones, de código abierto, es similar al que utiliza GPT-3, una herramienta de reciente actualidad.
Se ha hecho la picha un lío con las AIs.
#48 la frase es medianamente correcta.
#75 supongo que los dos funcionan en servidores conectados a la red eléctrica.
#85 seguramente sea stable Diffusion y emplea CLIP así que ya tienes una conexión más fuerte, modelos de inteligencia artificial que tienen partes realizadas por la misma empresa. No es muy preciso pero la frase no es necesariamente incorrecta.
Pero oye. Diferenciar dalle mini de dalle2 de imagen ya les era muy difícil.
#91 si hablamos que escriben para un público generalista, sí es incorrecta, básicamente porque induce al error. Del mismo modo que 1 + 1 es 2 para el público generalista, pero igual no está tan claro en la matemática teórica.
#48 va a ser divertido cuando las IA's crezcan con los datos de los artículos de gente hablando de las IA's. Van a tener crisis existenciales.
#14 No tiene por qué. Podría usar imágenes de adultos y rejuvenecerlas.
En el hentai se ven con frecuencia lo que a todas luces son violaciones y cosas extremas. Entiendo que por la misma regla de tres, son punibles, no?
#49 No. La jurisprudencia y la fiscalía consideran que los dibujos que se nota que son dibujos, como el hentai, no son punibles.
#69 Era una pregunta retórica, querido@PasaPollo. Pero te agradezco tu precisa contestación igual
Soy de los que me posiciono en la zona gris. Por un lado esta el entrenamiento de la IA con una base de fotografías a todas luces delictiva. Por otro lado el resultado de dicho entrenamiento que por sí mismo no deja de ser el resultado de un algoritmo. Debe ser detenido, sí por lo que el tipo - siempre según el artículo - poseía.... pero ¿por lo que ha hecho utilizando la herramienta de la IA? no termino de verlo claro.
Es como si el entrenamiento de un perro lo hace peligroso o no. Un perro entrenado puede ser perfectamente mortal para el ser humano; pero quién es el culpable en este caso ¿el animal o quién lo entrenó? (la respuesta es obvia, creo). Luego también hay factores como la raza del perro, no es lo mismo en graduación de peligro que te ataque un rottweiler o un pastor alemán, a que te ataque un chihuahua o un bichón.
#97 La IA no tiene por qué haber sido entrenada con imágenes ilegales, puede aprender conceptos por separado y luego fusionarlos a petición del usuario, por ejemplo, a Brie Larson hecha de queso Brie:
#97 No hay ninguna necesidad de usar material ilegal para generar material ilegal. Puedes simplemente describir lo que quieres que genere.
La IA utiliza imágenes reales para crear la imagen final, por lo tanto aunque ningún menor ha sido abusado, se ha creado a partir de menores reales y por lo tanto me parece evidente que sigue siendo pornografia infantil y un delito. Algo que sería totalmente distinto si por ejemplo fuera un dibujo. Aunque supongo que es mucho más complejo de como lo expongo.
#4 ¿O sea que es solo un problema de fotorrealismo y no de mentes trastornadas/perturbadas?
Para entrenar a una IA de generación de imágenes, se le proporciona un conjunto de datos de imágenes reales, que se utilizan para "enseñar" al algoritmo a reconocer patrones y características comunes en las imágenes. A medida que el algoritmo aprende a reconocer estos patrones, comienza a poder generar nuevas imágenes que incorporan estas características y que se asemejan a las imágenes reales del conjunto de datos.
#6 pero por lo que leo en la noticia el problema es que se nutre de imágenes reales, que entiendo qué es por lo que el fiscal considera que es pornografía infantil.
#4 pues yo no veo la diferencia entre que una IA use imágenes reales para diseñar un menor y una persona use su imaginación para dibujar a menores.
#7 no la hay, porque la IA lo que hace es imaginar las imágenes nueva mezclando los patrones que ha categorizado de de otras imagenes.... parecido a como funcionamos las personas.
#7 pues el fiscal sí que ve la diferencia, ya que para él constituye un delito. Ya otra cosa es lo repulsivo que nos pueda resultar.
#7 tu puedes usar tu imaginación para dibujar un menor desnudo sin necesidad de haber visto nunca a un menor desnudo. La IA necesita imágenes de menores desnudos para poder crear nuevas imágenes de menores desnudos.
#14 No es cierto, por favor no confundas.
#14 no es necesariamente verdad, en general. Pero puede haberlas usado, efectivamente.
#14 eso no es cierto
#14 No sabes qué es una inteligencia artificial.
#14 no. De la misma forma que no necesita imágenes de Hitler desnudo montando un velociraptor para generar a Hitler desnudo montando un velociraptor
#14 No es así. Lo adivinará mejor o peor. Seguramente mucho mejor que una persona bajo similares limitaciones.
#7 como por ejemplo el hentai
#4 Estoy de acuerdo contigo.
Puedo crear imagenes IA con menores y ponerlos en acto sexual y es un delito? No lo creo. Otra cosa es que sea de buen gusto. Sin embargo, si todavía tuviera fotos y las ha tomado como muestra, entonces puede tener material delictivo y es un delito. Siempre y cuando todavía lo tenga! En el articulo no lo menciona. Que por ahí atacaría yo al tipo este.
Si es delito dibujar menores con lápiz, oleo, photoshop en algo muy obsceno...uff en el arte hay mucho ejemplos.
También lo es matar multiples personas como lo he hecho yo varias veces el año pasado. A mi sobrino adolescente le pareció muy divertido que su tío le hiciera una historia con él y conmigo en los Kingsman para su cumpleaños, pero veo que puedo terminar en la cárcel.
Mientras tanto antes de dormir me voy a ver un cuadro: El origen del mundo de 1866.
#4 y si se dibujan se puede decir que se puede hacer porque el cerebro humano que lo hace ha visto previamente niños
#4 En absoluto necesitas imágenes pedófilo para generar contenido pedófilo. Seguramente ni de niños.
#4 no funciona así. He moderado un canal de discord y los resultados puedes ser horribles y los datos de entrada no tener imágenes ilegales.
#4 Las IAs tipo Wall-E pueden crear imágenes cuyo contenido no existe, combinando distintas imágenes reales.
E.g. imágenes de un pato, y de un elefante, para crear una imagen de un pato con cabeza de elefante.
#4 No es necesariamente así. Pueden usar imágenes de adultos practicando sexo y otras de niños no haciendo nada. Y decirle a la IA que use las caras de los niños y las acciones y posturas de los adultos. Que los niños que "ponen la cara" sean reales no se si lo convierte en un delito, si no son reconocibles y así no se atenta contra su dignidad.
Lo que sí es delito es la tenencia de pornografía infantil, así que desde el momento en que se ha generado la imagen, hay un delito. Y ese es el debate aquí, porque se entendía que para que haya tenencia de esas imágenes alguien había tenido que realizar esos actos horribles. Pero ahora si las pueden generar de manera artificial, la cosa es más complicada. Personalmente soy partidario de que estas fotos también estén prohibidas, para no dificultar la persecución de las fotos reales.
este tipo de juicios van a sentar precedentes futuros y podría afectar en un rango mucho más amplio que las imágenes pedófilas.
¿Toda imagen pedófila es delito? ¿incluso las generadas por ia? el mundo hentai está lleno de imágenes cuestionables, ¿se empezará a perseguir a los weebs (como se llamen los que ven hentai)?
¿qué diferencia de juicio puede haber entre ese hentai y las imagenes de ia?
no ha habido victimas humanas, ¿pero salen caras de niños reales?
#41 parece que esto va de matar al mensajero.
podrían llegar a joder el progreso solamente por un tema moral bastante cuestionable.
#41 ¿qué diferencia de juicio puede haber entre ese hentai y las imagenes de ia?
Es algo puramente subjetivo.
En la cárcel estará bien esa escoria humana violador de niños.
#68 te voto negativo por el invent, la noticia no habla por ningún lado sobre una violación, no te inventes cosas