Un grupo de investigación de la Universidad de Chicago ha creado Glaze, una solución que busca proteger las obras realizadas por artistas reales y evitar que estas acaben entrenando modelos de Inteligencia Artificial (IA). Glaze agrega alteraciones casi imperceptibles al ojo como si se tratase de una nueva capa de estilo, y “el software encubre las imágenes para que los modelos aprendan incorrectamente las características únicas que definen el estilo de un artista, frustrando los esfuerzos posteriores para generar plagios artificiales."
Comentarios
¿Que tal se conservan esos "cambios imperceptibles" si reduces la resolución un 10%?
#2 Pues yo no lo sé, pero seguro que esos señores de la U. Chicago pensaron en ello. Según el paper científico, impide el robo con más del 92% de eficiencia "bajo condiciones normales" y con más del 85% de eficiencia "contra contramedidas adaptativas", que suena como algo un poquito más sofisticado de lo que sugieres: https://arxiv.org/abs/2302.04222
Yo, desde luego, cuando suba uno de mis dibujos a Internet, se lo voy a poner para dificultar que esos ladrones me roben. Si funciona, bien, y si no, qué le vamos a hacer. Lástima que aún no haya ninguna solución para "desentrenarles y sabotearles" las IAs, pero con un poco de suerte a alguien se le ocurrirá algo.
#4, esto es como los profesores que piensan que lo de GPTchat se va a arreglar con programas que sean capaz de detectarlo. Si yo fuera artista, no fiaría ni un gramo de mi confianza en el futuro en estos proyectos, que tienen más pinta de puertas al campo, para vender ilusión a gente desesperada por seguir viviendo en un mundo que se muere, que de otra cosa, la verdad.
#4, #7, vamos ellos mismos admiten que no es la panacea:
Unfortunately, Glaze is not a permanent solution against AI mimicry. AI evolves quickly, and systems like Glaze face an inherent challenge of being future-proof (Radiya et al). Techniques we use to cloak artworks today might be overcome by a future countermeasure, possibly rendering previously protected art vulnerable. It is important to note that Glaze is not panacea, but a necessary first step towards artist-centric protection tools to resist AI mimicry. We hope that Glaze and followup projects will provide some protection to artists while longer term (legal, regulatory) efforts take hold.
#9, por eso mismo que son expertos en IA, ponen un disclaimer bien grande, para que nadie se haga demasiadas ilusiones con eso. GOTO #8
#8 Panaceas no existen en esta vida, pero si impides a los ladrones robarte entre él 85% y el 92% de tu trabajo, bienvenido sea.
Y si no lo logra, como digo, pues no públicas nada en digital y listos. No existe ningún motivo para publicar nada si el dinero y el reconocimiento se lo van a llevar esos saqueadores en vez de tú. Te lo guardas para la familia y amigos porque no tiene otro beneficio, y si se lo enseñas a alguna agencia o algo, se lo enseñas en papel y con una nota de copyright bien grande prohibiendo su digitalización sin tu permiso y sin que te paguen ellos el trabajo primero.
#13, entiendo tu preocupación pero creo que la solución va más allá de intentar limitar estas herramientas. Pienso que el arte generado por IA es algo realmente increíble que va a permitir democratizar el acceso al consumo de toda clase de productos artísticos únicos a la gente independientemente de su poder adquisitivo.
Imagina que mañana se inventa una herramienta que apretando un botón, puede fabricar un tomate que tiene el potencial de acabar el hambre en el mundo pero de pronto, los productores de tomates, enfadados por el riesgo que supone para su negocio dicen que hay que prohibirla aún a riesgo de seguir sometiendo al mundo a una escasez artificial solo porque ellos temen verse perjudicados en su modo de vida. Pues bien, opini que más o menos esto es lo que está pasando en la IA en el campo de la ilustración y que pronto lo veremos en muchísimos más campos.
El problema no es que la IA va a dejar sin trabajo a millones de personas, el problema es que el sistema socioeconómico actual no está pensado para socializar automáticamente los logros tecnológicos. Y apuntando a la tecnología lo que se hace es equivocar el tiro. Lo que hay que hacer es cambiar el sistema y que mañana quien se dedique al arte, lo haga por amor y por pasión, no por espurios motivos crematísticos.
#14 ¿Tú también vas a hacer tu trabajo "por amor y por pasión y no por espurios motivos crematísticos"? Porque yo, desde luego, no. Y eso que yo trabajo de otra cosa y hago eso por afición, y hasta ahora lo subía casi todo a Internet con copyleft y una licencia CC noncommercial-attribution-non derivative works a disposición de quien quisiera verlo o copiarlo.
Pero con estos ladrones corporativos sueltos, ya lo he bajado todo y a partir de ahora, distribución privada en papel con copyright duro. Yo se lo regalaba casi todo al mundo para que lo disfrutará, pero para ser una gilipollas que se deje robar para que se lleven la pasta y el crédito otros hay que ser mucho más gilipollas de lo que soy yo.
Contra los ladrones de las IAs, por mi parte se acabó el copyleft, las licencias CC y ofrecérselo al mundo by the face. Ahora, todo con copyright duro y si quieres ver mi trabajo y no eres familia o amigo de confianza, bajo contrato de no divulgación y mucho menos digitalización hasta que no me lo pagues. Y si no, al cajón, que tampoco pasa nada, ya te digo que yo no lo necesito pero tampoco soy una mema que se deje robar.
Por lo demás, me parece muy bestia que queráis que las corporaciones detrás de las IAs se hagan de oro sin pagarle ni un euro al currela.
#15, bueno comentas varias cosas, mi aspiración es que en unos años todos podamos trabajar por amor o por pasión, no porque lo necesitemos para poder sobrevivir.
En segundo lugar, una vez liberas algo bajo licencia copyleft, en teoría creo que no puedes volver a cambiarlo a copyright nunca más.
Sobre lo de las corporaciones estoy de acuerdo, hay que pensar una forma en que las corporaciones no se enriquezcan enormemente gracias a esto mientras la mayoría de la sociedad se empobrece, pero en lugar de repartir Royalties entre otros creadores, me inclino más por enormes subidas de impuestos.
Ten presente que hay proyectos libres, como Stable Difussion que te lo puedes descargar y ejecutar en tu ordenador, sin que ninguna gran compañía se enriquezca de esto.
Y finalmente te quiero decir, es que tu puedes ser tan Quijote como quieras intentando ocultar tus obras para que nadie las utilice para entrenar sus modelos, que al final, va a ser completamente irrelevante tu lucha. En Internet hay miles de millones de imágenes disponibles y que siempre lo estarán, para poder entrenar de sobra modelos generadores de arte.
Lo que me choca es como recuerdo que hace un año la discusión era que la obras hechas por AI eran según algunos cosas horripilantes sin ninguna clase de sentido artístico que jamás quitarían el trabajo de ningún ilustrador humano y hoy hay que asi, casi prohibirlas. Esto para mi es ir con el paso cambiado, la verdad.
#16 Tú puedes aspirar a los mundos futuros que quieras, pero las facturas hay que pagarlas dentro de 4 días, que es fin de mes, y me han contado que sólo aceptan euros, no promesas de mundos futuros. Estáis contribuyendo a propulsar a miles de familias trabajadoras a la ruina y la miseria, no en utopías futuras sino el 1 de marzo, cuando el banco devuelva los recibos.
Lo mismo con la fantasía de que en un mundo cada día más radicalmente capitalista les van a quitar los beneficios a esas empresas saqueadoras y subir los impuestos a la parra, cuando vamos justo en la dirección contraria. De nuevo, para el 1 de marzo, porque si no, muchas de esas familias están desahuciadas bajo un puente este mismo año.
Y a lo mejor lo mío es quijotesco, pero es lo que estamos diciendo tod@s los autores en todos los foros especializados en todos los idiomas que hablo: si no hay pasta ni reconocimiento y encima te roban, al menos que nos roben lo que ya no podamos recuperar, pero ni un solo trazo nuevo. Quien quiera cosas nuevas y originales en vez de variantes infinitas sobre lo mismo, copyright duro y a pagar por la boca. Simplemente porque no hay otra opción.
En cuanto a revertir un copyleft, es tan simple como sacarle el copyright o simplemente inscribirlo en el registro de la propiedad intelectual, si es que ni lo habías hecho ya, y hacerlo valer. No existe ninguna forma legal de copyleft, es una "fantasía consensuada" que hemos usado todos estos años para expresar nuestro deseo de dárselo libre al mundo. Igual que las licencias Creative Commons, no valen nada ante un tribunal si pones en el upload original que ya no, o simplemente lo bajas de Internet y pones en su lugar una nota legal informando de que lo que había ahí ahora está protegido por copyright, todos los derechos reservados y prohibida taxativamente la reproducción.
Esto se ha consultado ya con abogados, porque a muchos trabajadores les va el pan, y todos dicen lo mismo: que en todos los países hay leyes de la propiedad intelectual pero en ninguno hay leyes de la "no-propiedad intelectual". El copyleft era una bonita ilusión que las IA saqueadoras están matando a toda velocidad porque la gente tiene que pagar las facturas el 28 y quienes no lo necesitamos, nos solidarizamos no sólo porque seamos así de guays sino porque además tampoco queremos que nos roben.
Lo perdido, perdido está, pero ni un solo trazo ni una palabra ni una voz nuevas para las corporaciones saqueadoras y sus IAs. Que se vayan a robar y arruinar a sus putas madres.
#17, entiendo vuestra frustración, pero eso no lo váis a parar ya. Y luego de vosotros vendrán en tromba muchas profesiones más, ya lo verás. Por eso pienso que las cosas se van a mover, porque la gente cada vez tendrá menos que perder. Aunque sigo pensando que volver atrás, no es una opción realista.
#18 Ya veremos, cuando todas las marcas, editoriales y audiencias se encuentren con que ya sólo tienen un único estilo "IA fusion" indistinguible del de la competencia. Estilo "IA fusion" que está empezando a detectarse ya. En realidad siguen sin ser muy creativas, ¿sabes?
#19, yo pienso que tienes una visión muy sesgada de lo que pueden hacer las IA's generativas, en mi opinión su potencial es casi infinito. Pero bueno, si es cierto lo que dices, mejor que mejor, casi que no habría que seguir debatiendo sobre esto, seguro que las editoriales estarán encantadas de pagar enormes sumas a alguien que cree algo genuino y diferenciador que sea imposible hacer con IA. ¿No?
#20 En realidad pagan una mierda salvo a los 4 figuras de turno, pero al menos algunas familias seguirán pudiendo dar de comer a sus hijos. Otras no, otras ya se van a la ruina y la miseria, especialmente aquellas con enfermedades crónicas que no les permiten hacer muchos otros trabajos y no tienen buenos contactos. Especialmente en el "mientras tanto" hasta que pase el hype de las IA
Ah, y por cierto, las IA no van a democratizar una mierda; al contrario, van a concentrar todo lo que se pueda derivar en un oligopolio excludivísimo de billonarios que pueda pagarse esos hardware's y esos softwares.
No sé en qué mundos de Yupi vivís algunos, la verdad.
#21, la IA tiene tanto de hype como lo tuvo la electricidad. Es la tecnología que más va a cambiar la vida de todos los seres humanos desde que aparecimos, también la tuya.
#21 Puedes usar stable diffusion gratis online, y si desaparecieran todos los sitios web que lo ofrecen puedes seguir haciéndolo en un pc con unos requerimientos al alcance de un consumidor doméstico. No sé de dónde sacas que es para millonarios. Habrá algunas que necesiten un hardware potente y habrá que pagar, pero seguro que costará menos que pagar el mismo trabajo realizado por un humano.
Supongo que no usas traductores automáticos que han robado los textos traducidos por humanos para aprender idiomas y que sigues llamando a un traductor con alta en la seguridad social cada vez que necesitas entender algo. Porque todo este follón que hay con las IAs generadoras no lo he oído yo con el deepL o el traductor de google, qué quieres que te diga.
#6 GOTO #4 . Y quienes escriben eso y han creado ese software parecen ser expertos en IA, criptología y seguridad informática, no cuñaos soltando la suya en foros de Internet.
Para cualquier creador, es esto o no publicar tu trabajo, porque yo paso de que me roben mi trabajo y total, si no voy a ver un euro, me lo guardo en papel para la familia, los amigos o alguna agencia que me lo quiera comprar y pagar por él.
Y si a alguien se le ocurren mecanismos que no sólo impidan el robo sino que además les "enloquezcan" y saboteen las IAs, pueden contar conmigo para el crowfunding.
#2, o aplicas cualquier algoritmo de compresión. O un simple autoencoder que te limpie la imágen. Vamos, que no veo como algo imperceptible para el ojo humano, puede engañar una convolución.
Bueeeeno, he leido tanto aquí que a los programadores les deberian dar una paga y mandarlos a casa porque hay IAs, que seguro que con los artistas plásticos va a pasar también, sobre todo con el apoyo de los programadores. 😌
Absurdo, corrompo mi trabajo con un Software no vaya a ser que otro software corrompa mi trabajo.
#3 Prefiero "corromper" casi imperceptiblemente mi trabajo a que bandas de ladrones glorificados me lo roben y se enriquezcan con él sin que yo vea un clavo. Y en todo caso, como dicen, "es mío y yo me lo follo como quiero".
De los mismos creadores de "protecciones anticopia", llega "protecciones anti IA".
La web de la U. Chicago, por si alguien necesita dificultar que los dueños de las IA le roben su trabajo:
http://glaze.cs.uchicago.edu/
Es gratis, un proyecto de investigación, y dicen que intentarán ir mejorándolo conforme avancen las IAs ladronas.
No os preocupéis, todo esto de las IAs se regulará.