Más de 200 líderes reclaman un tratado mundial para regular la IA

Más de 200 líderes políticos, científicos y tecnológicos, incluidos Nobel y directivos de OpenAI y Google, respaldan en la ONU un llamamiento a fijar en 2026 "líneas rojas" globales para los usos más peligrosos de la inteligencia artificial. La iniciativa, presentada este lunes en la 80ª Asamblea General de la ONU en Nueva York, pide a los gobiernos que para 2026 acuerden una serie de "líneas rojas" sobre los usos de la inteligencia artificial que se consideren demasiado peligrosos para ser permitidos bajo ninguna circunstancia.

[#3 reithor]

Estaría bien que se excluyera cualquier uso o aplicación militar.

[#2 sat]

Estaría bien que tuviera un punto que fuera "Prohibido robar a los creadores para entrenar IA Generativa".

[#5 arturios]

#2 Entiendo que tengan que pagar derechos de autor por entrenar una IA, es como si estuviera estudiando cine, por decir algo, y para analizar las pelis de Spielberg me las bajase con torrent, pero si yo hago una peli inspirado en la obra de dicho director ¿es plagio?, pues lo mismo con la IA.

^{Uno de la SGAE diría que si, que toooooodo es plagio y que se les debe pagar si o si, pero esa es otra historia.}

#4 totalmente.

[#6 sat]

#5 Que va, de tu argumento se deduce que ni eres creador ni entiendes como funciona un dataset para entrenamiento de IA.

Te pongo un ejemplo real. Stable Difussion usó el catálogo al completo de Getty para entrenar su IA generativa. Según tu argumento la IA sólo miró las fotos y se inspiró en ellas para crear algo nuevo. Realmente lo que pasó fue que descargó todas las miniaturas junto con sus METADATOS para entrenamiento. Sin metadatos una IA no mira nada y no entiende nada. Necesita asociar…   

[#8 arturios]

#6 "Tu estudiante de cine no necesita eso" se llama formación, sin ella, yo veo una peli y ni puta idea de que es un traveling, ni un encuadre, movimiento, música, angulación, montaje, iluminación, etc... ese aprendizaje, a base de ver otras obras y que se las expliquen serían los metadatos que dices, el que es lo que estás viendo y por que es genial o una porquería.

[#9 sat]

#8 A base de ver otras obras y que se las expliquen... Se lo explica un profesor que cobra por eso. Un creador, ademas de crear la obra, tiene que mecanizar los metadatos y cualquiera que quiera usar eso tiene que pagar porque está protegido por derechos de autor. Es bastante sencillo de entender. A mi me parece genial que una gran corporación quiera entrenar una IA que genere imágenes por ejemplo y te cobre una suscripción por su uso. Pero los datos (imágenes, vídeo, texto, código, etc etc) que usa para ese entrenamiento tiene que pagarlos.

[#10 arturios]

#9 En mi primer comentario decía "Entiendo que tengan que pagar derechos de autor por entrenar una IA" y que me parecía mal que "para analizar las pelis de Spielberg me las bajase con torrent", así que, básicamente, estamos totalmente de acuerdo.

Mi pero es que hay gente que dice que una obra generado por IA es un plagio de tal o cual autor cuando es una obra derivada, como podría ser un cuadro que pueda hacer yo inspirado en Rubens (dios nos libre, que no se hacer ni una recta con regla).

[#11 sat]

#10 Plagio no es, ni es una mala tecnología en sí misma. Pero estas empresas que te cobran una suscripción tienen que pagar por los sets de entrenamiento como hacen ya todas las plataformas de stock.

También te digo que si mis creaciones fueran usadas para entrenar una IA libre, universal y gratuita tendría 0 problemas en ceder mis obras gratis para entrenamiento.

[#12 arturios]

#11 Ya, si es que estamos de acuerdo

[#7 rojo_separatista]

#2, esto es lo menos problemático de todo, estamos ante una tecnología que tiene el potencial para acabar con la humanidad de forma mucho más efectiva que un apocalipsis nuclear.

[#4 rnd]

Puertas al campo.

[#1 pandasucks]

Tan efectivo como cualquie otro tratado.