Investigador en IA: «A este ritmo, en dos años, será imposible detectar si una imagen o un vídeo está generado con inteligencia artificial»

Sergio Fernández, investigador del Centro de Estudios sobre el Impacto Social de la Inteligencia Artificial de la Universidad de Oviedo (Ceisia), hace un diagnóstico directo, sin paños calientes: «Dentro de un par de años, si la progresión es lineal, será prácticamente imposible distinguir a simple vista una imagen o un vídeo real de otro generada por IA». «La IA permite generar contenidos que son muy difícilmente discernibles de la realidad. Cualquier autoridad competente va a tener que perder tiempo revisando y filtrando cuáles de esos.

[#4 sat]

Hago yo también un diagnóstico directo, sin paños calientes: No me lo creo.

[#1 guillersk]

Y en 3 serán mejores

[#8 hormiga_cartonera]

#1 si son mejores, ya son diferentes y por tanto diferenciables

[#3 vRom]

Quien dice 2 años, dice 20...

[#11 Depronto]

#3 No realmente, tu has visto los videos de Sora 2?

[#16 sorrillo]

#15 Porque con los mismos datos lo más lógico es que llegue a las mismas conclusiones.

El ser humano puede estar décadas o siglos teniendo los datos de experimentos sin sacar las conclusiones que posteriormente revolucionarán la física.

Una IA se inicializa con datos aleatorios y luego se empieza el entrenamiento, el mero hecho de inicializarlo con unos datos aleatorios distintos ya puede ser suficiente para que con el mismo set de datos dé resultados distintos. De hecho el mero hecho…   

[#12 Mltfrtk]

En la peli Blade Runner dan la clave, cuando investigan una escama bajo un microscopio para saber si es natural, descubren que no. Todas las piezas artificiales tienen un número de serie.
Que cada paso que de una IA deje por ley su sello de forma invisible o inaudible en la obra, en cada parte, en cada trazo, en cada frame, en cada paso. De manera que te diga al instante qué compañía de IA ha hecho esa obra o lo que sea.

[#6 Archaic_Abattoir]

No creo. La IA es un salto cuantitativo pero no cualitativo.

[#9 sorrillo]

#6 Que absurda esa frase.

¿La IA es un salto cuantitativo en relación a qué?

La IA puede hacer un salto cuantitativo o cualitativo. La IA puede necesitar hacer un salto cualitativo para equiparar la generación de imagenes a las que creamos los humanos o puede bastarle con hacer un salto cuantitativo, pero la IA no "es" un salto.

[#13 Archaic_Abattoir]

#9 Me explico:
La IA es útil para analizar datos, revisar cosas y buscar información, tareas que son iterativas.
Pero para crear cosas originales como los humanos no podrá.
Por ejemplo, ninguna IA conseguirá crear una teoría que unifique la gravedad y la cuántica. Podrá desarrollar mucho lo que ya hay creado. Pero una teoría nueva no podrá.
Ese es el salto cualitativo que no podrá hacer.

[#14 sorrillo]

#13 Conozco esa hipótesis que nos explicas, otra hipótesis en esa línea es que aumentando a nivel cuantitativo bastará para conseguir esos resultados que nos indicas, que para que muestre el nivel de inteligencia al que aspiras no se requiere otra cosa que seguir por el camino que se está siguiendo.

En un futuro podremos conocer cual de las hipótesis es cierta.

En esta otra noticia se habla de una IA distinta a los LLM habituales, en la cual se ha combinado con técnicas simbólicas, y a la que…   

[#15 Archaic_Abattoir]

#14 Creo que el salto cualitativo no sucederá. Lo que dices de la IA distinta viene un poco a confirmar lo que digo. Porque con los mismos datos lo más lógico es que llegue a las mismas conclusiones. ¿Por qué no sucederá el avance? Porque cuando los científicos buscan unos datos ya intuyen que hay algo que buscar. Por ejemplo: El bosson de Higgs. Ahora se busca en experimentos porque se ha llegado a nivel teórico a la conclusión de que puede existir pero eso ha necesitado una investigación que necesita trabajo, inteligencia y emociones. Y las máquinas no tienen ni nunca tendrán nada parecido a eso. Los humanos creamos cosas nuevas porque tenemos emociones. Las máquina solos nos ayudarán en el trabajo.

[#2 SeñorMarron]

Habrá que entrenar otra IA para discernir...

[#5 antesdarle]

#2 o una marca de agua ya sea visible o en la metadata. De hecho creo que es obligatorio decir que es contenido generado por IA cuando lo subes a redes

[#7 SeñorMarron]

#5 Puede saltarse, está bien. Pero yo creo que debería perseguirse más el hecho del bulo interesado cuando sea muy grave. No es lo mismo decir que han venido los aliens a la Feria de Albacete (puede ser una broma divertida) que el bulo del parking de Bonaire... Trazar quien inició el bulo para generar el caos es lo difícil, y seguro que ya están en ello también, pero una herramienta así puede ser también muy muy peligrosa en malas manos.

[#10 cajadecartonmojada]

#2 Eso ya se hace. Se usa para entrenarlas.
es.wikipedia.org/wiki/Red_generativa_adversativa