Del creador de Grand Theft Auto: La IA es como la enfermedad de vacas locas, se devorará a sí misma

Dan Houser compartió sus puntos de vista sobre el uso de IA en videojuegos, comparándolo con la propagación de la enfermedad de las vacas locas que eventualmente se devoró a sí misma, y dijo que las personas que promueven la IA carecen de humanidad básica. «La IA acabará destruyéndose a sí misma. Los modelos buscarán información en Internet, pero la red de redes estará cada vez más lleno de información generada por ellos».

[#2 Torrezzno]

Esto que dice es algo que ya está demostrado. El contenido generado por IA que a su vez se usa para entrenar otras IAs resulta en una degradacion. Da algo de esperanza

[#3 sorrillo]

#2 Esto acaba de empezar y ya hay algún paper en el cual se proponen metodologías para mitigar el problema, como este:

A Closer Look at Model Collapse: From a Generalization-to-Memorization Perspective
arxiv.org/html/2509.16499v1#S6

[#6 Torrezzno]

#4 Yo no hablo de eso. Hablo del model collapse que menciona #3

en.wikipedia.org/wiki/Model_collapse

A mi modo de ver esto es mas un problema filosofico. La IA genera permutaciones de contenido que han aprendido. Si esas salidas permutadas se las pasas a otra IA para entrenarla estas añadiendo ruido. Al final ese ruido acaba "normalizandolo" todo.

[#4 Battlestar]

#2 MMMMMM, no sé, es debatible.
Es cierto que a la AI en algunos aspectos le queda mucho para ser funcional en algunas lides, pero también hay que reconocer que en otros aspectos ha mejorado mucho y cualquier critica se debe al excesivo celo sobre la AI.

Hace un par de años tu veías una ilustración de comic dibujada por la AI y era un desastre con manos que parecían fideos. Hoy por hoy en algunas cosas especificas la AI se mea en muchos artistas e ilustradores. Igual una imagen de acción…   

[#8 rojo_separatista]

#4, la confesión velada de la excelencia que ha logrado la IA en cuanto a calidad de las ilustraciones es que las empresas ahora ya solo se fían de pruebas in situ para nuevos ilustradores ya que podrían haberlo hecho con IA. Es una forma de reconocer que no hay forma de saber si algo lo ha hecho una IA o un humano.

[#13 fantaside]

#4 Uno de los problemas es ese , ahora los fallos no son que falte una cara o que sea un sketch,eso puede llegar a formar parte de el alma de una obra, sino que el estilo es IA y se nota, lo cual le da un halo cutrísimo y para hacer un meme está guay, pero para vender un libro como el de la Fresia esa de la Dana es totalmente de vergüenza ajena.

[#9 Grahml]

#2 Aquí ejemplo diciendo a la IA "Create the exact replica of this image, don't change a thing":  

[#11 sorrillo]

#9 Sería interesante hacer ese mismo experimento con personas. A una persona se le da una foto y se le pide que dibuje una réplica exacta de ello. Ese resultado se le da a otra persona y se le pide lo mismo. Y así decenas de veces.

Con toda seguridad la última imagen no se parecería en nada a la primera.

[#12 traviesvs_maximvs]

#11 un dibujo no, pero tenemos el famoso juego del teléfono roto donde una persona va pasando un mensaje a la siguiente, y al final se ve cuánto se ha deformado el mensaje original. No hacen falta muchas iteraciones (personas) para que el mensaje se desvirtue completamente.

[#10 Galero]

#2 La esperanza es lo último que se pierde, pero te recuerdo que ahí siguen los Borbones.

[#1 sorrillo]

La enfermedad de las vacas locas es algo contra lo que estamos luchando activamente, la IA es algo que estamos incorporando activamente.

En cuanto a la retroalimentación cada vez que interactuamos con una IA le estamos directa o indirectamente enseñando si sus respuestas nos son útiles, si seguimos con la conversación le indicamos en qué dirección vamos y con ello se puede deducir que partes previas han sido útiles. Si dejamos de responder puede significar tanto que nos ha resuelto el problema…   

[#5 MoñecoTeDrapo]

#1 se refiere a lo de los priones: la encefalopatía viene de una especie de canibalismo impuesto al ganado, fue un problema generado por la ganadería.
La información que busca la IA que proviene de la información creada por la IA dará problemas análogos.

[#7 Varelse]

Ya existen empresas que se dedican ha crear contenido para alimentar IA especializadas y corregir sesgos por falta de datos conocidos. Como esta de moda, a opinar sin tener ni idea. Con todo avance tecnológico hay tareas que pierden su sentido y surgen tareas nuevas especializadas.