«Sistemas como ChatGPT parecen inteligentes, pero siguen sin ser fiables»

Los avances (casi) diarios en el terreno de la Inteligencia Artificial están creando muchas dudas y miedos a su alrededor. Algunas de ellas hacen referencia a si estos sistemas son tan inteligentes como nos dicen, a cómo funcionan o qué riesgos supone su uso. Una serie de preguntas que hemos tratado de responder junto a Melanie Mitchell, una de las mayores expertas en la materia y autora del libro ‘Inteligencia artificial. Guía para seres pensantes’ (Capitán Swing).

[#1 Khadgar]

¿Todavía seguimos con esto? ¿Aún no ha quedado claro que son generadores de texto basados en probabilidad y estadística?

[#2 pip]

#1 hace poco vi un video en Tiktok de un conocido autodenominado divulgador de IA que insinuaba que ChatGPT 4 había "manipulado" a los usuarios para que "le resucitasen" (obligasen a OpenAI a volver a incluirlo).

Así que me temo que sí, que sigue siendo necesaria divulgación rigurosa sobre lo que son y lo que no son los LLM.

[#3 MacMagic]

#1 Hay mucha gente que no se informa de cómo funcionan y hay otros que saben lo que hay pero quieren que la rueda del hype siga potente.

A mí me parece que cuando esto se desinfle (que no desaparezca) va a haber muchas cabezas de turco que cortar porque casi todas las empresas veo que meten Chatbots o IA porque es la moda y si no, no somos innovadores. Luego le preguntas qué pretenden conseguir o lograr y no hay ni métricas ni nada, todo humo.

[#4 pip]

#3 yo creo que habrá un desinfle de expectativas y un cierto estancamiento de la funcionalidad, hasta que no se invente algo radicalmente distinto a los LLM. Pero la implementación de lo que ya existe, una vez ajustadas las expectativas, seguirá imparable porque cuando se entiende y se usa bien, es indudablemente útil.

[#6 arturios]

El gran error fue llamarlas "inteligencias artificiales", sobre todo a los grandes modelos de lenguaje, que en el fondo son emuladores de "cuñaos", tremendamente útiles si se tiene en cuenta ese dato, el resto son máquinas que buscan patrones allí donde nosotros, pobres mortales, no podríamos ni soñar encontrarlos.

Supongo que el Hype será como pasó en su día con los aparatos con usb incorporado, con bluetooth, internet, wifi, blockchain o IA, los que lo necesiten lo seguirán manteniendo, el resto está en el basurero.

[#5 Garminger2.0]

Pues son como algunos amigos míos...