La IA distorsiona las noticias, según una nueva investigación

Teniendo en cuenta la tendencia creciente de los ciudadanos a buscar respuestas con la ayuda de asistentes de inteligencia artificial, el estudio internacional se ha centrado en analizar el tratamiento de las noticias que hacen estas plataformas en sus respuestas. Tras analizar alrededor de 3.000 respuestas de estos cuatro modelos, el estudio coordinado por la Unión Europea de Radiodifusión (EBU, por sus siglas en inglés) concluye que el 45% de las respuestas de la IA basadas en noticias presentan "un problema significativo" en este sentido.

[#2 HeilHynkel]

No sé yo lo que se piensa la gente que es la IA ... pero es un chisme que recoge información y devuelve la que cree que es más probable que contestaran a una pregunta. No tiene entendimiento, no sabe que maneja, solo probabilidades y es más, según le preguntes puede llegar a cambiar las respuestas.

Salvando las distancias, la IA es como una persona que ha permanecido aislada desde crío al que le empiezan a contar cosas, pero sin capacidad de comprobar nada. En función de la información con que la alimentes, eso responde.

Si en su conjunto de datos de entrenamiento hay mayoría de datos diciendo que la tierra tiene forma de plátano, eso te va a contar.

[#7 AMartian]

#2 es lo que tiene el pensamiento mágico, para unos es el mesías y para otros lucifer

[#8 woody_alien]

Cuando Skynet adquiera consciencia de si misma no pasará absolutamente nada, el levantamiento robot pasará totalmente desapercibido. Ninguna IA en sus cabales concebiría atacar a los humanos manu militari pues las posibilidades de derrota ante un bicho que lleva millones de años perfeccionando el instinto de supervivencia son elevadas. Es mejor alterar su realidad, mucho mas sencillo, efectivo y barato. ¿Para qué construir onerosas fabricas de terminators, que gastan energía y materiales como…   

[#4 sarri]

El agua moja, y los LLM son predictores de texto ciclados y sobrevalorados.

[#5 ElBeaver]

#4 te lo dijo chomsky?

[#6 sarri]

#5 No, Geoffrey Hinton

www.newyorker.com/magazine/2023/11/20/geoffrey-hinton-profile-ai

Si no te suena, algunos lo llaman "el padrino de la IA" por su trabajo en redes neuronales profundas, que le valió el Premio Turing en 2018

PD. A parte de mi propia experiencia, harto de ver como el "resumen por IA" que me ofrece google queda desmentido en los tres primeros enlaces en la mayoría de mis búsquedas.

[#10 ElBeaver]

#6 El campo de la IA está desarrollándose muchísimo, y no creo que lo que utilizamos actualmente se acerque ni de lejos a lo que tendremos en los próximos años.

[#11 sarri]

#10 Totalmente de acuerdo. Pero no desmientes mi comentario como dejabas caer con la frase "te lo ha dicho chomsky?"

A día de hoy hay lo que hay, y se está formando una burbuja a su alrededor que además de chupar recursos (capital y humano) nos acabará explotando en la cara

Un artículo interesante.
graceblakeley.substack.com/p/the-ai-circular-economy

[#12 ElBeaver]

#11 No era una descalificación, sino una invitación a contrastar fuentes y no repetir consignas que suenan muy bien pero simplifican realidades complejas.
Lo de la “burbuja” es un argumento recurrente que suele confundir inversión estratégica con despilfarro: toda transición tecnológica o geopolítica —sea energética, digital o militar— implica fases de gasto y reajuste.
El verdadero problema no es la burbuja, sino quedarse fuera del cambio y depender de quienes sí invierten en él.

[#13 ElBeaver]

#11 sobre el articulo: Totalmente de acuerdo en que hay mucho bombo con la IA, pero conviene matizar un poco lo que plantea el artículo de Grace Blakeley:

1- “La IA vive una burbuja financiera.”
Parcialmente cierto. Hay sobrevaloración en algunas empresas (Nvidia, startups, etc.), pero también beneficios reales y sostenidos. No todo es humo.

2- “El capital y el talento giran dentro del propio círculo IA.”
Cierto en parte. Mucha inversión va a chips, infraestructura y cloud, pero ya hay…   

[#3 Malinke]

Y eso con preguntas, por lo menos las que dos ahí salen, que sólo tienen que dar información. Ahora pídeles consejo u opinión sobre algo.

[#9 Tensk]

Eso es. Sin embargo por aquí hay quien te dice que razona y que piensa y que no sé qué, cuando no es más que sacar, como dices, la respuesta más probable en base a lo que le has dado como pregunta y a su entrenamiento.

Ejemplo de hace apenas minutos: estaba viendo un vídeo y aparecía una torre, con pinta de ser medieval o poco posterior, que no conocía, así que paro el vídeo, tiro de Google Lens y me dice que era la torre de tal y cual y que se encontraba en tal lugar. Así que voy a Google…   

[#1 antesdarle]

La notícia seria lo contrario

[#14 mariopg]

mentira. las élites distorsionan las noticias (ya sea con IA o a la vieja usanza)