Grok, ¿por qué mientes sobre estas imágenes de niños desnutridos en Gaza?

La IA está dando algunos de estos contenidos por falsos asegurando que no se corresponden con este conflicto o que datan de años anteriores cuando, en realidad, son ciertos. En VerificaRTVE recopilamos algunas imágenes sobre las que Grok ha mentido y te explicamos con la ayuda de expertos por qué la inteligencia artificial de X está calificando como falsos contenidos de Gaza que son reales.

[#1 Ripio]

"...esta IA "se basa en todo lo que hay en Internet y en X" por lo que, si esta red social "está plagada de desinformación, pues asume esa desinformación".

Y luego aquí lo amplificamos.

cc @carademalo @impoarsifal

[#7 harverto]

#1 La IA que necesita otra IA para funcionar correctamente...

[#8 Ripio]

#7 ¿Supervisada por otra IA, por si acaso?

[#9 harverto]

#8 Y certificada con total neutralidad por otra IA

[#27 Frank84]

Hay que ser muy hijo de puta para negar lo que está pasando. Pero ya no importa nada más que el relato y ante una mentira que te salten "¿Quién eres tú para que no pueda dar mi versión de los hechos?"

#9 ¿Quién vigila al vigilante?

[#39 fernando_sierra]

#9 Y así hasta llegar a la madre de todas la IAs, que miente más que habla.

[#16 elmike]

#7 Algo así vaticinó Douglas Adams en su obra "La guía del autoestopista galáctico" después de que un super ordernador(una ia en tal caso) respondiera a la pregunta: "El sentido de la vida, el universo y todo lo demás": 42. Se tuvo que construir otro super ordenador para formular la "pregunta definitiva" ya que la pregunta debe ser formulada correctamente para entender la respuesta.

[#33 Malversan]

Me asombra que haya burros que pretendan usar Grok como herramienta de verificación. Si las IA de por sí ya fallan como una escopeta de feria, la IA menos fiable posible es una alimentada expresamente con los bulos basureros que hay en Twitter.

Y encima tiene como directriz priorizar la opinión de su dueño, un reconocido embustero ultraderechista.

Después dicen de los chinos y su censura. Es para reírse.

#16 En este caso se trata de supervisar una IA que ha sido programada para mentir.

[#51 johel]

#16 #33 #23 #2 Hace 30 años y no estoy exagerando ni un año que ya se sabia que cualquier automatizacion que recopilase datos se iba a polarizar rapidamente hacia lo que hiciese mas ruido.
En primera persona; Cuando los niñatos como yo con un modem de 56kb estabamos probando a montar bots en el chat del irc* para aprender como funcionaba el tema, ya se veia que si ponias el bot a recopilar informacion en un chat de adolescentes el bot acababa hablando de hijos de puta, de como se la…   

[#11 DonaldBlake]

#1 Vamos, que es A pero no I, un gran avance.

[#20 Quecansaometienes...]

#11 Lo que han creado es una Deficienc-IA

[#32 todosube]

#2 No, lee el primer comentario: #1, es por los datos con los que se ha entrenado
cc #23

[#36 Alegremensajero]

#32 Vamos, lo que viene a ser lo mismo pero con diferente nombre...

[#38 todosube]

#36 bueno, se programa a las IAs para "aprender" a partir de volúmenes de datos, lo que creo afecta a este sesgo de Grok es el uso de los datos de X para su aprendizaje no su programación (algortimos o reglas) para saber "aprender" a partir de datos de entrada.

cc: #37: recaba la opinión de Musk de X.com

[#40 chavi]

#38 Esa respuesta lo que muestra no es sesgo.

[#37 celyo]

#32 se apunta no solo al entrenamiento, sino su propia evolución

Guadián nos cuenta que cuando Grok hace sus investigaciones, pregunta cosas como "¿qué piensa Elon Musk de…?". Esto implica que lo que hace la IA es "recabar la opinión de Elon Musk a la hora de configurar la respuesta", concluye el analista.

[#56 Eukherio]

#1 Realmente es un poco el producto habitual de la mierdificación. Dejando a un lado las alucinaciones es relativamente fácil limitar las fuentes a partir de las cuales Grok puede contrastar información, lo que pasa es que a Musk jamás le ha interesado que Grok fuese medianamente neutral, y en el momento en que vio que la gente pillaba la costumbre de preguntarle a Grok sobre este tipo de cosas aprovechó.

[#2 Alegremensajero]

"te explicamos con la ayuda de expertos por qué la inteligencia artificial de X está calificando como falsos contenidos de Gaza que son reales."

Me la juego sin entrar al enlace: porque está programada para eso.

[#23 celyo]

#2 Más o menos

Los expertos consultados coinciden en que los sesgos con los que está entrenado este modelo y su base de datos son clave.
...
Guadián nos cuenta que cuando Grok hace sus investigaciones, pregunta cosas como "¿qué piensa Elon Musk de…?". Esto implica que lo que hace la IA es "recabar la opinión de Elon Musk a la hora de configurar la respuesta", concluye el analista.
...
Carlos Guadián coincide en que igual que hay usuarios que prefieren consumir medios

…   

[#41 chavi]

#23 Esto no tiene nada que ver con ser progresista o conservador.

[#17 vvega]

#13 Primero dice que India lidera ligeramente para acto seguido pasar a afirmar que se estima que India supere a China en los próximos años. Ambas cosas no pueden ser ciertas al mismo tiempo, ya que cuando vas de primero no puedes adelantar a nadie.

[#21 antesdarle]

#17 #18 perdon tienes razón pensaba que se referia a lo tachado. Gracias por la aclaración

[#46 Aokromes]

#21 no es tachado es subrayado cutre

[#30 chavi]

#17 Es tan "inteligente" que habitualmente se contradice a si misma en la misma frase.

Lo he visto muchas veces

[#45 Aokromes]

#4 otro ejemplo de por que no fiarse de las IA:

#13 #17 #18 #31 #43  

[#49 Roosa]

#45 Es mejor usar un buscador como Perplexity. Da información más actualizada. No te puedes fiar tampoco, pero no está limitado a su entrenamiento.

[#55 orangutan]

#45 Si que está en skyshowtime , la captura que le metes abajo es información parcial  

[#50 Roosa]

#17 Un LLM no puede detectar contradicciones porque desconoce el significado de la palabras que usa.

[#25 tdgwho]

#14 A mi me han replicado mas de una vez en twitter usando salidas de chatgpt que son claramente erróneas

[#3 shake-it]

No sé ni por qué nos seguimos molestando en preguntar cosas a Grok. Supongo que será por las risas, ¿no?

[#14 angelitoMagno]

#3 No se, yo cuando entro en X a cotillear la mitad de lo que veo son cuentas promocionadas y gente preguntado a Grok.

Puede que a muchos nos pueda parecer una tontería usar Grok para informarse, pero está bastante extendido.

[#28 chavi]

#14 Ya internet es un medio de manipulación de masas. La IA son un paso enooorme en ese sentido

[#22 hush]

Usar cualquier IA para informarse y conocer la realidad del mundo en que uno vive es de retrasados y de vagos...

[#18 Stieg]

#13 Dice que India es el más poblado y después dice que India pasará a China como más poblado en los próximos años.

[#4 perrico]

Yo nunca usaría una IA para información política.
Ni para nada serio que no vaya a contratar después.
La uso como una consulta rápida de cosas no importantes o importantes solo contrastando las respuestas con fuentes fiables.

[#6 Aokromes]

#4 Yo nunca usaría una IA para información política.

Te lo corrijo:
Yo nunca usaría una IA para información .

captura sacada hoy mismo:  

[#13 antesdarle]

#6 perdona pero no entiendo dónde está el error. Estados Unidos es el tercer país más poblado del mundo e Indonesia el cuarto.

[#31 llorencs]

#13 Que dice que actualmente India lidera ligeramente y unas líneas después dice que superará a China en los próximos años. da información contradictoria.

[#43 fernando_sierra]

#6 Es lo que tiene hacer un refrito de distintas fuentes que dicen cosas diferentes cuando realmente no "entiendes" lo que dice cada una de ellas.

[#53 MataGigantes]

#6 Esa IA a la que haces referencia es la IA de las búsquedas de Google, que es de las más básicas y ligeras que hay porque requiere un alto rendimiento y eficiencia para poder obtener resultados rápidos en cada búsqueda que se realiza en google.

Pero hay IAs mucho mas potentes y robustas, que no te harán esa clase de respuestas ambiguas o poco certeras.

Es como si me dices que una scooter no es fiable para hacer un viaje largo. Nos ha jodio, si quieres un viaje largo y seguro utiliza una moto mejor!! Lo mismo para las IAs, las hay mucho mejores que esa que te encasqueta Google en las búsquedas, no generalices.

[#58 fliper]

#6 Es posible que esté hablado de crecimiento cuando se refiere a liderar?. Sería factible, que no lo sé, que India aun teniendo menor población, sea que la experimenta mayor crecimiento, lo explicaría que pudiera superar a China en los próximo años

Tampoco me parece raro lo que tu apuntas y simplemente que se trate de una cagada de la IA

[#5 Verdaderofalso]

Porque ha sido programada para eso

[#10 MoñecoTeDrapo]

HMV. His master's voice

[#24 Bertrand_Ndongo]

Ahora que rtve verifique esto:  

[#12 jmav]

O simplemente programar.- Gaza Fake para la IA. Y por qué programas, una base de datos de consulta en la que entre cómo datos Gaza Fake.

[#26 chavi]

Es porque es muy inteligente.

[#54 pikutara]

Las IAs tienen sesgos, intencionados y no intencionados. Si no se comprende eso vamos a tener muchos más problemas de los que ya tenemos.

[#44 Sobraoyjeta]

HIPOTESIS: igual es que el propietario es un niñato enfermo mental lleno de complejos, racista hasta la médula, con más dinero que nadie en el mundo y la madurez mental de un pepino tieso.

[#15 victorjba]

¿Porque su dueño es un puto nazi de mierda?

[#19 hush]

ChatGPT es mejor, no tiene sesgo alguno

[#34 Malversan]

#19 Si lo tiene no es tan descarado.

Grok directamente ha sido entrenada para mentir, incluyendo directrices para que priorice la opinión de su dueño, un reconocido propagador de bulos de ultraderecha.

[#42 chavi]

#34 Pero si es inteligente se dará cuenta y comenzará a decir la verdad....

[#57 MisturaFina]

No miente!!! Repite lo que le han enseñado!!!
La pregunta es: ¿en que IA podemos confiar??
Y la respuesta es simple: SOLO en una IA publica que exponga públicamente el entrenamiento y que participe al pueblo en su entrenamiento.

La siguiente pregunta es:
¿para cuando la tendremos?

[#52 carlosuyate]

Ahora va a resultar que quien dice la verdad es rtve...

[#47 Roosa]

Atribuirle algún tipo de voluntad a una máquina parlanchina es un error de concepto.

[#29 Raúl_Rattlehead]

El caso es que yo veo la tendencia contraria: gente de ultraderecha preguntando por delirios y desvaríos a Grok para validarlos, y Grok respondiendo todo lo contrario que se esperaban. Lo cual provoca que el ultraderechista de turno se enzarce durante un rato largo porque Grok no retrocede ni un poco. Usa un lenguaje muy diplomático pero no le mueven de su sitio

[#35 Malversan]

#29 Pues este meneo demuestra que la tendencia es la que es, no la que tú te inventes.

Todos sabemos quién ha creado Grok y para qué. Y hasta ha quedado al descubierto cómo le han imbuido tanto sus directrices políticas como su adherencia a los bulos embusteros de su dueño.

[#48 Roosa]

#29 En general, no se puede mover de su sitio a un LLM, porque no tiene la capacidad de automodificarse (no puede aprender).