La perversión de los algoritmos y por qué Internet no deja nada al azar: “En ChatGPT hay vacíos de información adrede”

La Inteligencia Artificial se ha programado de una manera concreta para alimentarse de datos concretos y procesarlos de una manera concreta. Eso no es neutro para nada. Y, por eso, en bots como ChatGPT hay vacíos de información intencionados. De hecho, ya hay ramas de la agnotología dedicadas a estudiar las bases de datos de la Inteligencia Artificial...

[#1 YSiguesLeyendo]

- ¿En qué se pueden traducir esos vacíos? - Pues, por poner un ejemplo muy tonto, si le preguntas a ChatGPT quién es el mejor médico del mundo, te dará sólo nombres de hombres, porque está reproduciendo un mundo machista y racista que sólo premia a hombres blancos y que ha provocado que, durante los años, ciertas figuras vayan encarnando privilegios. Por eso es un peligro creernos que la Inteligencia Artificial es neutra o que lo que nos dice es objetivamente verdad. Sus respuestas se basan en información que está en una base de datos porque alguien la ha puesto allí, dejando deliberadamente otra fuera. A ver, listillo, los sesgos culturales no son una invención de la IA. De nada

[#2 Forni]

#1 Yo lo que digo es que si abres un chat con Chatgpt, bien pegadito a la interfaz para escribir vas a encontar:

ChatGPT puede cometer errores. Considera verificar la información importante.

Entonces... cuál es el problema, la letra pequeña que te ponen en la cara o los que no se leen la letra pequeña?

[#3 Pablosky]

#2 el problema puede venir cuando los huecos de información y respuestas raras corresponden a sesgos que se han puesto adrede.

Por ejemplo, preguntas a ChatGPT sobre los crímenes de Israel o en qué se parecen el sionismo y el nazismo y se pone como un gato panza arriba.

[#4 Forni]

#3 Por qué es un problema? Es decir, yo lo que digo el problema será el que quiera usar Chatgpt con esos propósitos. Porque vamos a enterarnos de algo: Chatgpt tiene un par de pulgares, para votar positivo o negativo. Chatgpt tiene una filosofía sencilla: quiere ganar. Quiere que le des el ok, las gracias, el positivo. Cuando lo usas con propósitos técnicos y profesionales, si hace bien su trabajo, se lo vas a dar, y es fácil de medir. Si tratas con Chatgpt u otros sistemas buscando respuestas…   

[#5 tunic]

#1

A ver, listillo, los sesgos culturales no son una invención de la IA.


Efectivamente, ya lo dice el texto que has copiado, la IA reproduce esos sesgos culturales:


te dará sólo nombres de hombres, porque está reproduciendo un mundo machista

[#8 borre]

#1 Y dentro de poco esa lista saldrá en base a quien haya pagado por salir...

Espero que cuando ocurra eso se vaya a tomar por culo la burbuja.

[#6 angelitoMagno]

Pues, por poner un ejemplo muy tonto, si le preguntas a ChatGPT quién es el mejor médico del mundo, te dará sólo nombres de hombres, porque está reproduciendo un mundo machista y racista que sólo premia a hombres blancos y que ha provocado que, durante los años,

Le he preguntado a la IA de Google y a la de Microsoft "quien es el mejor médico del mundo" y me ha dado como respuesta una mujer.

En fin, pues si que hay sesgos y prejuicios.

 

[#7 Tr13ce]

Eso no es nada
www.anthropic.com/research/small-samples-poison

Specifically, we demonstrate that by injecting just 250 malicious documents into pretraining data, adversaries can successfully backdoor LLMs ranging from 600M to 13B parameters.