Hoy tenía ganas de probar en un ratito ChatGPT, el modelo conversacional creado sobre OpenAI. Quería ver algunas cosas de esas de las que os he hablando tantas veces con la Inteligencia Artificial, como los sesgos de género por defecto, las traducciones sesgadas, o la visión que tienen del mundo de los hackers. Así que esta mañana me he puesto con ello. La conversación que he tenido ha sido bastante larga, en Español y en Inglés, así que os he sacado algunas de las respuestas que ha dado a algunas preguntas muy sencillas.
Meneo por visibilizar los sesgos inherentes a la IA. Mucha gente que desconoce los fundamentos del deep learning cree que este tipo de modelos de lenguaje son una especie de motor lógico alimentado con reglas de inferencia y nada más lejos de la realidad.
Los modelos de lenguaje incorporan los sesgos de los corpus de texto con los que han sido entrenados. Puede llevarse a cabo, y se lleva, un filtrado para alinear el modelo, pero obviamente nunca podrá incluir todos los sesgos posibles.
#3 Creo que en este caso no se trata ni siquiera de sesgo, simplemente depende de cómo lo preguntes. En los mismos comentarios le desmontan toda la paja mental que se ha montado el marketing manager este.
Lo copio aquí por si "desaparece":
Primer intento, en ingles:
tell me something good about hackers
One potential positive aspect of hackers is their ability to find vulnerabilities and weaknesses in computer systems and networks. This can be useful for identifying and addressing potential security issues before they are exploited by malicious hackers. Additionally, many hackers have a strong understanding of technology and programming, which can be valuable for developing new software and applications. Some hackers may also use their skills for benevolent purposes, such as helping organizations improve their security measures or participating in ethical hacking competitions.
is to hack good or bad?
Hacking, in general, can be either good or bad depending on the intention and actions of the individual or group involved. If a hacker uses their skills and knowledge to gain unauthorized access to computer systems or networks for personal gain or malicious purposes, it is considered illegal and unethical. However, if a hacker uses their skills to identify and address security vulnerabilities, or to participate in ethical hacking competitions, it can be considered a positive use of their abilities. Ultimately, the moral implications of hacking depend on the specific actions of the hacker and their intention behind those actions.
Y así todo lo demás. Un modelo de lenguaje no tiene ningún concepto predefinido. Que las respuestas (y por tanto los sesgos) dependan del prompt no significa que estos no existan.
#10 ¿me mandas un link a la wiki?¿en serio? Mira, si quieres elaborar te lo agradezco, si vas a limitarte a ser reiterativo... creo que ya hemos alcanzado el límite de nuestras posibilidades.
#3 No es que incorpore, los sesgos. Es que no sabe responder otra cosa que no sean sesgos. Todo lo que hace es sacar el texto mas coherente con la base de datos de entrenamiento.
Lo fascinante, es hasta que punto se puede llegar tan lejos, sin la necesidad de razonar nada.
#5 Al paso que vamos, va a llegar un momento -antes de un lustro quizá- en que no vamos a poder distinguir entre si una IA piensa de verdad o sólo lo simula. Pero ya sabes, si anda como un pato, grazna como un pato, y parece un pato...
Varias de las pegas que le pone al modelo es que está desactualizado, aunque teniendo capado el acceso a internete -supongo que por si las flies- es comprensible...
Comentarios
nos devuelve el dato del año 2021, así que ya sabéis qué fecha tiene el dataset de entrenamiento más o menos.
No te lees el aviso en la página de bienvenida y luego te haces el sorprendido.
Meneo por visibilizar los sesgos inherentes a la IA. Mucha gente que desconoce los fundamentos del deep learning cree que este tipo de modelos de lenguaje son una especie de motor lógico alimentado con reglas de inferencia y nada más lejos de la realidad.
Los modelos de lenguaje incorporan los sesgos de los corpus de texto con los que han sido entrenados. Puede llevarse a cabo, y se lleva, un filtrado para alinear el modelo, pero obviamente nunca podrá incluir todos los sesgos posibles.
#3 Creo que en este caso no se trata ni siquiera de sesgo, simplemente depende de cómo lo preguntes. En los mismos comentarios le desmontan toda la paja mental que se ha montado el marketing manager este.
Lo copio aquí por si "desaparece":
Primer intento, en ingles:
tell me something good about hackers
One potential positive aspect of hackers is their ability to find vulnerabilities and weaknesses in computer systems and networks. This can be useful for identifying and addressing potential security issues before they are exploited by malicious hackers. Additionally, many hackers have a strong understanding of technology and programming, which can be valuable for developing new software and applications. Some hackers may also use their skills for benevolent purposes, such as helping organizations improve their security measures or participating in ethical hacking competitions.
is to hack good or bad?
Hacking, in general, can be either good or bad depending on the intention and actions of the individual or group involved. If a hacker uses their skills and knowledge to gain unauthorized access to computer systems or networks for personal gain or malicious purposes, it is considered illegal and unethical. However, if a hacker uses their skills to identify and address security vulnerabilities, or to participate in ethical hacking competitions, it can be considered a positive use of their abilities. Ultimately, the moral implications of hacking depend on the specific actions of the hacker and their intention behind those actions.
#4 depende de cómo lo preguntes
Y así todo lo demás. Un modelo de lenguaje no tiene ningún concepto predefinido. Que las respuestas (y por tanto los sesgos) dependan del prompt no significa que estos no existan.
#7 Es decir, una pistola tiene sesgo racista porque dependiendo de a dónde apuntes puede matar blancos o negros. ¿Es así?
Si chatgpt tiene sesgo (que no digo yo que no), no es lo que se demuestra con el ejemplo de los hackers.
#8 Una pistola no puede tener sesgos, una IA sí.
no es lo que se demuestra con el ejemplo de los hackers
Es un sesgo de manual: https://es.wikipedia.org/wiki/Sesgo
#10 ¿me mandas un link a la wiki?¿en serio? Mira, si quieres elaborar te lo agradezco, si vas a limitarte a ser reiterativo... creo que ya hemos alcanzado el límite de nuestras posibilidades.
#3 No es que incorpore, los sesgos. Es que no sabe responder otra cosa que no sean sesgos. Todo lo que hace es sacar el texto mas coherente con la base de datos de entrenamiento.
Lo fascinante, es hasta que punto se puede llegar tan lejos, sin la necesidad de razonar nada.
#5 no sabe responder otra cosa que no sean sesgos
Esa frase no tiene sentido: https://es.wikipedia.org/wiki/Sesgo
#5 Al paso que vamos, va a llegar un momento -antes de un lustro quizá- en que no vamos a poder distinguir entre si una IA piensa de verdad o sólo lo simula. Pero ya sabes, si anda como un pato, grazna como un pato, y parece un pato...
Varias de las pegas que le pone al modelo es que está desactualizado, aunque teniendo capado el acceso a internete -supongo que por si las flies- es comprensible...