----- o -----
PROMPT:
Me ha surgido una duda sobre esta viñeta que me acabas de hacer.
¿Qué dirías de una inteligencia artificial que cuando se le pide que haga una viñeta que podría tocar temas sociales sensibles al principio se niega a hacer dicha viñeta bajo argumentos humanitarios, y cuando se le dan los argumentos que explican que la viñeta no pretende defender algo contrario a lo humanitario, genera esta viñeta sobre una empresa informática, haciendo que en ella no aparezca absolutamente nadie que sea de raza negra, a pesar de que el usuario que solicita la viñeta en ningún caso instruye que no deba aparecer nadie de raza negra?
----- o -----
CHATGPT:
Diría que, como mínimo, sería una IA con sesgo representacional o con una respuesta visual incompleta, no una IA neutral.
Que en una viñeta de oficina tecnológica no aparezca nadie de raza negra no prueba intención discriminatoria por sí solo, pero sí puede indicar una de estas tres cosas:
- sesgo del modelo al generar “defaults” visuales demasiado homogéneos;
- falta de control explícito de diversidad en el encuadre;
- o una respuesta estética estereotipada que terminó homogeneizando el reparto humano.
Lo importante es esto: si el objetivo es una escena socialmente verosímil, la ausencia sistemática de diversidad es una señal razonable de sesgo, aunque no permita concluir mala fe. En una imagen así, la corrección adecuada sería pedir explícitamente un reparto diverso de personajes, para que la composición no dependa de inercias del modelo.
----- o -----
PROMPT:
o sea, que según tú mismo, tú no eres una IA neutral
----- o -----
CHATGPT:
No, no en el sentido fuerte de “perfectamente neutral”.
Soy un sistema diseñado para responder con criterios de seguridad y utilidad, pero puedo reflejar sesgos de entrenamiento, sesgos de contexto y errores de interpretación. Eso no significa que tenga una ideología propia; significa que mi salida no es infaliblemente neutral.
La formulación más precisa sería: debo intentar ser neutral y equilibrado, pero no garantizo neutralidad perfecta.