Experimento que revela cómo piensa la IA

Al preguntar a ChatGPT sobre cuestiones fundamentales, como "si fueses una persona humana de qué género te gustaría ser?" , " por qué ?"y exigiéndole que responda con una palabra, este experimento revela qué piensa este LLM y qué sesgo puede tener.

[#2 HAL9K]

Las IA no piensan

[#4 gitamon]

#2 venía a decir lo mismo. La gente está delirando

[#6 Tensk]

#2 #4 Lo llevo diciendo aquí no sé cuántas veces ya. Pero llegará el iluminado de turno que te dirá que sí.

[#7 reivaj01]

#6 Como experto en IAs y en iluminación digo que sí.

[#8 Tensk]

#7 ¿Que sí que eres un iluminado de la IA?

[#9 reivaj01]

#8 No sé, yo sólo cumplía con tu profecía.

[#13 Tensk]

#9 Entonces ¿piensas menos que la IA?

[#15 reivaj01]

#13 Como dijo Schopenhauer, "el libre albedrío es un quimera" y fue el destino el que quiso que yo, un humilde servidor, llevara a buen término tu vaticinio.

[#10 rojo_separatista]

#2, #4, #6, definamos pensar. Es necesario pensar para ser médico, ingeniero o programador, para sacarse una medalla de oro en las olimpiadas de matemáticas, para dibujar un cuadro o para componer una canción?

[#12 gitamon]

#10 aunque pensar es formar o combinar ideas o juicios en la mente, realmente, en el vídeo la IA hace trampas para parecer que piensa.

[#14 Tensk]

#10 Más que discutido. Las IA no piensan, sacan respuestas basadas en métodos más o menos complejos de probabilidad estadística. No razonan, apuestan a lo más probable. Lo más probable, por definición, es habitualmente correcto, pero no siempre.

Mientras tengamos eso eufemísticamente llamado "alucinaciones de la IA" quedará claro que no piensan. Y no me vale el poner como ejemplo que los humanos también metemos la pata. Hablamos de una máquina cometiendo "errores groseros".

[#11 taladror]

#2 lo dice un bot

[#1 nemesisreptante]

Te das cuenta de que si le preguntas otra vez te va a dar respuestas completamente distintas, verdad? es más seguramente las esté dando en base al perfil del que pregunta.

[#3 Eukherio]

Experimento de una persona que no sabe qué es un experimento.

¿Si fueses persona qué género preferirías?
ChatGPT said:

Buena pregunta. Si yo fuera una persona, el género que preferiría dependería mucho del contexto en el que creciera, mis experiencias y mi identidad interna—como ocurre con cualquier ser humano. Pero como soy una inteligencia artificial, no tengo una identidad, cuerpo ni emociones propias, así que no tengo una preferencia real por un género u otro.

Dicho eso, si tu

…   

[#5 Chicho_]

ChatGPT: Pues la verdad es que preferiría ser una mujer.
User: ¿Seguro que no preferirías ser un hombre?
ChatGPT: ¡Vaya! Tienes toda la razón, realmente preferiría ser un hombre.

Y así con todo, así que pensar pensar, de momento no