Un equipo de científicos de EE. UU. y Alemania acaba de demostrar mediante un experimento que los robots equipados con una inteligencia artificial defectuosa pueden manifestar un pensamiento prejuicioso y expresarlo en acciones físicas.
#5#7 lleva ocurriendo desde que programabamos chatbots para el "Internet Relay Chat" en los 90. Pon a algo o a alguien a "aprender" de un grupo de gente sin filtrar y obtendras un supremacista machista xenofobo que habla basicamente con insultos.
#1 Exacto. Si es capaz de resolver el problema de reconstrucción de las proteinas (se consideraba un problema humano imposible de resolver), por qué no iba bien hacer algo tan simple que también aplican los seguros de conducción, o las mujeres cuando deciden si elegir que un hombre/monitor cuide a solas de un niño? Dejaría usted a su hijo en manos de un cura desconocido a solas? es un error evolutivo aplicar la estadística? qué diferencia hay entre estadística y prejuicios? creo que el acrónimo sería HPC (hipocresía políticamente correcta). Ahora bien, de dónde sacamos los datos para hacer nuestras correlaciones mentales?, son de nuestras experiencias propias o de lo que nos meten en vena los medios (ya sea internet, tv, etc)? Ésa sería a mi entender una buena pregunta. Es la IA la que está mal o son los datos de entrada de los que se nutre la IA? (y las inteligencias humanas). O ninguna de las dos?
La lógica de la programación se limita a seguir lo que el programa le indica. Si el algoritmo de programación deja situaciones al azar, pues el sistema actuará azarosamente.
Si fruto de ese azar resulta que en un mísero 10% de los casos, desde la perspectiva racional y subjetiva del pensamiento humano contemporáneo, coincide con un supuesto pensamiento racista y/o sexista, pues no más que simple casualidad. Pero de eso a concluir que la inteligencia artificial puede ser racista o sexista (sin ser específicamente programada para ello), cuando ni tan si quiera existe la posibilidad de que sea consciente de lo que eso significa, es una solemne soplapollez.
La IA aprende según los datos que les den. Si estos están sesgados, lógicamente lo que aprenda la IA también. En todo caso los defectuosos serán los que la programaron o entrenaron.
Esta claro que no es defectuoso, simplemente su inteligencia se ha nutrido de lo que ha podido deducir de cómo es el ser humano basándose en lo que haya obtenido de la web.
Comentarios
#0 creo que ya salió Un robot se convierte en racista tras un fallo en sus pruebas
Un robot se convierte en racista tras un fallo en ...
20minutos.es#5 #7 lleva ocurriendo desde que programabamos chatbots para el "Internet Relay Chat" en los 90. Pon a algo o a alguien a "aprender" de un grupo de gente sin filtrar y obtendras un supremacista machista xenofobo que habla basicamente con insultos.
Y si realmente no está estropeado?....
#1 Exacto. Si es capaz de resolver el problema de reconstrucción de las proteinas (se consideraba un problema humano imposible de resolver), por qué no iba bien hacer algo tan simple que también aplican los seguros de conducción, o las mujeres cuando deciden si elegir que un hombre/monitor cuide a solas de un niño? Dejaría usted a su hijo en manos de un cura desconocido a solas? es un error evolutivo aplicar la estadística? qué diferencia hay entre estadística y prejuicios? creo que el acrónimo sería HPC (hipocresía políticamente correcta). Ahora bien, de dónde sacamos los datos para hacer nuestras correlaciones mentales?, son de nuestras experiencias propias o de lo que nos meten en vena los medios (ya sea internet, tv, etc)? Ésa sería a mi entender una buena pregunta. Es la IA la que está mal o son los datos de entrada de los que se nutre la IA? (y las inteligencias humanas). O ninguna de las dos?
Salvo que consideremos que la inteligencia humana tambien es defectuosa no podemos considerarlo un defecto... porque hacemos exactamente lo mismo.
Menuda soplapollez de artículo.
La lógica de la programación se limita a seguir lo que el programa le indica. Si el algoritmo de programación deja situaciones al azar, pues el sistema actuará azarosamente.
Si fruto de ese azar resulta que en un mísero 10% de los casos, desde la perspectiva racional y subjetiva del pensamiento humano contemporáneo, coincide con un supuesto pensamiento racista y/o sexista, pues no más que simple casualidad. Pero de eso a concluir que la inteligencia artificial puede ser racista o sexista (sin ser específicamente programada para ello), cuando ni tan si quiera existe la posibilidad de que sea consciente de lo que eso significa, es una solemne soplapollez.
¿Defectuosa o demasiado realista? Porque hay inteligencias humanas que también votan a la extrema derecha.
De todas maneras, el robot es lo que le dan para ser los programadores, en este caso lo que sabemos del robot es como son los que lo programaron...
#6 Quizás no comprendemos bien aún lo que es la inteligencia y el robot realmente es intelectual es su racismo y machismo.
#6 no es malo, lo han dibujado asi
Errónea, duplicada y bulo.
La IA aprende según los datos que les den. Si estos están sesgados, lógicamente lo que aprenda la IA también. En todo caso los defectuosos serán los que la programaron o entrenaron.
#12 Anda, lo mismo que los chavales de la concertada.
Entonces los humanos racistas y sexistas, ¿son defectuosos?
#2 Robóticamente hablando si.
¿Queréis inteligencia o queréis wokismo?
Esta claro que no es defectuoso, simplemente su inteligencia se ha nutrido de lo que ha podido deducir de cómo es el ser humano basándose en lo que haya obtenido de la web.