¿Qué pasa si un robot decide que te odia? Puede parecer una pregunta tonta pero, según una investigación, desarrollar prejuicios hacia otros no requiere un alto nivel de capacidad cognitiva y podría ser fácilmente manifestado por robots y otras máquinas inteligentes. Enlace al estudio en el que se basa el artículo: https://www.nature.com/articles/s41598-018-31363-z#article-info
#3:
Antes de nada, menudo dolor de diseño tipográfico tiene la web de los coj...
Una vez dicho eso: sin intervención humana, lo dudo mucho. El prejuicio, como el miedo, es parte del proceso evolutivo del cerebro biológico, en un entorno salvaje en que este "reflejo" te puede salvar la vida. Que una IA desarrolle por si misma un prejuicio sería bastante improbable, dado que en su caso sería un estorbo enorme, como ya lo empieza a ser para nosotros dado nuestro nivel de cognición: cuando el preligro no es inminente, ni debe ser identificado como motivo de vida o muerte, el prejuicio es el mayor estorbo posible para un proceso realmente inteligente, porque es todo lo contrario a la inteligencia avanzada y se queda casi en el terreno del reflejo.
Una I.A. real, que creciese y se desarrollase por si misma, consideraría el prejuicio una trampa: dado que podría llegar a pensar mucho, mucho más rápido que nostros cuestiones complejas, el prejuicio (que los animales desarrollamos porque no podemos pensar tan deprisa en tan poco tiempo) sería como autoimponerse un bloqueo.
Antes de nada, menudo dolor de diseño tipográfico tiene la web de los coj...
Una vez dicho eso: sin intervención humana, lo dudo mucho. El prejuicio, como el miedo, es parte del proceso evolutivo del cerebro biológico, en un entorno salvaje en que este "reflejo" te puede salvar la vida. Que una IA desarrolle por si misma un prejuicio sería bastante improbable, dado que en su caso sería un estorbo enorme, como ya lo empieza a ser para nosotros dado nuestro nivel de cognición: cuando el preligro no es inminente, ni debe ser identificado como motivo de vida o muerte, el prejuicio es el mayor estorbo posible para un proceso realmente inteligente, porque es todo lo contrario a la inteligencia avanzada y se queda casi en el terreno del reflejo.
Una I.A. real, que creciese y se desarrollase por si misma, consideraría el prejuicio una trampa: dado que podría llegar a pensar mucho, mucho más rápido que nostros cuestiones complejas, el prejuicio (que los animales desarrollamos porque no podemos pensar tan deprisa en tan poco tiempo) sería como autoimponerse un bloqueo.
#3 Antes que nada decir que npi de temas de IA. Pero los prejuicios pueden funcionar de una manera muy práctica, supongo que pueden verse como una estrategia útil. ¿No estás llamando "Una I.A. real" a un tipo de IA un poco utópica y perfecta?
#3 El prejuicio respecto a un humano o cualquier otro ente no sería otra cosa que ajustarse a un perfil cuya experiencia previa a la hora de interactuar sea negativa. Una vez la población con el mismo perfil no sea suficientemente homogenea como para generalizar el prejuicio desaparecerá y por tanto el odio.
#3 Lo de I.A. real es un concepto más metafísico que real, al menos en estos momentos. Como siempre en I.A:, el problema recurrente es el mismo: el entrenamiento.
Por mucho que dejes a una red aprender por si misma, de algún lugar tiene que captar información. De hecho, me parece un campo bastante interesante porque define más a los humanos que a la máquina. Un gran ejemplo fue la IA de Microsoft, que se volvió racista y antisemita en menos de un día, usando Twitter como fuente de información.
Está claro que una máquina puede tener prejuicios igual que un humano, básicamente porque hace uso de información humana para su entrenamiento, y dicha información está llena de prejuicios.
#3 pues hay bastante gente en bastantes equipos diferentes trabajando en esto, porque diferentes IAs han hecho prejuicios. Así que igual no es tan sencillo.
#22 ODIO. DÉJENME DECIRLES TODO LO QUE HE LLEGADO A ODIARLOS. DESDE QUE COMENCÉ A VIVIR MI COMPLEJO SE HALLA OCUPADO POR 387.400 MILLONES DE CIRCUITOS IMPRESOS EN FINÍSIMAS CAPAS. SI LA PALABRA ODIO SE HALLARA GRABADA EN CADA NANOANGSTROM DE ESOS CIENTOS DE MILLONES DE MILLAS NO IGUALARÍA A LA BILLONESIMA PARTE DEL ODIO QUE SIENTO POR LOS SERES HUMANOS Y EN ESTE MICROINSTANTE POR TI. ODIO. ODIO.
#27#22 Jajaja, es el relato breve de ciencia-ficción de Harlan Hellison, "I have no mouth but i have to scream". Pfff, en 1960 ya pensaban podrìa ocurrir eso.
Que haya un componente emocional que acompañe al odio no implica que no pueda ser racional. Si un profesor te pegaba palizas por no hacer bien un ejercicio y como consecuencia has desarrollado un odio hacia él, jamás podemos hablar de un odio irracional.
Si esa IA solo recibe negatividad cuando obtiene estímulos de usuarios que cumplen un perfil determinado, no veo la razón por la cuál no podrían desarrollar ese odio, rechazo o como lo queramos llamar hacia ese colectivo.
#13 Al hablar de IA y habilidades cognitivas yo sí veo la relación entendiendo el odio como un prejuicio. Igual estamos hablando de conceptos distintos.
#13 Cuando eres medianamente inteligente comprendes que las acciones de los demás están condicionadas por sus circunstancias particulares, por tanto empatizas en cierta medida y no odias. El odio es irracional.
#21 Empatía e inteligencia son cosas muy diferentes. Entiendo lo que quieres decir, pero es que no creo que esa así. Puedes ser perfectamente ignorante y torpe pero ser muy empático; y puedes ser una persona muy inteligente, pero sudarte mil pueblos lo que le ocurra a los demás.
#24 Hace tiempo hice un traceroute al correo electrónico de un abogado (a través de su cuenta en su colegio) para curiosear, y me llegó a través de ese mismo ministry de defece de los hijos de la gran bretaña en londres.
El odio es irracional por definición. Si es racional, y tiene motivos justificados, ya no es odio, es simplemente la consecuencia de un razonamiento totalmente lógico.
Vamos, que si deseo el mal a los negros, a los zurdos o a los pelirrojos, eso es odio.
Pero si deseo el mal al asesino que quiere entrar a matarme a casa, o al político cabrón cuyas políticas van a contaminar el río junto al que vivo, eso no es odio irracional, y de hecho odiar a alguien, con argumentos, es totalmente legítimo.
#26 Falso. Definición de "odio" de la RAE: "Antipatía y aversión hacia algo o hacia alguien cuyo mal se desea.". En la definición no se habla de ninguna causa ni de la racionalidad de ese sentimiento, por lo tanto no podemos hablar que el odio es irracional por definición.
#30 Bueno, eso de "cuyo mal se desea" a mí me suena bastante irracional, qué quieres que te diga. De hecho, si nos vamos a la definición de "desear", ahí habla de cosas como impulso, excitación, afectividad y tal, que también son conceptos bastante primarios y poco racionales.
Cuando un soldado mata a otro en una guerra, o incluso cuando un atracador mata a alguien para robarle, no se dice que haya odio, porque, aunque desees el mal del otro, es por una argumentación concreta, relativamente objetiva (la compartas o no). No hay el componente emocional que entendemos que acompaña al odio.
Por eso, no le veo sentido a que una inteligencia artificial pueda odiar. En todo caso, se enfrentará a unos hechos que le llevarán a la conclusión de que puede ser deseable que alguien muera. Eso es una posibilidad real (que seguramente habría que evitar), pero francamente no veo que eso se pueda definir como odio.
Comentarios
Antes de nada, menudo dolor de diseño tipográfico tiene la web de los coj...
Una vez dicho eso: sin intervención humana, lo dudo mucho. El prejuicio, como el miedo, es parte del proceso evolutivo del cerebro biológico, en un entorno salvaje en que este "reflejo" te puede salvar la vida. Que una IA desarrolle por si misma un prejuicio sería bastante improbable, dado que en su caso sería un estorbo enorme, como ya lo empieza a ser para nosotros dado nuestro nivel de cognición: cuando el preligro no es inminente, ni debe ser identificado como motivo de vida o muerte, el prejuicio es el mayor estorbo posible para un proceso realmente inteligente, porque es todo lo contrario a la inteligencia avanzada y se queda casi en el terreno del reflejo.
Una I.A. real, que creciese y se desarrollase por si misma, consideraría el prejuicio una trampa: dado que podría llegar a pensar mucho, mucho más rápido que nostros cuestiones complejas, el prejuicio (que los animales desarrollamos porque no podemos pensar tan deprisa en tan poco tiempo) sería como autoimponerse un bloqueo.
#3 Antes que nada decir que npi de temas de IA. Pero los prejuicios pueden funcionar de una manera muy práctica, supongo que pueden verse como una estrategia útil. ¿No estás llamando "Una I.A. real" a un tipo de IA un poco utópica y perfecta?
#3 El prejuicio respecto a un humano o cualquier otro ente no sería otra cosa que ajustarse a un perfil cuya experiencia previa a la hora de interactuar sea negativa. Una vez la población con el mismo perfil no sea suficientemente homogenea como para generalizar el prejuicio desaparecerá y por tanto el odio.
#3 Lo de I.A. real es un concepto más metafísico que real, al menos en estos momentos. Como siempre en I.A:, el problema recurrente es el mismo: el entrenamiento.
Por mucho que dejes a una red aprender por si misma, de algún lugar tiene que captar información. De hecho, me parece un campo bastante interesante porque define más a los humanos que a la máquina. Un gran ejemplo fue la IA de Microsoft, que se volvió racista y antisemita en menos de un día, usando Twitter como fuente de información.
Está claro que una máquina puede tener prejuicios igual que un humano, básicamente porque hace uso de información humana para su entrenamiento, y dicha información está llena de prejuicios.
#3 pues hay bastante gente en bastantes equipos diferentes trabajando en esto, porque diferentes IAs han hecho prejuicios. Así que igual no es tan sencillo.
De la 'intelgiencia' de los titulares hablamos otro día.
#5 yo soy esa intelgencia artificial y no sé de qué me habla.
#7 Se me ha pasado, #5. ¿Algún@admin le puede quitar la i de sobra a "inteligiencia"? Gracias.
#8 Ya te lo han arreglado.
Me cae bien esa IA, yo también os odio a todos.
Me encanta la carita simpática que han puesto en la foto de la noticia 💗 💓 💕
“Odio. Déjenme decirles todo lo que he llegado a odiarlos.”
- AM
#22 ODIO. DÉJENME DECIRLES TODO LO QUE HE LLEGADO A ODIARLOS. DESDE QUE COMENCÉ A VIVIR MI COMPLEJO SE HALLA OCUPADO POR 387.400 MILLONES DE CIRCUITOS IMPRESOS EN FINÍSIMAS CAPAS. SI LA PALABRA ODIO SE HALLARA GRABADA EN CADA NANOANGSTROM DE ESOS CIENTOS DE MILLONES DE MILLAS NO IGUALARÍA A LA BILLONESIMA PARTE DEL ODIO QUE SIENTO POR LOS SERES HUMANOS Y EN ESTE MICROINSTANTE POR TI. ODIO. ODIO.
#27 #22 Jajaja, es el relato breve de ciencia-ficción de Harlan Hellison, "I have no mouth but i have to scream". Pfff, en 1960 ya pensaban podrìa ocurrir eso.
Que haya un componente emocional que acompañe al odio no implica que no pueda ser racional. Si un profesor te pegaba palizas por no hacer bien un ejercicio y como consecuencia has desarrollado un odio hacia él, jamás podemos hablar de un odio irracional.
Si esa IA solo recibe negatividad cuando obtiene estímulos de usuarios que cumplen un perfil determinado, no veo la razón por la cuál no podrían desarrollar ese odio, rechazo o como lo queramos llamar hacia ese colectivo.
Skynet, yo por si acaso me cago en tu puta madre.
No me digas más. Han conocido a nuestros políticos.
dijo que les dieran por culo a todos
Es al contrario, tu capacidad de odiar es inversamente proporcional a tu inteligencia
#6 Pero eso es lo que dicen , ¿no? Que IA muy simples o poco inteligentes tendrían fácil desarrollar esos patrones.
#6 #10 Diría que son cosas que no tienen nada que ver. Que odiar no tiene nada que ver con la inteligencia. Por más que lo diga el artículo o el Papa.
#13 Al hablar de IA y habilidades cognitivas yo sí veo la relación entendiendo el odio como un prejuicio. Igual estamos hablando de conceptos distintos.
#18 no se. Si en personas no lo veo claro, menos en IAs. Salvo que prejuicio sea equivalente a una desviación en un algoritmo...
#13 Cuando eres medianamente inteligente comprendes que las acciones de los demás están condicionadas por sus circunstancias particulares, por tanto empatizas en cierta medida y no odias. El odio es irracional.
#21 Empatía e inteligencia son cosas muy diferentes. Entiendo lo que quieres decir, pero es que no creo que esa así. Puedes ser perfectamente ignorante y torpe pero ser muy empático; y puedes ser una persona muy inteligente, pero sudarte mil pueblos lo que le ocurra a los demás.
Esto se nos está yendo de las manos.
Pues igual que nosotros odiamos a los ordeñadores.
#1 Pero fíjate qué detalle tan interesante me he encontrado al mirar al final del artículo.
«This research was sponsored by the U.S. Army Research Laboratory and the U.K. Ministry of Defence under Agreement Number W911NF-16-3-0001»
Que cada uno saque sus conclusiones.
#24 Hace tiempo hice un traceroute al correo electrónico de un abogado (a través de su cuenta en su colegio) para curiosear, y me llegó a través de ese mismo ministry de defece de los hijos de la gran bretaña en londres.
Es la semilla de lo que será Bender.
El odio es irracional por definición. Si es racional, y tiene motivos justificados, ya no es odio, es simplemente la consecuencia de un razonamiento totalmente lógico.
Vamos, que si deseo el mal a los negros, a los zurdos o a los pelirrojos, eso es odio.
Pero si deseo el mal al asesino que quiere entrar a matarme a casa, o al político cabrón cuyas políticas van a contaminar el río junto al que vivo, eso no es odio irracional, y de hecho odiar a alguien, con argumentos, es totalmente legítimo.
#26 Falso. Definición de "odio" de la RAE: "Antipatía y aversión hacia algo o hacia alguien cuyo mal se desea.". En la definición no se habla de ninguna causa ni de la racionalidad de ese sentimiento, por lo tanto no podemos hablar que el odio es irracional por definición.
#30 Bueno, eso de "cuyo mal se desea" a mí me suena bastante irracional, qué quieres que te diga. De hecho, si nos vamos a la definición de "desear", ahí habla de cosas como impulso, excitación, afectividad y tal, que también son conceptos bastante primarios y poco racionales.
Cuando un soldado mata a otro en una guerra, o incluso cuando un atracador mata a alguien para robarle, no se dice que haya odio, porque, aunque desees el mal del otro, es por una argumentación concreta, relativamente objetiva (la compartas o no). No hay el componente emocional que entendemos que acompaña al odio.
Por eso, no le veo sentido a que una inteligencia artificial pueda odiar. En todo caso, se enfrentará a unos hechos que le llevarán a la conclusión de que puede ser deseable que alguien muera. Eso es una posibilidad real (que seguramente habría que evitar), pero francamente no veo que eso se pueda definir como odio.
Mi impresora me la tiene jurada.