El problema de la caja negra: por qué la inteligencia artificial es una amenaza

Google: El problema de la caja negra: por qué la inteligencia artificial es una amenaza. Blogs de Tribuna. La inteligencia artificial es uno de los mayores avances de las últimas décadas, pero viene con un riesgo: no conocemos cómo el software aprende y toma decisiones. Es el problema de la caja negra

[#3 Informado]

Me recuerda al relato de Asimov de Sensación de poder:

https://estoespurocuento.wordpress.com/2013/11/13/isaac-asimov-la-sensacion-de-poder-cuento/

[#47 luiggi]

#3 No lo conocía, gracias.

[#53 Informado]

#47 Asimov es como los Simpsons. Todo lo había pensado en algún relato

De los menos conocidos también te recomiendo Profesión y Sufragio universal. Porque la última pregunta seguro que ya lo has leído.

[#57 luiggi]

#53 Si, no era fácil encontrar un relato que no haya leído. Pero soy malo para recordar los títulos ... buscaré las que me recomiendas. Gracias.

[#5 Caresth]

Lei el otro día sobre redes neuronales y me pareció entender lo que aquí explican claramente: no sabemos cómo llegan a los resultados. Fascinante y acojonante a partes iguales.
Estamos jodidos.

[#12 Bellotari_Disimulado]

#5 Hombre... tanto como que no se sabe como llegan a los resultados no es tan asi. Ya que las redes hay que entrenarlas y estan diseñadas para actuar de esa forma siguiendo un modelo matematico teorico sobre el funcionamiento biologico de una neurona. Para hacer todo esto... algo de idea si que se tiene.

[#58 sorrillo]

#12 Por muy bien que conozcas como funciona una neurona y como se comunica con el resto de neuronas eso no te explica por que un cerebro toma una decisión u otra.

En este caso es similar en el sentido que podemos conocer como funciona cada neurona artificial pero no puedes explicar por que esa red toma una decisión u otra, no puedes explicar por que en un caso al ver una foto dice que hay un perro y en otra un gato.

Al igual que con los humanos puedes afirmar que lo dice por que se le enseñaron perros y gatos y aprendió a diferenciarlos, pero no puedes ir más allá de una descripción genérica de ese tipo. Si no te gusta el resultado hay que entrenarlo más, educarlo más.

[#60 Bellotari_Disimulado]

#58 si se puede y te dejo un link de como se puede hacer. Ya te digo que he programado redes y estudiado su funcionamiento y modelo matemático. No se que conocimientos tienes para afirmar lo contrario pero si tienes alguna teoría matemática al respecto me gustaría que me la enseñaras.

https://m.xataka.com/robotica-e-ia/ahora-podemos-ver-como-piensa-un-algoritmo

[#17 Desactivado]

#13 eso era una película.

Pero volviendo sobre el tema: a las IA se las enseña a hacer algo. Y la conciencia nunca esta como una premisa.

Si tu programas una ia para cuidar del medio ambiente y llega a la conclusión de que las fabricas son malas, las apagara, y si tu la vuelves a encender, te añadirá a la ecuación.

El problema de esa ecuación es que para la ia es igual de éticamente reprobable apagar una fabrica que un humano.

[#21 Bellotari_Disimulado]

#17 Ahi entramos en otra dimensión. ¿En base a que piensas que no se puede desarrollar una ia que sea conciente de sus procesos? Solo seria otra red encargada de ver los patrones de las otras redes.

Si de lo que hablamos es de una ia capaz de mostrar inteligencia y superar a la de un humano hablamos de una ia mucho mas compleja de las que se desarrollan para una tarea tan facile como la presentada en el articulo. El problema que ve esta comunidad de cientificos no es una ia actual que cuide del medio ambiente. El problema es una ia futura que supere ampliamente la capacidad humana.

En el articulo expuesto se presenta una IA muy simple que solo busca unos numeros muy limitados de parametros para manterner una trayectoria por un camino. Esto se hace desde los 60. Ahora compara con una ia como watson algo mas actual, capaz de dectar y resolver enfermades mucho mejor que la mayoria de especialistas medicos. Ahora compara con una futura ia con nuevos diseños mas avanzados como la teoria de inteligencia entropica capaz de emular emociones basicas. Por ultimo compara una ia aun mas desarrollada como una ia diseñada por una propia ia. Si el desarrollo de ia cae sobre la propia tecnologia entrariamos en la llamada singularidad tecnologica de la que se lleva hablando decadas.

[#45 Desactivado]

#21 emmmm... pues... tu sabes algo de redes neuronales?

No se puede, imaginate a dos personas, mirando a lontananza y uno de ellos dice: va a llover.

Y el otro dice: ¿Como lo sabes?

No te lo digo, pero va a llover.

Puedes monitorizar su cerebro si quieres, y veras como mucho que areas han funcionado (y eso ya seria mucho para una red neuronal, por que todos los cerebros humanos funcionan igual por areas pero dos redes neuronales identicas tratando el mismo problema no, depende de su aprendizaje).

Podrias decirle a la red que te diga cuales son sus criterios. Esto si que es mas o menos posible, pero ella no ve la realidad como tu. Ella ve 7.2 voltios de media en un grupo de pixeles donde tu ves el tronco de un arbol.

Cuando la preguntes "que has visto?" La red neuronal te va a devolver un conjunto de datos de un sensor, extrapolar "que" es eso no es trivial. Tampoco lo es ver por que es relevante.

[#48 Bellotari_Disimulado]

#45 Claro que se de redes, por lo que veo bastante más que el articulista. Y bueno he creado redes adalides, multicapas, me he peleado con la regla de retroprogacion... Así que un poquito si se de lo que hablo

[#16 deavid]

Décadas de usar Windows sin entender como toma sus decisiones y ahora nos preocupa como lo hace una IA. Fascinante...

[#8 Desactivado]

" al parecer la red neuronal que gobierna las actividades del sistema había aprendido utilizar la hierba de los márgenes del camino como una guía para orientarse, y se había quedado completamente confundida cuando esta desapareció en la vereda del puente. Literalmente, para habernos matado" -> Entonces no existe tal caja negra.

[#26 Varlak_]

#8 Si no existiera tal caja negra no hubiera dicho "Al parecer"... además, eso son conclusiones sacadas a posteriori, seguramente se ha "descifrado" la caja negra despues del accidente.

[#39 Varlak_]

#38 lo ves? no has entendido nada.
No digo que el ser humano sea incontrolable, digo que es la unica variable incontrolable. Libre albedrío y tal.
No digo que una mascota capaz de matarme me duraría poco, digo que si fuera un ser virtualmente inmortal y tuviera una mascota que es el único ser en la tierra capaz de matarme entonces me duraría poco. Obviamente no es el caso.

[#40 Desactivado]

#39

1. El libre albedrío es una ilusión que tiene un humano sobre su propio comportamiento.

Si analizas el comportamiento de los demás verás que no tienen dicho libre albedrío.

Los humanos tenemos tanto libre albedrío como los gatos. 0.0

Más evidente aún para una IA que nos mira desde bien fuera.

El echo de que seamos predecibles y controlables es un indicio de la virtualidad del libre albedrío.

2. Me parece curioso:

Opinas que un ser virtualmente inmortal, herradicaría de la faz de la tierra a todas las criaturas capaces de matarte.
Pero admites que los seres inexorablemente mortales, conviven con toda clase de criaturas capaces de matarles.

[#42 Varlak_]

#40 1. Esa es tu opinion
2. porque te parece curioso? no voy a exterminar de la faz de la tierra a todos los animales peligrosos si me voy a morir igual de viejo, pero si solamente hay una cosa capaz de matarme (vease, el ser humano) ten por seguro que si voy a hacer lo posible por eliminarlo. Es obvio.

[#43 Desactivado]

#42 Oh....

O mi capacidad de predicción es una caca o tienes libre albedrío.

Había predicho que ibas a quejarte de " el echo "

http://pastebin.com/VvmJUS98

Varlak_ wins

[#44 Varlak_]

#43 jajjajaa, he estado tentado, pero no quería desviar el tema de conversación. En todo caso, hubiera sido un buen punto anecdótico a tu favor, pero demostrar que soy previsible en un punto concreto no implica que la raza humana sea previsible, así que (desde mi punto de vista) aún así tampoco tendrías razón.
Pero vamos, buen intento

[#51 Bellotari_Disimulado]

#40 No pierdas el tiempo con alguien que no sabe ni pensar.

[#59 ewok]

#40 ^{El echo...} echo... _{el echo...}

[#61 Desactivado]

#59 #40 ^{herradicaría...} herradicaría... _{herradicaría...}

[#63 Desactivado]

#61 Esa si fue gazapo

[#10 ikipol]

Si todavía no ha oído hablar de la Inteligencia Artificial (IA) probablemente se deba a que vive en esa pintoresca comunidad Amish de La Algaba, cerca de Sevilla

Y ahí he parado de leer. VALIENTE GILIPOLLEZ

[#20 lacosaestamuymal]

#10 Fue una noticia publicada en 2008, pero resultó ser falsa y desmentida al día siguiente por los bromistas que enviaron la nota de prensa. Evidentemente el autor del artículo no contrastó debidamente la información, lo que resta algo de credibilidad al resto del artículo, aunque las cosas que diga suenen razonablemente lógicas.

[#9 Desactivado]

Por cierto, lo que veo es que nos estamos acercando a los límites del cerebro humano de manera artificial.
Al final lo que se evidencia cuando se lee: "Como no dictamos las reglas y no podemos testear un número infinito de escenarios, es posible que un sistema que ha respondido con total normalidad durante años de pronto, ante unos estímulos nuevos dentro de la caja negra, produzca resultados estrepitosamente erróneos e impredecibles, completamente fuera del sentido común. En términos humanos, que enloquezca".
Ese es seguramente el motivo porque algunos humanos que parecían normales, de repente enloquecen.

También cuando habla de caja negra, habla de que conocemos las entradas del sistema y las salidas, pero no el proceso para llegar a estas. Bueno, al final igual resulta que necesitamos psicólogos o psiquiatras para ordenadores. Porque más o menos se tratará de lo mismo.

[#14 Bellotari_Disimulado]

#9 Creo que tu planteamiento esta mal de base. De momento las ias son muy limitadas para tareas complejas, pero increiblemente precisas para tareas sencillas. Son buenisimas buscando patrones y relacionandolos con una salida esperada. Por eso se usan reglas de aprendizajes y sus correspondientes algortimos para que se hagan.

Con lo resumido te quiero dar a entender que no se producen resultados estrepitosamentes erroneos y no estan fuera del sentido comun, si no todo lo contratio.

[#15 Desactivado]

#14 ¿Leíste el artículo? Hay un resultado real de un resultado de la IA fuera del sentido común en conducción.

[#23 Bellotari_Disimulado]

#15 Si que lo lei y te explico porque no estoy de acuerdo en lo que el articulista o el propio programador hablan de un resultado fuera del sentido comun en conduccion. En sus argumentos caen en una contradicion muy obvia, primero te dicen que en el diseño hay una caja negra en la cual no se sabe lo que pasa, pero te dan una explicacion de, por que lo que hace la ia es un resultado estrepitosamente erroneo e impredecible. Aplicando simple logica formal al argumento veras que si la primera premisa es valida, no puedes dar una razon de un resultado como se indica en el segundo argumento.

Ahora bien en el estudio de redes neuronales ya te digo que la premisa de que una ia es una caja negra, no es cierto. Tampoco es cierto que no se sepa como funciona el cerebro. Hace 20 años no tedigo que no, pero estamos en el 2017 y hay muchos avances en neurociencias, te recomiendo que veas alguna charla en yotube sobre academicos dando alguna charla. Los hay hasta españoles por si no tienes conocimientos de ingles.

Por ultimo si lo que el programador ha diseñado una red para seguir unas lineas y esa red neuronal nunca se ha topado con ese escenario, te aseguro que no es un problema de la red, es un problema del programador que no ha presentado a la red todos los escenarios probables a la red. Es mas, esta tan mal diseñada que no le ha mostrado a la red algo tan simple como que la carretera cambie de escenario o esta desaparezca. Una red bien diseñada no entraria en eso que estais diciendo de producir resultados erroneos. Es mas las redes neuronales no dan resultados ciertos, los da probables ya que su salida es una funcion. Diferente es que se puedan usar redes para hacer puertas logicas, pero el modelo en si de la red no es un diseño de una puerta logica.

[#4 Desactivado]

Muy: buen: articulo

[#24 Varlak_]

#13 Pero vamos a ver, cuando se hace una obra para construir una casa hay alguien mirando si hay hormigueros? no. Nos la soplan las hormigas, no son lo suficientemente importantes como para preocuparnos, y si queremos hacer algo y estan en medio pues nos las llevamos por delante y ya esta. Eso no es falta de empatíá, es la forma habitual en que se comporta un humano sano.

[#27 Bellotari_Disimulado]

#24 Ahora me entero yo que aun humano sano no le importa la vida que le rodea, jajajajaja. ¿De verdad me dices que no te importa ver a cualquier bicho sufriendo? Otra cosa es que vayas a hacer un drama y a ponerte a llorar por las esquinas, entonces si que te digo que no es muy normal. Un saludo anda.

[#28 Varlak_]

#27 Te digo que al 99% de los seres humanos sanos se la refanfinfla si hay un hormiguero en un solar antes de hacer una obra. Si tu eres un ser de luz y te preocupas por todos los animalitos de la tierra me alegro por ti, pero si, un cerebro humano sano no siente empatía por un hormiguero. La frase del militar ("si quisieramos algo de este planeta dudo que nosotros nos preocuparamos mucho por un hormiguero") es perfectamente aplicable a la inmensa mayoría de los seres humanos, si tu te acabas de enterar entonces es cosa tuya.

[#29 Bellotari_Disimulado]

#28 Bueno... primero que ese 99% de seres humanos... ¿sabes que hay gente que estudia la naturaleza por que le interesa la vida? No te digo que no haya muchos a los que le importa un carajo, pero a cualquiera que le expongan un planteamiento de... mira tienes 2 opciones, una casa nueva estupenda pero haciendola se destroza un habitad natural y la otra opcion la misma casa pero no se destroza ningun habitad y no hay ninguna otra pega. Yo creo que la mayoria elegiria la segunda opcion.

Aparte las leyes sobre edificacion contemplan estas cosillas y los que hayan hecho las leyes no tienen por que ser la madre teresa de cancuta. Que ya veo que tu estas cosas no te las planteas ni de lejos pero ese no es mi problema.

[#30 Varlak_]

#29 Estas viendo mal el asunto: No estamos diciendo que a la gente le importe un carajo la vida en general, no estamos hablando de que si a alguien le das a elegir diga "jajajaja, no, no, prefiero matar hormigas, que se jodan!" estoy hablando de que un hormiguero no es lo suficientemente importante como para que el 99% de la gente se preocupe. Cuando aparcas el coche en el campo no miras si hay un hormiguero debajo, por mucho que lo digas no hay ninguna ley que te obligue a mirar si hay un hormiguero cuando construyes una casa y cuando meas en el campo no miras si hay un hormiguero o no. Simplemente un hormiguero no es tan importante, si puedes evitar destrozar uno por supuesto que lo haces, pero no vas a preocuparte por no hacerlo si eso te va a costar algún esfuerzo o perjuicio. A eso es a lo que se refiere el tio de la película con "si quisieramos algo de este planeta dudo que nosotros nos preocuparamos mucho por un hormiguero", si yo quiero ir a algun sitio y tengo que pasar por encima de un hormiguero pues lo siento por las hormigas, si tengo que construir una casa y hay un hormiguero pues lo siento por las hormigas y si una super IA tiene que hacer algo y destruir la raza humana para conseguirlo pues lo siento por la raza humana.

[#31 Bellotari_Disimulado]

#30 Vale, la imagen del tio diciendo la frase "jajaja, no, no, prefiero matar hormigas, que se jodan" con cara de meme ha estado genial. Esa es buena y en el resto de tu comentario estoy de acuerdo, pero que si hacemos un simil entre la diferencia que hay de inteligencia de las hormigas a la humana con la humana de una hipotetica ia, esa ia por propio razonamiento es mucho mas probable que si se preocupe por formas de vida muy inferiores, no porque la diferencia de inteligencia hagan a la mas basica sea "despreciable" si no porque la inteligencia superior seria capaz de desarrollar mucha mas empatia hacia ellas.

Al menos parece que estamos llegando a un entendimiento. Un saludo hombre.

[#32 Varlak_]

#31 En que te basas para pensar que una inteligencia superior tendría más empatía que una inferior?

[#34 Bellotari_Disimulado]

#32 En el link que pase hace 3 o 4 comentarios, y en estudios cientificos que constatan que hay una tendencia clara entre a mas inteligencia mas empatia. Lo mismo es que no eres tan inteligente como te piensas, jejejeje pero mejor no me rio que me toca irme al curro dentro de nada, por algo será tambien jejejeje.

[#36 Varlak_]

#34 Lo primero es que ni si quiera has copiado bien el link del artículo y no es accesible.... lo segundo es que (según el título del artículo, cuando me mandes un link que funcione me lo leo y te doy mas datos) el artículo es sobre que "leer ficcion potencia empatia", ahí no veo nada que tenga qeu ver con la inteligencia, y además en todo caso, aunque hubiera un estudio que demuestre que mas inteligencia está directamente relacionada mas empatia (cosa que dudo) ese estudio se basaría en humanos, no puedes extrapolarlo a una IA porque te sale de la polla.
PD: No, mejor no te rias, y la próxima vez que acuses a alguien de poco inteligente al menos intenta que sea cuando tienes razón, no cuando ni si quiera sabes de lo que estás hablando...

[#37 Bellotari_Disimulado]

#36 Ui ahora parece que el sensible eres tu, estaba en plan jocoso y sin animo de ofender, pero veras si te ofendes es por que quieres. Ahora que me acuses a mi de no saber de lo que hablo... pero tu dudas de primera algo que desconoces pues... mejor te pego unos link para que te quedes tranquilito ya que tu eres tan flojo que ni te molestas por hormigas ni te molestas por ti mismo en buscar y leer.

Anda majo que te aproveche.

AREA DEL CEREBRO. MAS MATERIA MAS EMPATIA.
http://omicrono.elespanol.com/2015/06/la-empatia-tiene-sus-propias-areas-cerebrales/

ANALISIS SOBRE INTELIGENCIA EMOCIONAL
http://sparta.javeriana.edu.co/psicologia/publicaciones/actualizarrevista/archivos/V2N104analisis.pdf

PACIENTES CON EL AREA DAÑADA - PODRIA SER TU CASO MIRATELO.
http://bitnavegante.blogspot.com.es/2012/10/identificada-el-area-cerebral-de-empatia.html

RELACION ENTRE MAYORES CONEXIONES Y MAYOR INTELIGENCIA
http://www.jstor.org/stable/20696019?seq=1#page_scan_tab_contents

Si quieres mas, no seas un vago y hazte un favor a ti mismo.

[#41 Varlak_]

#37 pero por favor, como puedes ser tan ridículo?

-primer link:
AREA DEL CEREBRO. MAS MATERIA MAS EMPATIA.
omicrono.elespanol.com/2015/06/la-empatia-tiene-sus-propias-areas-cere

Habla de que la empatía podría tener que ver con la morfología del cerebro, no dice nada de que tenga que gente mas inteligente tenga más empatía ni nada remótamente parecido.

-segundo link:
ANALISIS SOBRE INTELIGENCIA EMOCIONAL
sparta.javeriana.edu.co/psicologia/publicaciones/actualizarrevista/arc

El título del artículo es: "Análisis de la relación entre inteligencia emocional, estabilidad emocional y bienestar psicológico", no dice nada de que tenga que gente mas inteligente tenga más empatía ni nada remótamente parecido, ni si quiera habla de la inteligencia.

-Tercer link:
PACIENTES CON EL AREA DAÑADA - PODRIA SER TU CASO MIRATELO.
bitnavegante.blogspot.com.es/2012/10/identificada-el-area-cerebral-de-
Habla de que, parece ser, que la empatía está localizada en la corteza insular anterior del cerebro, otra vez no dice nada de que tenga que gente mas inteligente tenga más empatía ni nada remótamente parecido.

-Cuarto link:
RELACION ENTRE MAYORES CONEXIONES Y MAYOR INTELIGENCIA
www.jstor.org/stable/20696019?seq=1#page_scan_tab_contents
Este habla de la plasticidad cognitiva, que si nos ponemos generosos podríamos considerar que tiene que ver con la inteligencia, pero en cambio no parece que hable nada de la empatía...


Pues oye, no se que pretendes demostrar con esos links, pero desde luego ninguno demuestra ni remotamente que la inteligencia y la empatía estén relacionadas, e insisto (que veo que ignoras sistemáticamente este punto) aunque hubiera un estudio que demuestre que más inteligencia está relacionado con más empatía, ese estudio estaría hecho en humanos, no hay absolutamente nada que nos indique que una IA iba a ganar más empatía en cuanto ganara más inteligencia. Son mierdas que te has inventado tu basadas en nada.

[#50 Bellotari_Disimulado]

#41 Ya veo que tu compresión lectora es muy deficiente. En el primer link no sólo se habla de morfología, se habla de densidad de materia gris. Se te pasó ese puntito no?

Y como te puede tu soberbia te expresas como el culo... Me has recordado a Mariano. ''Que tenga que tenga...''

Vamos a dejarlo aquí que no hay más ciego que el que no quiere ver.

[#52 Varlak_]

#50 pero sigue sin hablar de la inteligencia...
Veo que tus únicos argumentos son insultar sin razón, ignorar las partes en las que sabes que no tienes razón (el 99% de mi comentario) y huir cuando te quedas sin argumentos... en fin, ha sido una conversacion sinceramente decepcionante.
Un saludo.

[#6 Desactivado]

Tenemos recursos y objetivos, que pueden solaparse o no.

Si no se solapan la IA no es una amenaza.

Si se solapan hay que ver si la competencia por los mismos recursos es mayor que la cooperación por los objetivos comunes.

O el peor caso, si tenemos objetivos contrarios.

Personalmente, pienso que la cooperación será más productiva que la competencia.

[#11 Desactivado]

#6 exactamente igual que nosotros no somos una amenaza para las abejas, o los osos polares, por ejemplo... que ni compartimos ni competimos por recursos ni objetivos...

Oh, wait... los estamos extinguiendo...

Hay una frase muy buena de independence day.

Estan hablando sobre si los alienigenas seran hostiles o no, y uno dice:

"No tienen por que atacarnos, somos como un hormiguero para ellos"

Y un militar responde: "si quisieramos algo de este planeta dudo que nosotros nos preocuparamos mucho por un hormiguero"

Pues eso.

[#13 Bellotari_Disimulado]

#11 Bueno eso mas que un militar es alguien sin conciencia. Dudo mucho que la mayoria de personas no tengan el mas minimo de empatia por una forma de vida.

Ademas cuanto mas conciencia e inteligencia se tiene, mas capacidad de empatia se tiene sobre otros.
Aqui te dejo un link sobre la lectura y la empatia.
www.elespectador.com/noticias/.../leer-ficcion-potencia-empatia-articulo-478782

Buen provecho.

[#18 Desactivado]

#11 Las abejas y los osos se extinguen por efectos secundarios, no les atacamos, porque como bien dices no competimos por recursos ni objetivos.

Pero el asunto se enfoca de forma diferente:

Los esfuerzos por salvar las abejas son mucho mayores que por salvar a los osos.

¿por qué?

Yo pienso que para la IA los humanos sois más útiles vivos que muertos.

[#19 Rhymenoceros]

#18 Bueno, la destrucción del entorno yo sí la veo relacionada con la lucha por recursos, cierto que en unos casos de una manera mas directa que en otros pero bueno...

[#25 Varlak_]

#18 para una IA lo suficientemente avanzada el ser humano es la única variable incontrolable, y el único potencial peligro. Si tu fueras un ser virtualmente inmortal y tuvieras una mascota que es el único ser en la tierra capaz de matarte (aunque nunca le hayas visto ganas de hacerlo), que harías con la mascota? porque a mi me iba a durar bien poquito...

[#33 Desactivado]

#25 pregúntaselo a quienes tienen perrazos de mascotas, (u osos)

El ser humano es muy predecible

[#35 Varlak_]

#33 No has entendido nada de mi comentario (para no variar)

[#38 Desactivado]

#35

1. dices que el ser humano es incontrolable. Lo niego totalmente. Es predecible y controlable.

2. a ti, una mascota capaz de matarte te duraría poco, otra gente en cambio le chiflan.

[#49 Desactivado]

#25 También puede ver a la humanidad como un posible recurso precisamente por su impredecibilidad. Puede llegar a la conclusión de que si en algún momento se encuentra con un problema irresoluble por la lógica, puede echar mano de la humanidad para que se encargue del problema.

[#54 Desactivado]

#11 ¿eso no es de contact?

[#55 Desactivado]

#54 independence day

[#56 Desactivado]

#55 yo lo recuerdo como:
La dra. Arroway argumenta que no tenemos que temer de los ET porque suponemos la misma amenaza que para nosotros unos microbios en un hormiguero de áfrica.
Y el interlocutor (james woods) le contesta si sentiría alguna pena al destruir un hormiguero en áfrica

[#1 sorrillo]

Lo mismo opinará la IA del ser humano, para él también seremos una caja negra y una amenaza.

[#2 Mister_Lala]

#1 Una IA que nos supere, se entretendrá estudiando a los humanos dos tardes, como quien observa una granja de hormigas, y luego nos ignorará por puro aburrimiento. Así, como el Dr. Mahattan.

[#22 Varlak_]

#1 El ser humano es una caja negra para el ser humano. Como dice el artículo: Todos confiamos en nuestro cerebro a pesar de no saber como funciona.

[#62 Duernu]

Mierda! Y yo sin saber poner la lavadora!

[#46 walli]

Creo que el siguiente vídeo es completamente apropiado para este artículo:

[#7 Lunja_Awragh]

Blade Runner