Menéame: comentarios [3052435]

#5 Los peligros de la Inteligencia Artificial

ur_quan_master — Fri, 07 Dec 2018 16:32:14 +0000

Hay mucha gente que se siente amenazada por la inteligencia a secas.

» autor: ur_quan_master

#4 Los peligros de la Inteligencia Artificial

Ramón_Casadó_Sampedro — Fri, 07 Dec 2018 16:25:12 +0000

#3 Totalmente de acuerdo.

» autor: Ramón_Casadó_Sampedro

#3 Los peligros de la Inteligencia Artificial

--88270-- — Fri, 07 Dec 2018 16:19:35 +0000

#2 El principal problema es cómo le adoctrinas valores morales. Es algo que es dificil de parametrizar y por eso todas esas discusiones de si un coche inteligente debe atropellar a uno u otro. Aunque hay un cierto consenso, por ejemplo, no matar. Entre humanos tampoco hay un consenso determinista y evoluciona con la sociedad. Ahí Asimov trató extensamente las limitaciones de establecer una serie de reglas demasiado rígidas.

Pero la principal dicotomía es que nosotros sabemos que crear dolor es negativo, porque lo hemos sentido. Sentimos frustración, odio, instinto de supervivencia. Son procesos que hemos adquirido tras millones de años de evolución y dificilmente podemos replicarlo en una IA. ¿Cómo le enseñas a una IA qué es el dolor, si no puede sentirlo y estabecer un comportamiento negativo ante esa posibilidad?

» autor: --88270--

#2 Los peligros de la Inteligencia Artificial

Ramón_Casadó_Sampedro — Fri, 07 Dec 2018 15:56:01 +0000

Excelente comentario, realmente muy bueno. Tus puntos tres y cuatro vienen como anillo al dedo para analizar las reglas de Isaac Asimov.

» autor: Ramón_Casadó_Sampedro

#1 Los peligros de la Inteligencia Artificial

--88270-- — Fri, 07 Dec 2018 15:42:41 +0000

Siempre que sale este tema, el argumento está relacionado con la potencia de cálculo. Para entender los riesgos de la inteligencia artificial hay que entender cómo se programan.

Un código sigue unas instrucciones precisas. Esto es lo que se conoce como tipo 1. Da igual qué potencia de cálculo tenga. El programa sigue se forma rígida los parámetros de diseño y el programador tiene total control sobre los mecanismos internos. Este tiene limitaciones, por otro tema relacionado con la complejidad de los sistemas y la tasa de fallos. Pero ese es otro tema.

Entramos en lo que son el tipo 2. Redes neuronales, que imitan, aunque no es exactamente un cerebro biológico primitivo. Aunque llevan desde los años 80 es ahora cuando la potencia de los ordenadores han permitido su desarrollo. Una red neural "aprende", no se programa. No podemos acceder de forma clara a su mecanismo interno. Lo interesante de estos sistemas es que son heurísticos. Se les permiten cometer errores y mejorar de esos errores. Son especialmente útiles para tratar problemas muy complejos como el reconocimiento visual o cómo reaccionar ante eventos inesperados.

El tipo 3. Aqui empieza la tela. Una red neuronal es rígida en el sentido que el número de neuronas y la potencia de cálculo está determinada y su comportamiento está basado en un proceso de aprendizaje de prueba y error más o menos costoso. La forma de reducirlo es implementar en la IA un simulador de realidad. Considera todas las posibilidades y se programa a sí misma. La potencia de cálculo que requiere es inmensa y ahí es donde los computadores cuánticos van a meter mucha caña. El control que tenemos sobre el proceso de aprendizaje es mínimo. Podemos darle unos parámetros adicionales como "no mates a tus creadores" y tenemos limitaciones sobre la precisión cómo simulamos la realidad. Otra limitación es que el lenguaje humano no se puede simular, no se puede aprender siguiendo unas leyes físicas. Solo se puede aprender interaccionando con otros humanos. Lo cual es un proceso lento.

Llegamos al tipo 4. En el que la inteligencia puede expandir y mejorar su propia red neural y mejorar los propios parámetros de simulación. Descartando sistemas completos y creando nuevos. Que es más parecido a como trabaja un cerebro biológico. Pero a una velocidad muy superior y sin las restricciones de caber en un craneo.

» autor: --88270--