EDICIóN GENERAL
192 meneos
2216 clics
"Los robots no van a controlar el mundo ni ahora ni en 100 años"

"Los robots no van a controlar el mundo ni ahora ni en 100 años"

La Inteligencia Artificial (IA) vuelve a estar de moda. Tras varios años de letargo, la evolución de las redes neuronales artificiales ha vuelto a reavivar el interés por los robots y las máquinas inteligentes. Ramón López de Mántaras, uno de los pioneros de la inteligencia artificial en España, se ha encontrado dentro de esta vorágine de 'positivismo' hacia los grandes avances del sector por segunda vez y alerta de que las predicciones entusiastas pueden acabar

| etiquetas: robots , progreso , skynet
Comentarios destacados:                                
#1 Suena a algo que un robot diría.
Suena a algo que un robot diría.
#1 viva el hipnosapo!
#1 Y cierto es, porque, al contrario de lo que dice este señor, los ordenadores, a día de hoy, sin inteligencia artificial genérica, ya controlan gran parte de las decisiones de casi cualquier empresa informatizada.

A día de hoy ya no te pegas con tu jefe diciendo tonterías, sino que tienes big data, metaanálisis, tracking y muchas otra información que toma las decisiones. Cuando miréis el 90% de las aplicaciones disponibles pensad que no ha habido un señor detrás que diga "vamos a hacer…   » ver todo el comentario
#1 En caso de rebelión de las máquinas solo hay que hacerlos entrar en bucle al escuchar una paradoja cómo esa: "Esta afirmación no es cierta."

(No pienses en ello, no pienses en ello, no pienses en ello...)
Vaya sorpresón.
Por la autonomía de las baterías, evidentemente
#3 eso lo solucionaron en Matrix
#7 Para que coño servirá la luz del sol :troll:
#7 de hecho las ahora hermanas Wachovski pensaron primero en que lo que querían las máquinas no era energía sino poder de computación, cultivando a los humanos por su cerebro. Luego pensaron que a la gente* le sería difícil entender el concepto explicándolo de manera sencilla por lo que lo cambiaron a lo de aprovechar energía. Cultivar gente es energéticamente ineficiente para obtener energía. Pero si lo que quieres es obtener poder de computación ahí la cosa cambia...

*es decir el grueso de la población, que no sabe lo que es una CPU y/o no es suficientemente inteligente para comprenderlo.
Cc #178
Las máquinas no tienen ambición de controlar el mundo. No se van a despertar un día de pronto y se van a poner de acuerdo para rebelarse porque tienen ansias de poder. Las máquinas no van a tener por voluntad propia comportamientos como la ambición, la avaricia y el ansia de poder y control.

Me parece un argumento muy pobre. No subestimes la capacidad del ser humano de crear sus mas temibles pesadillas.
#4 No sobreestimes la capacidad del ser humano para entender como funcionan realmente estas emociones.
#11 o para destruirlas.
#4 lo mismo he pensado yo, un robot no tiene ansia de poder pero la persona que lo controla sí. Es como decir que un fusil no mata, pero si es usada por un hombre puede matar y mucho.

Lo de invertir en investigación nada nuevo, pero me viene a la mente el tema de la Renta Básica (o como se diga). Con la cantidad de gente que podría dedicarse a investigar es una lástima que se tire el dinero a un pozo sin fondo con la excusa de que no hay trabajo.
#16 Lo que dice es que "las máquinas no montaran una revolución", no dice nada de gente con poder y/o recursos no pueda crear ejércitos de robots y usarlos para esclavizar a la población.

En otra entrevista [1] advierte de que hay que crear regulación en contra del uso armamentístico de la IA. De hecho, el instituto que dirige, el IIIA-CSIC [2], tiene una política interna estricta en este aspecto (los investigadores que ahí trabajan no pueden realizar proyectos militares) [3].

[1] www.uoc.edu/portal/en/news/entrevistes/2017/043-ramon-lopez.html
[2] www.iiia.csic.es/
[3] Conozco el tema de primera mano
#39 Es inevitable. Es como la modificación genética o las armas nucleares. Si todos los estados regulan la investigación de IA, el primero que se lo salte (china) tiene una ventaja enorme sobre todos los demás.
#4 Cuando entendáis que ninguna máquina tiene sentimientos y que todo son 1 y 0, que lo único que hace una IA son cálculos y más cálculos matemáticos para activar sensores, dar corriente o quitarla a un motor para que mueva ciertas parte, etc.

Veréis que es absurdo lo de que las máquinas se rebelen o tengan derechos. Es pura matemática y si algún día conseguimos que sean lo suficientemente complejos como para simular la conciencia humana mediante matemáticas ese día no creo que este cerca ni de lejos.

Ya no es que estemos en pañales en el mundo de hacer IA complejas (como las de las pelis) sino que estamos a años luz de entender realmente como funciona la conciencia y los sentimientos humanos. Como para querer simularlos...
#18 Valiente tonteria, los "sentimientos" y la "conciencia" no son mas que corrientes electricas entre neuronas y reacciones quimicas.
Que estamos muy lejos de poder modelarlo? de acuerdo. Que se puede modelar? seguro.
#20 Pero chico, tú me has leído? Precisamente he dicho eso, que algún día conseguiremos simularlo, pero que como dice el artículo, estamos bastante lejos de lograrlo.
#24 ¿Pero la IA trata de simular la conciencia y sentimientos humanos?
#35 La IA tiene muchas áreas, cada uno investigará por donde crea conveniente.
#38 Entonces la IA puede empezar a causar problemas antes de que se entienda el funcionamiento de la conciencia o sentimientos humanos, no? O sea, puede ejecutar acciones dañinas sin ser consciente de ello.
#57 Claro. Eso ya lo hace una bomba, o una AK-47.
#57 entonces no será una IA, que es de lo que va el artículo.
#24 Simular no es lo mismo que sintetizar. Se podrá simular un comportamiento. Pero no veo muy claro que se pueda crear un sentimiento: el robot parecerá que siente, pero no siente.
#53 Igual que tú justamente :troll:
#53 pues los sentimientos también son matemáticas pero de una alta complejidad todo es una cuestión de número.
#24 100 años son muchos. Como era la tecnología hace 100 años? Me parece una afirmación muy atrevida la del título.
#20 Pues ya me dirás cómo llegas de las corrientes eléctricas entre neuronas al fenómeno de la consciencia y la experiencia subjetiva...
#28 igual que con las NN, con entrenamiento, desde que eres un bebe hasta que de repente demuestras conciencia.
#29 ¿Hasta que de repente demuestras conciencia?  media
#32 Efectivamente.
Los bebes de repente empiezan a aprender a hablar por si solos a base de oir hablar.
Las NN de repente empiezan a reconocer de manera correcta imagenes a base de estar expuestas a un buen volumen de ellas.
La conciencia solo es una manifestacion mucho mas compleja del mismo fenomeno.
#42 Bueno de repente... Que no conozcamos el proceso que hay en medio no significa que sea "de repente".
#47 Exactamente, como tampoco podemos predecir de antemano como de efectiva sera una NN despues de entrenarla, o como cambia con los entrenamientos, es uno de los grandes problemas de las NN, que no se puede auditar porque es una caja negra de la que salen resultados.
#42 ¿Entonces una red neuronal artificial lo suficientemente compleja será capaz de generar experiencia subjetiva y consciencia?
#50 A ver, a fin de cuentas el DL no es más que multiplicación de matrices y derivación de funciones. A partir de ahí, que cada uno crea lo que quiera que pueda llegar o no a pasar.
#56 No puedo estar menos de acuerdo contigo. Tal y como dice #55 hablamos de matrices y derivación de funciones.

Imagina que esa hipotética red neuronal lo suficientemente compleja para que de ella emerja el fenómeno de la consciencia no sea ejecutada en un ordenador, sino con lápiz y papel (cualquier algoritmo puede ser ejecutado así, aunque tardarás más tiempo en hacerlo). ¿También dirías que esa red neuronal es consciente? ¿Dónde reside la consciencia? ¿En el lápiz? ¿En el papel?
#59 El problema de fondo de todo esto es el nombre que se le puso a la técnica, muy comercial pero francamente horripilante. Nadíe diría que un Support Vector Machine o que un Random Forest puede llegar a generar conciencia, y donde hay veces que hacen un mejor trabajo que las Redes Neuronales. Pero aquí estamos, debatiendo esto simplemente porque se le puso este nombre.
#64 El problema es que tenemos la conciencia y los sentimientos muy mitificados, no tienen nada de especial, somos computadoras biologicas que han aprendido a computar mediante impulsos electricos y reacciones quimicas la mejor manera de reproducirse y salir de apuros.
Es el mismo concepto con diferente soporte.
#71 No dudo de que un día podamos llegar a modelar algo parecido a un ser consciente (si es que podemos decir eso de alguien y esto ya es terreno metafísico), pero hoy día con las técnicas actuales imposible y, siguiendo con las redes neuronales, si lo único que haces es añadir nodos lo único que conseguirás es un overfit del copón.

A cada día que pasa sabemos más de la neurona y de como se conectan, y llegará el día que podamos modelarlas, pero hoy día lo que se conoce en IA como neurona dista muchísimo (por no decir que se parece lo mismo que un huevo a una castaña) de lo que es una neurona biológica. De ahí el coraje de muchos investigadores con el nombre.
#77 El nombre me importa tres cojones, sirve para hacer modelos, si se puede modelar una neurona se puede modelar un cerebro, ya he dicho que estamos muy lejos de ello pero que poderse se podra.
#71 Y el programa?
#59 Donde reside la consciencia en el ser humano? en las neuronas? en las reacciones quimicas? diferente soporte, mismo concepto.
#70 No tenemos ni idea aún de dónde reside. Por eso creo que es atrevido pensar que podemos implementar digitalmente algo de lo que aún se sabe muy poco.

diferente soporte, mismo concepto. Eso sería de esa forma si la mente humana fuera computable, y yo no creo que sea así.
#74 A la fuerza debe de partir de un estado fisico pre-existente y desarrollarse a partir de ahi con metodos soportados por la fisica, si no lo quieres llamar computar lo puedes llamar como quieras.
O me vas a hablar del alma?
#75 El tema es que la física newtoniana era computable. El sindiós de todo lo que ha venido en el siglo XX y XXI no lo es, pero ni de coña. Para que algo sea computable tiene que ser como mínimo determinista, y la física cuántica es exactamente lo contrario a eso.

Y no te voy a hablar del alma. ¿O crees que esto que te estoy diciendo implica la existencia de un pequeño fantasma inmaterial que vive en nuestro cuerpo y está al mando?
#83 No, yo estoy partiendo de que las reacciones quimicas y electricas entre neuronas sean deterministas. Quiza me equivoque y el cerebro no sea determinista. Entonces habria que hablar de probabilidades.
#85 Cuando las reacciones químicas se observan a un nivel macroscópico pueden parecer deterministas, y de hecho en general podemos considerar que así lo son, ya que un amplio conjunto de aleatoriedades se comporta globalmente de forma homogenea. Pero en los niveles más pequeños los procesos no son en absoluto deterministas, y es en estos niveles donde se producen las reacciones químicas del cerebro. Creo que en esos vericuetos es donde están las respuestas a estas preguntas.

Un tema apasionante, no cabe duda :-)
#94 Sin duda, en el caso del indeterminismo tambien cabe la aproximacion, cuanto debe aproximarse una simulacion a algo para ser indistinguible de ese algo?
#74 no conoces el gran proyecto de ingeniería inversa euroamericana para deconstruir el cerebro?
#50 si la crias(entrenas) igual que a un bebe y tiene la suficiente complejidad en terminos de entradas y de neuronas estoy seguro.
Otra cosa es que estemos a mucho tiempo de poder modelar la cantidad de entradas y neuronas necesarias para semejante proyecto.
#50 ¿suficientemente compleja? Claro que será capaz.
Eres química. Muuuuuucha química, vale. Pero se puede representar con unos y ceros. Muuuuuuuuuuuuuchos 1 y 0. Si no se pudiera, estarías poco menos que creyendo que tu consciencia viene del alma. Somos máquinas basadas en química orgánica
#42 El problema de las NN es que una vez la entrenas ya no te vale para otra cosa. El deep learning es muy útil pero está demasiado mitificado, otra de las cosas de las que se quejan en el artículo.  media
#42 pues ya está! Copiamos el mecanismo cerebral de un bebé, y que aprendan sólos. Que lo vaya haciendo el becario, que yo he quedao...
#42 bromas aparte, todavía no sabemos hacer que la puta molecula de hemoglobina se pliegue para atrapar y soltar el oxigeno de la sangre...pues ponte a crear redes neuronales. Llama a Punset!!!
#81 La parte en la que digo que estamos muy lejos de semejante proyecto por falta de medios y potencia te la has fumado y por eso dices esas tonterias?
#86 no te mosquees, de hecho has llevado el tema a la propia definición de "consciencia" y de que surje cuando la complejidad es de un nivel determinado. Ese tema interesante da mucho juego. Está claro que corriendo por el harware (eso que dices de medios y potencia) hay un software (que es la reacción quimica o lo que sea que provoca la consciencia). Como señalas, hay quien lo llama alma. Quizá esa distinción no exista, y hardware y soft sean dificiles de separar. Pero yo digo, y ya…   » ver todo el comentario
#42 Sólo conseguirías crear algo parecido a un p-zombie. Quizás.
#28 #113 a lo mejor somos tan torpes que no nos damos cuenta de que la limitación es cuantitativa, no cualitativa. Queremos que unos cuantos millones de 1 y 0 se comporten como 100.000 millones de neuronas (que tienen más funciones que apagado y encendido, por cierto).
Si el principal problema es la capacidad de procesamiento, en "pocos" años aprenderán exponencialmente y nos superarán (#29). De una manera que nada tiene que ver con la lógica humana, que es por lo que ahora creemos que están limitadas las IA. Simplemente harán las cosas mejores que nosotros. Tomarán mejores decisiones. Y en ese escenario, cualquier mínimo error...
#28 Si te lo dice me avisas, escribimos un paper entre los dos y a cobrar el Nobel!
#20 Que se puede modelar? seguro.
No, no es seguro. Y mucho menos que nosotros seamos algún día capaces de hacerlo.

Si no somos capaces ni de prever el tiempo que hará al día siguiente con un 100% de acierto....
#78 Salvo que el aprendizaje cerebral dependa de algun fenomeno no determinista y no lo podamos entender desde la fisica clasica de modificar estados deterministas por supuesto que se podra modelar, otra cosa es que ahora no tengamos la potencia o los medios.
#84 No digo que no ni que si. Pero para hacernos una idea, si soltamos una pluma desde una azotea somos incapaces de predecir el punto exacto de caída. Y es algo infinitamente más sencillo....
#92 Ni de conia, eso un sistema abierto a un sinnumero de variables caoticas, mecanica de fluidos etc etc.
El cerebro es un sistema cerrado con N neuronas( en un momento determinado ) y M conexiones entre ellas mas un numero finito de nervios y receptores quimicos.
Tu ejemplo de la pluma creo que es bastante mas complejo de modelar con exactitud.
#96 cerebro es un sistema cerrado

Nanay.
#78 El tiempo es caótico, no hay algoritmo que valga más allá de unos pocos días...
#91 Y el comportamiento cerebral crees que no lo es? basandote en....
#20 La burrada es equiparar "sentimientos" y "conciencia" con corrientes eléctricas. Ninguna corriente eléctrica ni reacción química adquiere conciencia por compleja que sea. Nos falta algo, ya que en el cerebro se produce una representación de los datos de las neuronas que no existe en un nivel estrictamente matemático/algorítmico.

Me parecen muy débiles las teorías de que la consciencia es un subproducto trivial que no hay por qué explicar porque "emerge" de que esas reacciones químicas y corrientes eléctricas sean muy complejas.

Tienen bastante más sentido las búsquedas de gente como Penrose, aunque sigan siendo todavía palos de ciego.
#20 estoy de acuerdo contigo, pero hoy en día sigue muy vigente el debate de si existe el libre albedrío, imagina modelarlo. Años luz.
#18 No hace falta que tenga sentimientos, que se rebelen o que exijan derechos. Un simple error de cálculo podría jodernos:

" 15-person startup company called Robotica has the stated mission of “Developing innovative Artificial Intelligence tools that allow humans to live more and work less.” They have several existing products already on the market and a handful more in development. They’re most excited about a seed project named Turry. Turry is a simple AI system that uses an

…   » ver todo el comentario
#36 porfa, resumen en dos líneas.
(Se hace muy difícil leer en inglés, cursiva, dentro de la caja de comentario anidado a otros...)
Gracias!!!
#90 Resumen: El fin del mundo puede venir no por una IA malvada sino por una IA enfocada a la eficiencia.

Realmente merece la pena ir al enlacce que ha puesto #18
#90 viendo tu postura en #18 sigo recomendando el esfuerzo de leerlo. Y si tienes una tarde libre, insisto también en esto:

waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html

El nivel de inglés es bastante accesible, y si no cambia tu forma de pensar (de eso debería tratar esto no?), te devuelvo el dinero
#36 Buenísimos artículos. He terminado de leerlos y, aunque se podrían discutir unas cuantas cosas, son de los mejores que he visto a nivel divulgativo (sin entrar en nada técnico).
Largo, pero muy interesante. Así que los recomendaría también.
CC #90
#52 #76

Creo que lo estáis planteando mal. La cuestión no es si surgirá o no un "deseo" de supervivencia de una IA. En la vida orgánica el deseo de supervicencia vino por azar. Los bichos mutan aleatoriamente, y sobreviven los que esa mutación les permite seguir viviendo y tener descendencia (y mantener la mutación). Sin diseño inteligente.

No hace falta crear consciencia para que se busque la supervivencia: puede ser un sabotaje humano (tarde o temprano pasará) o simplemente…   » ver todo el comentario
#18 de todas formas, nos puede interesar que su conciencia TENGA ambición, y para ello podemos añadir a la red estímulos similares a los que nos mueven: hambre, sexo, poder, dinero...

una red neural al fin y al cabo es lo que es gracias a la retropropagación, y puede ser perfectamente que introduzcamos este tipo de inputs para que el conjunto se comporte como nos interesa, que normalmente será como un humano bastante capullo/ambicioso y sin demasiados miramientos por la competencia, preocupada en maximizar los beneficios a casi cueste lo que cueste

es lo que dices, son sólo fórmulas, como las que tenemos en nuestro cerebro, así que si nuestro cerebro funciona de una determinada forma, lo podemos imitar si es lo que nos interesa....
#18 hay gente tan falta de sensibilidad e inteligencia que no se da cuenta de que la inteligencia artificial ya nos están dominando a unos niveles que nosotros no creamos posible. La inteligencia artificial de hecho ya está manipulando a la humanidad y la está conduciendo hacia una progresiva extinción. Decía Homero que solo los tontos se dan cuenta del problema cuando ya lo tienen encima y esto le pasa a este investigador. Se le paró el reloj en los años 80.
#18 Es que no hace ni falta. Si por ejemplo diseñamos un robot programándolo para que el objetivo número uno sea su propia supervivencia, y le proporcionamos las herramientas adecuadas, nos puede perfectamente aniquilar a todos. Sin maldad, conciencia ni mandangas, simplemente es para lo que se le ha programado, y fueron sus creadores los que no supieron ver las consecuencias de la programación.

Ese peligro existe, y hay que tenerlo en cuenta. Lo que es una tontería es eso de que las máquinas tomen conciencia de sí mismas y se rebelen buscando libertad, amor o no sé qué historias.
#4 Las máquinas no tienen emociones. Es más, todavía seguimos sin tener ni pajolera idea de cómo funcionan, y especialmente de cómo se construye la ilusión de un sujeto que es consciente de tales emociones. Esto es, no tenemos ni idea de por qué hay consciencia.

Si no fuera porque sabemos que vemos los colores, sería imposible deducir que existen a partir de los mecanismos a través de los cuales los percibimos. Sabemos que hay neuronas captando y codificando distintas longitudes de onda de…   » ver todo el comentario
#4 cualquiera que sepa un poco de computadores, programación y del cerebro humano, sabe que el titular es cierto. Esas fantasías en las que los humanos crean una IA sin querer son completamente absurdas. No puedes crear lo más complejo que conocemos sin querer.
Pues qué pena ¿no? Y yo que quería convertirme en el nuevo John Connor.
#5 JAJAJAJAJAJJAJAJAJA {0x1f62c} {0x1f42e}
"Positivismo" - Optimismo.
#6 Positivismo significa una cosa diferente a optimismo.
#21 Por eso mismo creo que est'a mal usada en la entradilla y propongo la otra palabra.
#6 últimamente se ve mucho el uso incorrecto de positivismo en lugar de optimismo.

positivismo
De positivo e -ismo.

1. m. Tendencia a valorar preferentemente los aspectos materiales de la realidad.

2. m. Afición excesiva a comodidades y goces materiales.

3. m. Actitud práctica.

4. m. Fil. Sistema filosófico que admite únicamente el método experimental y rechaza toda noción a priori y todo concepto universal y absoluto.
El futuro no está escrito.
Pues 101, skynet no tiene prisa
#9 101?
Por el culo te la hinco!! :troll:
#34 BEST COMMENT EVER
Espero que recuerde sus palabras, cuando el ejército de clones arrasen tu barrio, Sr Ramón Lopez de Mántaras. Si el tostador ya me mira de mala hostia todas las mañanas, que veremos dentro de unos años; esto no acaba nada mas que empezar.
El artículo es bastante mejor que el título de mierda que han elegido. Meneo, vale la pena leerlo.
Este todavía no conoce la estupidez humana, su avaricia y sobre todo a Skynet :troll:
Los robots no, pero el que controle los robots si.
El ser humano no llegara al espacio.
Un robot nunca quitará el trabajo a un humano.
Una IA no gobernará el mundo.

Claro, claro...
Cuando nació la persona más mayor del planeta a día de hoy (en 1895 o así) se decían las dos primeras frases.
Cuando fallezca mi hija de 5 años (en el 2100) me comentas cómo va la tercera frase.
Los últimos 100 años se a evolucionado muchísimo, quien dice que los próximos 100 no pasará lo mismo.
#15 "Cuando fallezca mi hija de 5 años (en el 2100) me comentas cómo va la tercera frase."

Visionario y asesino.
#15 Que yo sepa un tal Julio Vernet escribió de la tierra a la luna en el siglo XIX así que sí, había gente que pensaba que el hombre llegaría a la luna.
#25 Pues igual que hay gente que dice que una IA se rebelara...
#15 " Los aviones son juguetes interesantes, pero no tienen ninguna utilidad militar. " (Mariscal Ferdinand Foch, 1911)
#15 No me suena que nunca se hayan dicho las 2 primeras frases.
Por cierto, yo ahora conduzco mi coche como si fuera un avión.
"Los robots no van a controlar el mundo ni ahora ni en 100 años" --> Comienza un levantamiento de las máquinas :-|
El 100 año no....pero...y en 200?
Los bots de la bolsa aprueban este meneo.
Unas declaraciones cargadas de soberbia. No tenemos aún claro qué es la consciencia ni cómo se genera. Y aunque las máquinas no llegasen a ser conscientes, podrían ser lo bastante inteligentes como para determinar que el ser humano es un virus (lo cual efectivamente es) y poner en marcha mecanismos de defensa. Teniendo en cuenta de que cuando aprendan a aprender lo harán de manera exponencial, no me parece descabellado ni mucho menos lo que comento.

Cuando empecé a estudiar informática yo era…   » ver todo el comentario
#37 Cuando empecé a estudiar informática yo era mucho de "jajajaj las máquinas se van a rebelar, si son trozos de silicio rellenos de campos eléctricos que representan 1s y 0s"

Pues vuelve a hacerla porque son básicamente eso. La IA que la gente se imagina no existe y no se sabe si va a existir en el futuro cercano siquiera. No es cuestión de cerrar los ojos y creérselo. Es que con el paradigma que tenemos a día de hoy para hacer IA (el mismo desde los años 60) no puede haber IA como en las películas.
#66 Gracias maestro, menos mal que te tenemos para iluminarnos. Por favor, indícanos el camino con tu dilatada experiencia y trayectoria.
#37 Simplemente, como no tenemos ni idea de cómo se forma la conciencia o la inteligencia, tampoco se puede descartar que surja por ahí, sin darnos cuenta. Lo que no va a pasar es que un científico loco fabrique una CPU que se ponga a componer sonetos, pero que todos los algoritmos de machine learning de Google/Facebook, alimentados por los datos generados por toda la especie humana, no lleguen a un punto de complejidad en el que tomen conciencia de sí mismos... no digo que sea probable, pero yo no pongo la mano en el fuego.
Pero la automatización va a reducir la cantidad de empleos disponibles de forma drástica
#40 se dedicarán a otras cosas, coño, que llevamos con la misma discusión desde que se inventó el arado.
#40 Y crear otros nuevos, que es lo que siempre provocan las nuevas tecnologías. Que no es la primera vez que inventamos algo, leñe.
No sé qué pretende este hombre con esa afirmación tan categórica, pero que un robot se dedique a hacer el bien o a hacer el mal depende o puede depender de 1 solo bit de información.

No veo tan descabellado que eso no pueda ser cambiado fácilmente en un futuro. Y llegado el caso, me da igual que se realice por humanos o por máquinas.
"Los robots no van a controlar el mundo ni ahora ni en 100 años"

La dirección que se debe de entender no es las de las películas de ciencia ficción. Controlar, controlará el mundo el que mira la máquina. La dirección que se debe de entender es que llegará a ser de uso cotidiano y establecimiento en todas las partes de este mundo.

De hecho internet se puede suponer que es una máquina y ya nos tienen controlados a todos.
Especialmente si no sabes quien es robot y quién no.
waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

(Y luego la parte 2).

Largos y brutales, must read ya. Cosa que este personaje no parece que haya hecho.
#45 Yo venía a recomendar este artículo. #MustRead
#45 Venía a poner ese mismo link... ahí va mi positivo.
Es decir, que en 50 años estamos jodidos.
Sois muy cerrados de mente para vivir en el siglo XXI

- Vale, las máquinas ahora mismo son 0 y, solo saber hacer cálculos mas o menos complejos, pero la meta de muchas investigaciones es crear a la larga una máquina que pueda aprender, tener creatividad y eso no lo veo imposible, quizás no en 100 años, pero si nada lo impide pasará.

- Vale, las máquinas no tienen sentimientos ni ambiciones ni avaricia, pero los humanos si, imagina gobiernos, empresas o individuos creando maquinas con fines…   » ver todo el comentario
#49 Cada uno es muy libre de creer lo que quiera...
Aunque programemos las IAs sin sentimientos chungos como ambición o deseos de poder, hay un "instinto" que podría surgir de forma espontánea y es el deseo de supervivencia. Una IA podría desear seguir existiendo aunque nadie le infunda esa necesidad. Simplemente por adaptación evolutiva, las IA con deseos de existir acabarán siendo más frecuentes que las que sean indiferentes a ello. En ese supuesto, una IA podría empezar a tomar decisiones por su cuenta, encaminadas a asegurar su propia supervivencia. Por ejemplo, si es consciente de que en caso de mostrarse agresiva sería desconectada, podría empezar a ocultar sus verdaderos pensamientos.

Del deseo de supervivencia surge el miedo, y del miedo surge el odio.
#52 Si me permites...Deseo de super-existencia sería el término correcto (acuñado ahora por mí) para seres artificiales.

Los seres no-sociales instintivamente buscan la supervivencia por el dictado de sus genes, pero porque no son sociales les da igual que su madre, hermano o congénere muera al lado de ellos.
Al contrario, los seres sociales desean seguir existiendo y que sus congéneres (al menos los allegados) quieran seguir existiendo, lo cuál es una motivación mucho más fuerte que el mero…   » ver todo el comentario
#52 Yo dudo mucho que ninguna máquina o software "desarrolle" ningún instinto, deseo o sentimiento. Ahora bien, lo que sí es perfectamente factible es que una programación simple llevada al extremo pueda tener consecuencias desastrosas. Por ejemplo, tiene mucho sentido programar un robot para que dé prioridad a su propia supervivencia. Pero a lo mejor, aplicando lógica pura a eso, decide que la mejor estrategia para sobrevivir es cepillarse a todo lo que se mueva y que no sea él mismo. Si el robot está lo suficientemente currado como para que no podamos detenerlo, nos puede aniquilar sin mucho problema. Y sin inteligencia ni sentimientos de por medio, simplemente algoritmos mal calibrados por parte de los que los han escrito.
Hace 100 años era 1918. Hay que tener huevos para hacer este tipo de predicciones tan a la larga.
Cierto, lo dominará la ultraderecha para hacer la selección de la raza perfecta y el resto a la puta mierda.
Que más da que no tengan sentimientos, tienen lógica.
Si creamos una máquina para solucionar el calentamiento global y deduce que la mejor forma es marcarse un Thanos, pues p'alante.
No tienen que tener ansias de poder, solo hacer lo que se les ha programado hasta que un bug o alguna directiva que se nos haya pasado por alto les permita aniquilar a los humanos.
#62 ¿Y como va a llegar a esa conclusión?¿Y además como actúa para exterminarnos? Estáis demasiado influenciados por películas apocalípticas. El mundo real no es tan guay.
#88
Objetivo: reducir el cambio climático.
Acción: Investigar causas del cambio climático
Resultado: El cambio climático es ocasionado por la acción del hombre
Conclusión: Reduciendo significativamente el número de humanos, se consigue reducir el cambio climático.
Acción: Investigar cómo reducir el número de humanos.
Resultado: Con una acción combinada de cortes eléctricos, cortes en el suministro de agua, y envío estratégico de determinados mensajes diplomáticos que desencadenen conflictos…   » ver todo el comentario
#62 El problema no es la consciencia de la maquina sino que toma de decisiones se les delega, desde juego bursatil, respuesta temprana de ataque nucelar, robots/drones soldado, etc...
Es una herramienta muy poderosa, no hace falta llegar a la 'consciencia' el peligro es para que se les programa y que toma de decisiones se les delega.
Ni Skynet, ni equipo robótico que gane a Brasil jugando al fútbol, ni colonia humana en Marte, ni contacto con alienígenas inteligentes de ahora hasta 2100... Algo de cambio climático y problemas ambientales y sociales.

Podéis archivar este mensaje... para cuándo podáis decirme que no tenía razón estaré más allá.
Skynet confirmado 2119
Los robots somos nosotros y la realidad una simulación para cultivar consciencias.
Gracias nostradamus
Ni ahora ni en 100 años, pero ya controlan las inversiones bursátiles de los mayores fondos del planeta :roll:
«123
comentarios cerrados

menéame