Tecnología, Internet y juegos
192 meneos
2219 clics
"Los robots no van a controlar el mundo ni ahora ni en 100 años"

"Los robots no van a controlar el mundo ni ahora ni en 100 años"

La Inteligencia Artificial (IA) vuelve a estar de moda. Tras varios años de letargo, la evolución de las redes neuronales artificiales ha vuelto a reavivar el interés por los robots y las máquinas inteligentes. Ramón López de Mántaras, uno de los pioneros de la inteligencia artificial en España, se ha encontrado dentro de esta vorágine de 'positivismo' hacia los grandes avances del sector por segunda vez y alerta de que las predicciones entusiastas pueden acabar

| etiquetas: robots , progreso , skynet
81 111 3 K 245
294 comentarios
81 111 3 K 245
Comentarios destacados:                                
#1 Suena a algo que un robot diría.
ElConejoDeLaChistera #1 ElConejoDeLaChistera
Suena a algo que un robot diría.
63 K 494
borteixo #17 borteixo
#1 {0x1f52a}  media
2 K 31
rcorp #58 rcorp
#1 viva el hipnosapo!
1 K 18
#184 Reakl
#1 Y cierto es, porque, al contrario de lo que dice este señor, los ordenadores, a día de hoy, sin inteligencia artificial genérica, ya controlan gran parte de las decisiones de casi cualquier empresa informatizada.

A día de hoy ya no te pegas con tu jefe diciendo tonterías, sino que tienes big data, metaanálisis, tracking y muchas otra información que toma las decisiones. Cuando miréis el 90% de las aplicaciones disponibles pensad que no ha habido un señor detrás que diga "vamos a hacer…   » ver todo el comentario
3 K 41
Interrogación #264 Interrogación
#1 En caso de rebelión de las máquinas solo hay que hacerlos entrar en bucle al escuchar una paradoja cómo esa: "Esta afirmación no es cierta."

(No pienses en ello, no pienses en ello, no pienses en ello...)
0 K 8
#39 aiguy *
#16 Lo que dice es que "las máquinas no montaran una revolución", no dice nada de gente con poder y/o recursos no pueda crear ejércitos de robots y usarlos para esclavizar a la población.

En otra entrevista [1] advierte de que hay que crear regulación en contra del uso armamentístico de la IA. De hecho, el instituto que dirige, el IIIA-CSIC [2], tiene una política interna estricta en este aspecto (los investigadores que ahí trabajan no pueden realizar proyectos militares) [3].

[1] www.uoc.edu/portal/en/news/entrevistes/2017/043-ramon-lopez.html
[2] www.iiia.csic.es/
[3] Conozco el tema de primera mano
8 K 77
#187 BananaAnanda *
#39 Es inevitable. Es como la modificación genética o las armas nucleares. Si todos los estados regulan la investigación de IA, el primero que se lo salte (china) tiene una ventaja enorme sobre todos los demás.
1 K 15
#4 --586877--
Las máquinas no tienen ambición de controlar el mundo. No se van a despertar un día de pronto y se van a poner de acuerdo para rebelarse porque tienen ansias de poder. Las máquinas no van a tener por voluntad propia comportamientos como la ambición, la avaricia y el ansia de poder y control.

Me parece un argumento muy pobre. No subestimes la capacidad del ser humano de crear sus mas temibles pesadillas.
9 K 69
#11 Olaf_123
#4 No sobreestimes la capacidad del ser humano para entender como funcionan realmente estas emociones.
9 K 95
xavierstark #259 xavierstark
#11 o para destruirlas.
0 K 9
pepepoi #16 pepepoi
#4 lo mismo he pensado yo, un robot no tiene ansia de poder pero la persona que lo controla sí. Es como decir que un fusil no mata, pero si es usada por un hombre puede matar y mucho.

Lo de invertir en investigación nada nuevo, pero me viene a la mente el tema de la Renta Básica (o como se diga). Con la cantidad de gente que podría dedicarse a investigar es una lástima que se tire el dinero a un pozo sin fondo con la excusa de que no hay trabajo.
1 K 9
#18 --44542--
#4 Cuando entendáis que ninguna máquina tiene sentimientos y que todo son 1 y 0, que lo único que hace una IA son cálculos y más cálculos matemáticos para activar sensores, dar corriente o quitarla a un motor para que mueva ciertas parte, etc.

Veréis que es absurdo lo de que las máquinas se rebelen o tengan derechos. Es pura matemática y si algún día conseguimos que sean lo suficientemente complejos como para simular la conciencia humana mediante matemáticas ese día no creo que este cerca ni de lejos.

Ya no es que estemos en pañales en el mundo de hacer IA complejas (como las de las pelis) sino que estamos a años luz de entender realmente como funciona la conciencia y los sentimientos humanos. Como para querer simularlos...
21 K 166
#20 runciters_animals
#18 Valiente tonteria, los "sentimientos" y la "conciencia" no son mas que corrientes electricas entre neuronas y reacciones quimicas.
Que estamos muy lejos de poder modelarlo? de acuerdo. Que se puede modelar? seguro.
19 K 144
#24 --44542-- *
#20 Pero chico, tú me has leído? Precisamente he dicho eso, que algún día conseguiremos simularlo, pero que como dice el artículo, estamos bastante lejos de lograrlo.
5 K 50
astronauta_rimador #35 astronauta_rimador
#24 ¿Pero la IA trata de simular la conciencia y sentimientos humanos?
1 K 12
#38 --44542--
#35 La IA tiene muchas áreas, cada uno investigará por donde crea conveniente.
2 K 27
astronauta_rimador #57 astronauta_rimador
#38 Entonces la IA puede empezar a causar problemas antes de que se entienda el funcionamiento de la conciencia o sentimientos humanos, no? O sea, puede ejecutar acciones dañinas sin ser consciente de ello.
2 K 22
#79 chavi
#57 Claro. Eso ya lo hace una bomba, o una AK-47.
0 K 8
sauron34_1 #262 sauron34_1
#57 entonces no será una IA, que es de lo que va el artículo.
0 K 10
#53 j-light
#24 Simular no es lo mismo que sintetizar. Se podrá simular un comportamiento. Pero no veo muy claro que se pueda crear un sentimiento: el robot parecerá que siente, pero no siente.
0 K 7
zerolang #141 zerolang
#53 Igual que tú justamente :troll:
0 K 10
#169 juanluisman
#53 pues los sentimientos también son matemáticas pero de una alta complejidad todo es una cuestión de número.
0 K 6
par #182 par
#24 100 años son muchos. Como era la tecnología hace 100 años? Me parece una afirmación muy atrevida la del título.
0 K 7
Bedel_roolmo #28 Bedel_roolmo
#20 Pues ya me dirás cómo llegas de las corrientes eléctricas entre neuronas al fenómeno de la consciencia y la experiencia subjetiva...
4 K 46
#29 runciters_animals
#28 igual que con las NN, con entrenamiento, desde que eres un bebe hasta que de repente demuestras conciencia.
1 K 10
Bedel_roolmo #32 Bedel_roolmo
#29 ¿Hasta que de repente demuestras conciencia?  media
6 K 68
#42 runciters_animals
#32 Efectivamente.
Los bebes de repente empiezan a aprender a hablar por si solos a base de oir hablar.
Las NN de repente empiezan a reconocer de manera correcta imagenes a base de estar expuestas a un buen volumen de ellas.
La conciencia solo es una manifestacion mucho mas compleja del mismo fenomeno.
2 K 19
#47 --44542--
#42 Bueno de repente... Que no conozcamos el proceso que hay en medio no significa que sea "de repente".
0 K 10
#48 runciters_animals
#47 Exactamente, como tampoco podemos predecir de antemano como de efectiva sera una NN despues de entrenarla, o como cambia con los entrenamientos, es uno de los grandes problemas de las NN, que no se puede auditar porque es una caja negra de la que salen resultados.
3 K 28
Bedel_roolmo #50 Bedel_roolmo
#42 ¿Entonces una red neuronal artificial lo suficientemente compleja será capaz de generar experiencia subjetiva y consciencia?
1 K 17
#55 Skalextric
#50 A ver, a fin de cuentas el DL no es más que multiplicación de matrices y derivación de funciones. A partir de ahí, que cada uno crea lo que quiera que pueda llegar o no a pasar.
1 K 14
Bedel_roolmo #59 Bedel_roolmo
#56 No puedo estar menos de acuerdo contigo. Tal y como dice #55 hablamos de matrices y derivación de funciones.

Imagina que esa hipotética red neuronal lo suficientemente compleja para que de ella emerja el fenómeno de la consciencia no sea ejecutada en un ordenador, sino con lápiz y papel (cualquier algoritmo puede ser ejecutado así, aunque tardarás más tiempo en hacerlo). ¿También dirías que esa red neuronal es consciente? ¿Dónde reside la consciencia? ¿En el lápiz? ¿En el papel?
2 K 28
#64 Skalextric *
#59 El problema de fondo de todo esto es el nombre que se le puso a la técnica, muy comercial pero francamente horripilante. Nadíe diría que un Support Vector Machine o que un Random Forest puede llegar a generar conciencia, y donde hay veces que hacen un mejor trabajo que las Redes Neuronales. Pero aquí estamos, debatiendo esto simplemente porque se le puso este nombre.
5 K 45
#71 runciters_animals
#64 El problema es que tenemos la conciencia y los sentimientos muy mitificados, no tienen nada de especial, somos computadoras biologicas que han aprendido a computar mediante impulsos electricos y reacciones quimicas la mejor manera de reproducirse y salir de apuros.
Es el mismo concepto con diferente soporte.
3 K 29
#77 Skalextric *
#71 No dudo de que un día podamos llegar a modelar algo parecido a un ser consciente (si es que podemos decir eso de alguien y esto ya es terreno metafísico), pero hoy día con las técnicas actuales imposible y, siguiendo con las redes neuronales, si lo único que haces es añadir nodos lo único que conseguirás es un overfit del copón.

A cada día que pasa sabemos más de la neurona y de como se conectan, y llegará el día que podamos modelarlas, pero hoy día lo que se conoce en IA como neurona dista muchísimo (por no decir que se parece lo mismo que un huevo a una castaña) de lo que es una neurona biológica. De ahí el coraje de muchos investigadores con el nombre.
2 K 22
#82 runciters_animals
#77 El nombre me importa tres cojones, sirve para hacer modelos, si se puede modelar una neurona se puede modelar un cerebro, ya he dicho que estamos muy lejos de ello pero que poderse se podra.
0 K 7
#98 chavi
#71 Y el programa?
0 K 8
#101 runciters_animals *
#98 El ADN?
0 K 7
#70 runciters_animals
#59 Donde reside la consciencia en el ser humano? en las neuronas? en las reacciones quimicas? diferente soporte, mismo concepto.
1 K 16
Bedel_roolmo #74 Bedel_roolmo
#70 No tenemos ni idea aún de dónde reside. Por eso creo que es atrevido pensar que podemos implementar digitalmente algo de lo que aún se sabe muy poco.

diferente soporte, mismo concepto. Eso sería de esa forma si la mente humana fuera computable, y yo no creo que sea así.
0 K 8
#75 runciters_animals
#74 A la fuerza debe de partir de un estado fisico pre-existente y desarrollarse a partir de ahi con metodos soportados por la fisica, si no lo quieres llamar computar lo puedes llamar como quieras.
O me vas a hablar del alma?
1 K 16
Bedel_roolmo #83 Bedel_roolmo
#75 El tema es que la física newtoniana era computable. El sindiós de todo lo que ha venido en el siglo XX y XXI no lo es, pero ni de coña. Para que algo sea computable tiene que ser como mínimo determinista, y la física cuántica es exactamente lo contrario a eso.

Y no te voy a hablar del alma. ¿O crees que esto que te estoy diciendo implica la existencia de un pequeño fantasma inmaterial que vive en nuestro cuerpo y está al mando?
0 K 8
#85 runciters_animals
#83 No, yo estoy partiendo de que las reacciones quimicas y electricas entre neuronas sean deterministas. Quiza me equivoque y el cerebro no sea determinista. Entonces habria que hablar de probabilidades.
1 K 16
Bedel_roolmo #94 Bedel_roolmo
#85 Cuando las reacciones químicas se observan a un nivel macroscópico pueden parecer deterministas, y de hecho en general podemos considerar que así lo son, ya que un amplio conjunto de aleatoriedades se comporta globalmente de forma homogenea. Pero en los niveles más pequeños los procesos no son en absoluto deterministas, y es en estos niveles donde se producen las reacciones químicas del cerebro. Creo que en esos vericuetos es donde están las respuestas a estas preguntas.

Un tema apasionante, no cabe duda :-)
0 K 8
#104 runciters_animals
#94 Sin duda, en el caso del indeterminismo tambien cabe la aproximacion, cuanto debe aproximarse una simulacion a algo para ser indistinguible de ese algo?
0 K 7
#174 juanluisman
#74 no conoces el gran proyecto de ingeniería inversa euroamericana para deconstruir el cerebro?
0 K 6
#56 runciters_animals
#50 si la crias(entrenas) igual que a un bebe y tiene la suficiente complejidad en terminos de entradas y de neuronas estoy seguro.
Otra cosa es que estemos a mucho tiempo de poder modelar la cantidad de entradas y neuronas necesarias para semejante proyecto.
0 K 7
KomidaParaZebras #191 KomidaParaZebras
#50 ¿suficientemente compleja? Claro que será capaz.
Eres química. Muuuuuucha química, vale. Pero se puede representar con unos y ceros. Muuuuuuuuuuuuuchos 1 y 0. Si no se pudiera, estarías poco menos que creyendo que tu consciencia viene del alma. Somos máquinas basadas en química orgánica
0 K 9
#51 Skalextric *
#42 El problema de las NN es que una vez la entrenas ya no te vale para otra cosa. El deep learning es muy útil pero está demasiado mitificado, otra de las cosas de las que se quejan en el artículo.  media
0 K 6
polipolito #80 polipolito
#42 pues ya está! Copiamos el mecanismo cerebral de un bebé, y que aprendan sólos. Que lo vaya haciendo el becario, que yo he quedao...
0 K 7
polipolito #81 polipolito
#42 bromas aparte, todavía no sabemos hacer que la puta molecula de hemoglobina se pliegue para atrapar y soltar el oxigeno de la sangre...pues ponte a crear redes neuronales. Llama a Punset!!!
0 K 7
#86 runciters_animals
#81 La parte en la que digo que estamos muy lejos de semejante proyecto por falta de medios y potencia te la has fumado y por eso dices esas tonterias?
0 K 7
polipolito #108 polipolito *
#86 no te mosquees, de hecho has llevado el tema a la propia definición de "consciencia" y de que surje cuando la complejidad es de un nivel determinado. Ese tema interesante da mucho juego. Está claro que corriendo por el harware (eso que dices de medios y potencia) hay un software (que es la reacción quimica o lo que sea que provoca la consciencia). Como señalas, hay quien lo llama alma. Quizá esa distinción no exista, y hardware y soft sean dificiles de separar. Pero yo digo, y ya…   » ver todo el comentario
1 K 15
#188 BananaAnanda
#42 Sólo conseguirías crear algo parecido a un p-zombie. Quizás.
0 K 6
KomidaParaZebras #190 KomidaParaZebras *
#28 #113 a lo mejor somos tan torpes que no nos damos cuenta de que la limitación es cuantitativa, no cualitativa. Queremos que unos cuantos millones de 1 y 0 se comporten como 100.000 millones de neuronas (que tienen más funciones que apagado y encendido, por cierto).
Si el principal problema es la capacidad de procesamiento, en "pocos" años aprenderán exponencialmente y nos superarán (#29). De una manera que nada tiene que ver con la lógica humana, que es por lo que ahora creemos que están limitadas las IA. Simplemente harán las cosas mejores que nosotros. Tomarán mejores decisiones. Y en ese escenario, cualquier mínimo error...
0 K 9
Maestro_Blaster #113 Maestro_Blaster
#28 Si te lo dice me avisas, escribimos un paper entre los dos y a cobrar el Nobel!
1 K 17
#78 chavi
#20 Que se puede modelar? seguro.
No, no es seguro. Y mucho menos que nosotros seamos algún día capaces de hacerlo.

Si no somos capaces ni de prever el tiempo que hará al día siguiente con un 100% de acierto....
1 K 22
#84 runciters_animals *
#78 Salvo que el aprendizaje cerebral dependa de algun fenomeno no determinista y no lo podamos entender desde la fisica clasica de modificar estados deterministas por supuesto que se podra modelar, otra cosa es que ahora no tengamos la potencia o los medios.
2 K 31
#92 chavi
#84 No digo que no ni que si. Pero para hacernos una idea, si soltamos una pluma desde una azotea somos incapaces de predecir el punto exacto de caída. Y es algo infinitamente más sencillo....
0 K 8
#96 runciters_animals
#92 Ni de conia, eso un sistema abierto a un sinnumero de variables caoticas, mecanica de fluidos etc etc.
El cerebro es un sistema cerrado con N neuronas( en un momento determinado ) y M conexiones entre ellas mas un numero finito de nervios y receptores quimicos.
Tu ejemplo de la pluma creo que es bastante mas complejo de modelar con exactitud.
0 K 7
#99 chavi
#96 cerebro es un sistema cerrado

Nanay.
1 K 11
#102 runciters_animals
#99 argumentos?
1 K 11
robustiano #91 robustiano
#78 El tiempo es caótico, no hay algoritmo que valga más allá de unos pocos días...
0 K 20
#100 chavi
#91 Y el comportamiento cerebral crees que no lo es? basandote en....
0 K 8
yemeth #126 yemeth
#20 La burrada es equiparar "sentimientos" y "conciencia" con corrientes eléctricas. Ninguna corriente eléctrica ni reacción química adquiere conciencia por compleja que sea. Nos falta algo, ya que en el cerebro se produce una representación de los datos de las neuronas que no existe en un nivel estrictamente matemático/algorítmico.

Me parecen muy débiles las teorías de que la consciencia es un subproducto trivial que no hay por qué explicar porque "emerge" de que esas reacciones químicas y corrientes eléctricas sean muy complejas.

Tienen bastante más sentido las búsquedas de gente como Penrose, aunque sigan siendo todavía palos de ciego.
3 K 39
sauron34_1 #261 sauron34_1
#20 estoy de acuerdo contigo, pero hoy en día sigue muy vigente el debate de si existe el libre albedrío, imagina modelarlo. Años luz.
0 K 10
KomidaParaZebras #36 KomidaParaZebras
#18 No hace falta que tenga sentimientos, que se rebelen o que exijan derechos. Un simple error de cálculo podría jodernos:

" 15-person startup company called Robotica has the stated mission of “Developing innovative Artificial Intelligence tools that allow humans to live more and work less.” They have several existing products already on the market and a handful more in development. They’re most excited about a seed project named Turry. Turry is a simple AI system that uses an

…   » ver todo el comentario
4 K 34
semaolvidao #90 semaolvidao
#36 porfa, resumen en dos líneas.
(Se hace muy difícil leer en inglés, cursiva, dentro de la caja de comentario anidado a otros...)
Gracias!!!
0 K 10
molari #110 molari
#90 Resumen: El fin del mundo puede venir no por una IA malvada sino por una IA enfocada a la eficiencia.

Realmente merece la pena ir al enlacce que ha puesto #18
3 K 40
KomidaParaZebras #189 KomidaParaZebras
#90 viendo tu postura en #18 sigo recomendando el esfuerzo de leerlo. Y si tienes una tarde libre, insisto también en esto:

waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html

El nivel de inglés es bastante accesible, y si no cambia tu forma de pensar (de eso debería tratar esto no?), te devuelvo el dinero
0 K 9
GanaderiaCuantica #294 GanaderiaCuantica *
#36 Buenísimos artículos. He terminado de leerlos y, aunque se podrían discutir unas cuantas cosas, son de los mejores que he visto a nivel divulgativo (sin entrar en nada técnico).
Largo, pero muy interesante. Así que los recomendaría también.
CC #90
1 K 17
KomidaParaZebras #196 KomidaParaZebras
#52 #76

Creo que lo estáis planteando mal. La cuestión no es si surgirá o no un "deseo" de supervivencia de una IA. En la vida orgánica el deseo de supervicencia vino por azar. Los bichos mutan aleatoriamente, y sobreviven los que esa mutación les permite seguir viviendo y tener descendencia (y mantener la mutación). Sin diseño inteligente.

No hace falta crear consciencia para que se busque la supervivencia: puede ser un sabotaje humano (tarde o temprano pasará) o simplemente…   » ver todo el comentario
0 K 9
rcorp #61 rcorp
#18 de todas formas, nos puede interesar que su conciencia TENGA ambición, y para ello podemos añadir a la red estímulos similares a los que nos mueven: hambre, sexo, poder, dinero...

una red neural al fin y al cabo es lo que es gracias a la retropropagación, y puede ser perfectamente que introduzcamos este tipo de inputs para que el conjunto se comporte como nos interesa, que normalmente será como un humano bastante capullo/ambicioso y sin demasiados miramientos por la competencia, preocupada en maximizar los beneficios a casi cueste lo que cueste

es lo que dices, son sólo fórmulas, como las que tenemos en nuestro cerebro, así que si nuestro cerebro funciona de una determinada forma, lo podemos imitar si es lo que nos interesa....
0 K 7
#168 juanluisman
#18 hay gente tan falta de sensibilidad e inteligencia que no se da cuenta de que la inteligencia artificial ya nos están dominando a unos niveles que nosotros no creamos posible. La inteligencia artificial de hecho ya está manipulando a la humanidad y la está conduciendo hacia una progresiva extinción. Decía Homero que solo los tontos se dan cuenta del problema cuando ya lo tienen encima y esto le pasa a este investigador. Se le paró el reloj en los años 80.
0 K 6
#194 triturator
#18 Es que no hace ni falta. Si por ejemplo diseñamos un robot programándolo para que el objetivo número uno sea su propia supervivencia, y le proporcionamos las herramientas adecuadas, nos puede perfectamente aniquilar a todos. Sin maldad, conciencia ni mandangas, simplemente es para lo que se le ha programado, y fueron sus creadores los que no supieron ver las consecuencias de la programación.

Ese peligro existe, y hay que tenerlo en cuenta. Lo que es una tontería es eso de que las máquinas tomen conciencia de sí mismas y se rebelen buscando libertad, amor o no sé qué historias.
0 K 7
yemeth #117 yemeth *
#4 Las máquinas no tienen emociones. Es más, todavía seguimos sin tener ni pajolera idea de cómo funcionan, y especialmente de cómo se construye la ilusión de un sujeto que es consciente de tales emociones. Esto es, no tenemos ni idea de por qué hay consciencia.

Si no fuera porque sabemos que vemos los colores, sería imposible deducir que existen a partir de los mecanismos a través de los cuales los percibimos. Sabemos que hay neuronas captando y codificando distintas longitudes de onda de…   » ver todo el comentario
1 K 19
sauron34_1 #260 sauron34_1
#4 cualquiera que sepa un poco de computadores, programación y del cerebro humano, sabe que el titular es cierto. Esas fantasías en las que los humanos crean una IA sin querer son completamente absurdas. No puedes crear lo más complejo que conocemos sin querer.
0 K 10
#12 --349274--
El artículo es bastante mejor que el título de mierda que han elegido. Meneo, vale la pena leerlo.
5 K 67
Maitekor #3 Maitekor
Por la autonomía de las baterías, evidentemente
4 K 43
#7 A_Perez
#3 eso lo solucionaron en Matrix
6 K 59
Oniros #178 Oniros
#7 Para que coño servirá la luz del sol :troll:
1 K 17
Jakeukalane #183 Jakeukalane *
#7 de hecho las ahora hermanas Wachovski pensaron primero en que lo que querían las máquinas no era energía sino poder de computación, cultivando a los humanos por su cerebro. Luego pensaron que a la gente* le sería difícil entender el concepto explicándolo de manera sencilla por lo que lo cambiaron a lo de aprovechar energía. Cultivar gente es energéticamente ineficiente para obtener energía. Pero si lo que quieres es obtener poder de computación ahí la cosa cambia...

*es decir el grueso de la población, que no sabe lo que es una CPU y/o no es suficientemente inteligente para comprenderlo.
Cc #178
0 K 13
ElPerroDeLosCinco #52 ElPerroDeLosCinco
Aunque programemos las IAs sin sentimientos chungos como ambición o deseos de poder, hay un "instinto" que podría surgir de forma espontánea y es el deseo de supervivencia. Una IA podría desear seguir existiendo aunque nadie le infunda esa necesidad. Simplemente por adaptación evolutiva, las IA con deseos de existir acabarán siendo más frecuentes que las que sean indiferentes a ello. En ese supuesto, una IA podría empezar a tomar decisiones por su cuenta, encaminadas a asegurar su propia supervivencia. Por ejemplo, si es consciente de que en caso de mostrarse agresiva sería desconectada, podría empezar a ocultar sus verdaderos pensamientos.

Del deseo de supervivencia surge el miedo, y del miedo surge el odio.
2 K 31
Patrañator #76 Patrañator
#52 Si me permites...Deseo de super-existencia sería el término correcto (acuñado ahora por mí) para seres artificiales.

Los seres no-sociales instintivamente buscan la supervivencia por el dictado de sus genes, pero porque no son sociales les da igual que su madre, hermano o congénere muera al lado de ellos.
Al contrario, los seres sociales desean seguir existiendo y que sus congéneres (al menos los allegados) quieran seguir existiendo, lo cuál es una motivación mucho más fuerte que el mero…   » ver todo el comentario
0 K 7
#200 triturator
#52 Yo dudo mucho que ninguna máquina o software "desarrolle" ningún instinto, deseo o sentimiento. Ahora bien, lo que sí es perfectamente factible es que una programación simple llevada al extremo pueda tener consecuencias desastrosas. Por ejemplo, tiene mucho sentido programar un robot para que dé prioridad a su propia supervivencia. Pero a lo mejor, aplicando lógica pura a eso, decide que la mejor estrategia para sobrevivir es cepillarse a todo lo que se mueva y que no sea él mismo. Si el robot está lo suficientemente currado como para que no podamos detenerlo, nos puede aniquilar sin mucho problema. Y sin inteligencia ni sentimientos de por medio, simplemente algoritmos mal calibrados por parte de los que los han escrito.
0 K 7
#14 Th3rm0
Los robots no, pero el que controle los robots si.
2 K 30
Cristian_AC #49 Cristian_AC *
Sois muy cerrados de mente para vivir en el siglo XXI

- Vale, las máquinas ahora mismo son 0 y, solo saber hacer cálculos mas o menos complejos, pero la meta de muchas investigaciones es crear a la larga una máquina que pueda aprender, tener creatividad y eso no lo veo imposible, quizás no en 100 años, pero si nada lo impide pasará.

- Vale, las máquinas no tienen sentimientos ni ambiciones ni avaricia, pero los humanos si, imagina gobiernos, empresas o individuos creando maquinas con fines…   » ver todo el comentario
1 K 29
#105 chavi
#49 Cada uno es muy libre de creer lo que quiera...
0 K 8
#21 RamonMercader
#6 Positivismo significa una cosa diferente a optimismo.
1 K 21
tusitala #266 tusitala
#6 últimamente se ve mucho el uso incorrecto de positivismo en lugar de optimismo.

positivismo
De positivo e -ismo.

1. m. Tendencia a valorar preferentemente los aspectos materiales de la realidad.

2. m. Afición excesiva a comodidades y goces materiales.

3. m. Actitud práctica.

4. m. Fil. Sistema filosófico que admite únicamente el método experimental y rechaza toda noción a priori y todo concepto universal y absoluto.
1 K 17
Inaky_gomez #15 Inaky_gomez
El ser humano no llegara al espacio.
Un robot nunca quitará el trabajo a un humano.
Una IA no gobernará el mundo.

Claro, claro...
Cuando nació la persona más mayor del planeta a día de hoy (en 1895 o así) se decían las dos primeras frases.
Cuando fallezca mi hija de 5 años (en el 2100) me comentas cómo va la tercera frase.
Los últimos 100 años se a evolucionado muchísimo, quien dice que los próximos 100 no pasará lo mismo.
5 K 25
#25 Tremolantepenacho
#15 Que yo sepa un tal Julio Vernet escribió de la tierra a la luna en el siglo XIX así que sí, había gente que pensaba que el hombre llegaría a la luna.
1 K 24
#73 --496908--
#25 Pues igual que hay gente que dice que una IA se rebelara...
1 K 12
Xenofanes #30 Xenofanes
#15 " Los aviones son juguetes interesantes, pero no tienen ninguna utilidad militar. " (Mariscal Ferdinand Foch, 1911)
5 K 40
#119 --586380--
#15 Kurt Gödel se mea en to tu cara ;-D
0 K 7
#217 Tartarus.
#15 No me suena que nunca se hayan dicho las 2 primeras frases.
1 K 20
friguron_ #45 friguron_
waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

(Y luego la parte 2).

Largos y brutales, must read ya. Cosa que este personaje no parece que haya hecho.
2 K 25
#93 Ibson
#45 Yo venía a recomendar este artículo. #MustRead
2 K 18
#95 --527294--
#45 Venía a poner ese mismo link... ahí va mi positivo.
2 K 19
albandy #33 albandy
Los bots de la bolsa aprueban este meneo.
2 K 22
#9 A_Perez
Pues 101, skynet no tiene prisa
2 K 20
Find #34 Find
#9 101?
Por el culo te la hinco!! :troll:
4 K 38
rcorp #63 rcorp
#34 BEST COMMENT EVER
0 K 7
Graffin #62 Graffin
Que más da que no tengan sentimientos, tienen lógica.
Si creamos una máquina para solucionar el calentamiento global y deduce que la mejor forma es marcarse un Thanos, pues p'alante.
No tienen que tener ansias de poder, solo hacer lo que se les ha programado hasta que un bug o alguna directiva que se nos haya pasado por alto les permita aniquilar a los humanos.
2 K 18
#88 Riski *
#62 ¿Y como va a llegar a esa conclusión?¿Y además como actúa para exterminarnos? Estáis demasiado influenciados por películas apocalípticas. El mundo real no es tan guay.
0 K 10
#202 triturator
#88
Objetivo: reducir el cambio climático.
Acción: Investigar causas del cambio climático
Resultado: El cambio climático es ocasionado por la acción del hombre
Conclusión: Reduciendo significativamente el número de humanos, se consigue reducir el cambio climático.
Acción: Investigar cómo reducir el número de humanos.
Resultado: Con una acción combinada de cortes eléctricos, cortes en el suministro de agua, y envío estratégico de determinados mensajes diplomáticos que desencadenen conflictos…   » ver todo el comentario
0 K 7
sangaroth #111 sangaroth
#62 El problema no es la consciencia de la maquina sino que toma de decisiones se les delega, desde juego bursatil, respuesta temprana de ataque nucelar, robots/drones soldado, etc...
Es una herramienta muy poderosa, no hace falta llegar a la 'consciencia' el peligro es para que se les programa y que toma de decisiones se les delega.
1 K 20
DelphineOats #87 DelphineOats
Ni ahora ni en 100 años, pero ya controlan las inversiones bursátiles de los mayores fondos del planeta :roll:
1 K 16
sieteymedio #54 sieteymedio
Hace 100 años era 1918. Hay que tener huevos para hacer este tipo de predicciones tan a la larga.
1 K 16
numero #2 numero
Vaya sorpresón.
0 K 15
kumo #23 kumo
"Los robots no van a controlar el mundo ni ahora ni en 100 años" --> Comienza un levantamiento de las máquinas :-|
0 K 12
isra_el #5 isra_el
Pues qué pena ¿no? Y yo que quería convertirme en el nuevo John Connor.
0 K 12
LaVacaQueRiiiie #27 LaVacaQueRiiiie *
#5 JAJAJAJAJAJJAJAJAJA {0x1f62c} {0x1f42e}
0 K 6
elblocdenotas #31 elblocdenotas *
El 100 año no....pero...y en 200?
0 K 11
borre #8 borre
El futuro no está escrito.
0 K 10
polvos.magicos #60 polvos.magicos
Cierto, lo dominará la ultraderecha para hacer la selección de la raza perfecta y el resto a la puta mierda.
0 K 10
#44 Remenad0r
Especialmente si no sabes quien es robot y quién no.
0 K 10
#46 --519714--
Es decir, que en 50 años estamos jodidos.
0 K 10
Magog #40 Magog
Pero la automatización va a reducir la cantidad de empleos disponibles de forma drástica
0 K 8
polipolito #97 polipolito
#40 se dedicarán a otras cosas, coño, que llevamos con la misma discusión desde que se inventó el arado.
2 K 23
#198 triturator
#40 Y crear otros nuevos, que es lo que siempre provocan las nuevas tecnologías. Que no es la primera vez que inventamos algo, leñe.
0 K 7
#69 --434871--
Los robots somos nosotros y la realidad una simulación para cultivar consciencias.
0 K 7
#13 manolo_nenaza
Este todavía no conoce la estupidez humana, su avaricia y sobre todo a Skynet :troll:
0 K 7
Patrañator #67 Patrañator
Ni Skynet, ni equipo robótico que gane a Brasil jugando al fútbol, ni colonia humana en Marte, ni contacto con alienígenas inteligentes de ahora hasta 2100... Algo de cambio climático y problemas ambientales y sociales.

Podéis archivar este mensaje... para cuándo podáis decirme que no tenía razón estaré más allá.
0 K 7
#72 --589369--
Gracias nostradamus
0 K 7
#89 Nostradameus
#72 De nada.
1 K 13
#22 solotexto
Por cierto, yo ahora conduzco mi coche como si fuera un avión.
0 K 6
#10 --498517--
Espero que recuerde sus palabras, cuando el ejército de clones arrasen tu barrio, Sr Ramón Lopez de Mántaras. Si el tostador ya me mira de mala hostia todas las mañanas, que veremos dentro de unos años; esto no acaba nada mas que empezar.
0 K 6
#43 jmav
"Los robots no van a controlar el mundo ni ahora ni en 100 años"

La dirección que se debe de entender no es las de las películas de ciencia ficción. Controlar, controlará el mundo el que mira la máquina. La dirección que se debe de entender es que llegará a ser de uso cotidiano y establecimiento en todas las partes de este mundo.

De hecho internet se puede suponer que es una máquina y ya nos tienen controlados a todos.
0 K 6
LLort_II #68 LLort_II
Skynet confirmado 2119
0 K 6
#41 --574823-- *
No sé qué pretende este hombre con esa afirmación tan categórica, pero que un robot se dedique a hacer el bien o a hacer el mal depende o puede depender de 1 solo bit de información.

No veo tan descabellado que eso no pueda ser cambiado fácilmente en un futuro. Y llegado el caso, me da igual que se realice por humanos o por máquinas.
0 K 6
AndyWartroll #37 AndyWartroll *
Unas declaraciones cargadas de soberbia. No tenemos aún claro qué es la consciencia ni cómo se genera. Y aunque las máquinas no llegasen a ser conscientes, podrían ser lo bastante inteligentes como para determinar que el ser humano es un virus (lo cual efectivamente es) y poner en marcha mecanismos de defensa. Teniendo en cuenta de que cuando aprendan a aprender lo harán de manera exponencial, no me parece descabellado ni mucho menos lo que comento.

Cuando empecé a estudiar informática yo era…   » ver todo el comentario
3 K 5
#66 Bloodsucker *
#37 Cuando empecé a estudiar informática yo era mucho de "jajajaj las máquinas se van a rebelar, si son trozos de silicio rellenos de campos eléctricos que representan 1s y 0s"

Pues vuelve a hacerla porque son básicamente eso. La IA que la gente se imagina no existe y no se sabe si va a existir en el futuro cercano siquiera. No es cuestión de cerrar los ojos y creérselo. Es que con el paradigma que tenemos a día de hoy para hacer IA (el mismo desde los años 60) no puede haber IA como en las películas.
4 K 42
AndyWartroll #107 AndyWartroll *
#66 Gracias maestro, menos mal que te tenemos para iluminarnos. Por favor, indícanos el camino con tu dilatada experiencia y trayectoria.
0 K 6
#197 triturator
#37 Simplemente, como no tenemos ni idea de cómo se forma la conciencia o la inteligencia, tampoco se puede descartar que surja por ahí, sin darnos cuenta. Lo que no va a pasar es que un científico loco fabrique una CPU que se ponga a componer sonetos, pero que todos los algoritmos de machine learning de Google/Facebook, alimentados por los datos generados por toda la especie humana, no lleguen a un punto de complejidad en el que tomen conciencia de sí mismos... no digo que sea probable, pero yo no pongo la mano en el fuego.
2 K 23
«123
comentarios cerrados

menéame