EDICIóN GENERAL
381 meneos
4784 clics
"En 30 o 40 años la inteligencia artificial  producirá un peligro existencial para la especie"

"En 30 o 40 años la inteligencia artificial producirá un peligro existencial para la especie"

El investigador de la conciencia más conocido del mundo asegura que algún día las máquinas podrán ser conscientes de sí mismas. La conciencia, en su opinión, es una propiedad intrínseca de la materia, al igual que la masa o energía. Todo lo que se necesita para sentir es organizar la materia de la forma correcta, como ocurre en el cerebro de los mamíferos.

| etiquetas: inteligencia artificial , conciencia , informática , ordenadores
Comentarios destacados:                    
#3 Uno piensa que determinadas tonterías dejan de oírse cuando se obsoletizan... qué va.

A estas alturas ya nadie duda que la conciencia no es una propiedad emergente de nada, y desde luego ningún sistema autocognoscitivo es algoritmizable. El propio Minsky que soltaba chorradas de este calibre allá en los años 60 hace mucho tiempo que se la ha envainado. Por cierto que todo lo que dijo en su día Penrose sobre la autoconsciencia como propiedad cuántica no sólo no se ha falsado, sino que parece que va teniendo razón. De ser esto así, un sistema electrónico (industrial) jamás podría ser consciente. Como si intentas cruzar la barrera del sonido con un aerostato.

La IA puede representar un peligro para la especie como lo representa la tecnología en general, desde las armas nucleares hasta la ingeniería genética, mayormente porque seguimos siendo seres biológicos que debemos adaptarnos al medio natural para sobrevivir, y nuestros prejuicios culturales hacen que dilapidemos…...
Yo anoche soñé que los ordenadores no mejoraban su nivel de inteligencia, que eran las personas que iban descendiendo hasta quedar por debajo.
#1 me gusta tu visión, de hecho creo que ya está sucediendo
#5 Dependemos de las máquinas inteligentes y no vamos a renunciar a las que van a venir después mucho más potentes. El riesgo es la inteligencia artificial donde llegará un momento que su poder deje en ridículo a la mente humana.
#8 Yo el riesgo no lo veo tanto en el nivel de inteligencia artificial que alcancemos, como en el abandono de la inteligencia humana tanto intelectual, como emocional. El peligro real que yo veo es la falta de cultura universal, programas en escuelas y universidades para potenciar la inteligencia de esas personas superdotadas que deberían ser la punta de lanza de una sociedad evolucionada y avanzada. Lo que tenemos son élites no tanto inteligentes como si poderosas, dueñas de mentes y maquinas…   » ver todo el comentario
#1 Y no creas que se debe a causas naturales. Que el sistema educativo se haya reformado casi en cada legislatura, no es algo casual.

www.elmundo.es/elmundo/2012/09/21/espana/1348232495.html
#1 Tarde, mi calculadora Casio ya supera de largo a los votantes del PP... Y eso que le faltan par de teclas! :-P
#1 ola ke ase
Uno piensa que determinadas tonterías dejan de oírse cuando se obsoletizan... qué va.

A estas alturas ya nadie duda que la conciencia no es una propiedad emergente de nada, y desde luego ningún sistema autocognoscitivo es algoritmizable. El propio Minsky que soltaba chorradas de este calibre allá en los años 60 hace mucho tiempo que se la ha envainado. Por cierto que todo lo que dijo en su día Penrose sobre la autoconsciencia como propiedad cuántica no sólo no se ha falsado, sino que parece…   » ver todo el comentario
#3
'*******
no se ha falsado, sino que parece que va teniendo razón. De ser esto así, un sistema electrónico (industrial) jamás podría ser consciente. Como si intentas cruzar la barrera del sonido con un aerostato.
'********

Computación cuántica que es la próxima meta. Pero no estoy de acuerdo, opino que no hace falta llegar a esto, simplemente que no se trata de un algoritmo concreto sino de la interacción de muchos de una forma determinada en una red neuronal: neruonas espejo y eso.

Pero…   » ver todo el comentario
Me parece que no conoces las hipótesis de Penrose.#9
#17 ¿mandeeee?

¿O tal vez que he redactado mal? ejem
#3 ni puta idea de lo que hablas. La inteligencia artificial de la que hablan no tiene nada que ver con la humana. Tienes que leer mucho todavía
#10
Me parece que habla de la capacidad de una relación entre la consciencia y la capacidad de resolver problemas no polinómicos (para los que no existe receta y se ha de ir probando soluciones hasta encontrar con la buena una tras otra) con los polinómicos (para los que es posible escribir una receta o algoritmo específico)

Está diciendo que la consciencia humana se asienta en los dos tipos de problemas y depende de estos pero siendo el cerebro capaz de afrontar los dos con la misma eficacia…   » ver todo el comentario
#11 Es una pena que tu incapacidad de utilizar la puntuación correctamente, haga imposible entender lo que dices.
#53
'****************
#53 #11 Es una pena que tu incapacidad de utilizar la puntuación correctamente, haga imposible entender lo que dices.
'******************

Me alegro. Si no hay interés tampoco se merece el esfuerzo
#53 La verdad es que tiene mérito decir algo así poniendo una coma entre el sujeto y el verbo.

#57
#10 Me da que leo mucho más que tú, y no es por irme de sobrado, pero el que descalificas eres tú. Ya veremos a quién le da la razón el tiempo. Lo que no arregla ninguna lectura es la ingenuidad, y eso es directamente proporional a la fe inquebrantable en los prejucios. Te recomiendo el aforismo de Gould.
#18 y yo te recomiendo que te leas un manual básico de IA antes de gilipolleces pseudofilosoficas. Es curioso que la mayoría de los que hablan de la IA fuerte en los periódicos no tengan ni puta idea de lo que es la IA, NI ENTIENDAN, por supuesto, lo que es la AGI.

A estas alturas de la historia identificar IA Cn gilipolleces utópicas es cansino, ingenuo, infantil y dañino para la IA, la real, la que está en tu iPod o en tu lavadora

Estudiar la consciencia no es el objetivo de la IA ni de la singularidad, en todo caso los mecanismos reflexivos. Es decir, nada que ver con las divagaciones de Penrose y otros
#23 Alt-x doctor en Emacs, y de ahí, a aprender LISP .

Son lenguajes no procedurales y digamos, se modifican al vuelo y a sí mismos.
#3


"A estas alturas ya nadie duda que la conciencia no es una propiedad emergente de nada, "


FALSO. Algunas de las personas más prestigiosas del mundo actual sí opinan que habrá máquinas que superen la inteligencia humana.


"y desde luego ningún sistema autocognoscitivo es algoritmizable. "

Afirmación que no está demostrado que sea cierta.
Es más, demostraré que es FALSA.

Imagino que lo que querías decir es que no se puede llegar a Inteligencia…   » ver todo el comentario
#3 Una de cal y otra de arena. Del mismo modo que expresé ideas contrarias a lo que dices, también voy a expresar algunas cercanas a lo que dices.

Estoy de acuerdo en que sí hay bastante venta de humo relacionada con la Inteligencia Artificial. Digo "venta de humo" en el sentido de generar expectativas irreales. Ahora bien, ¿significa esto que siempre que alguien hable de IA o de IA Fuerte sea un vendedor de humo? ¡NO!

Estoy de acuerdo en que asegurar la singularidad en

…   » ver todo el comentario
#39
'*****************
Por ejemplo, podemos tener máquinas con la misma capacidad que una mente humana pero que consuman cantidades de energía muchísimo mayores... ¿os suena de Matrix?
'******************

Una patada a la termodinámica con una máquina de movimiento perpetuo con energía sobrante. Lo cual es absurdo

A ver. El cerebro es bastante eficiente. Para su capacidad de computo con la tecnología mejor que tenemos se necesitaría una cantidad enorme de energía y funciona con parte de la…   » ver todo el comentario
#39
'*************
En mi opinión, el problema no es la capacidad de cómputo, como sugiere #34 El argumento
'*************

Eso era solo una parte, es solo una parte y no para señalar la capacidad en sí sino que los procesos detrás de la inteligencia natural son diferentes y de una naturaleza diferente de los que se creyó primeramente con la inteligencia artificial. NO es solo que tengamos mucha información disponible sino que el razonamiento simbólico es el resultado final de infinidad de…   » ver todo el comentario
#44

"sino que los procesos detrás de la inteligencia natural son diferentes y de una naturaleza diferente de los que se creyó primeramente con la inteligencia artificial"


¿Te refieres a computación cuántica?
¿O te refieres a que no es lo mismo un ordenador tradicional que ejecuta instrucciones una detrás de otra que una red neuronal natural de millones de neuronas funcionando en paralelo?

"NO es solo que tengamos mucha información disponible sino que el

…   » ver todo el comentario
'***************
1
hace 31 min suzudo suzudo
#45 #44

"sino que los procesos detrás de la inteligencia natural son diferentes y de una naturaleza diferente de los que se creyó primeramente con la inteligencia artificial"


¿Te refieres a computación cuántica?
¿O te refieres a que no es lo mismo un ordenador tradicional que ejecuta instrucciones una detrás de otra que una red neuronal natural de millones de neuronas funcionando en paralelo?
'***************

A que es diferente. Por…   » ver todo el comentario
#46 Madre mía, qué lío estás haciendo.

Por ejemplo, hablaste de símbolos, te planteo si te refieres a chatbots, aclarándote que la implementación de la IA sería a más "bajo nivel" y me acusas de confundir yo el bajo nivel con el alto.

Bueno, te respondo a cosas concretas porque a otras sería demasiado largo y va a parecer un diálogo de besugos.


"se necesitaba otro como redes neuronales físicamente implementadas y no meramente emuladas"


Esto no es verdad.…   » ver todo el comentario
#47
'*********
#47 #46 Madre mía, qué lío estás haciendo.

Por ejemplo, hablaste de símbolos, te planteo si te refieres a chatbots, aclarándote que la implementación de la IA sería a más "bajo nivel" y me acusas de confundir yo el bajo nivel con el alto.

Bueno, te respondo a cosas concretas porque a otras sería demasiado largo y va a parecer un diálogo de besugos.
'*************

¿Yo? El lío te lo has hecho tu confundiendo el algoritmo escrito en un lenguaje de alto nivel con el…   » ver todo el comentario
#49

"Ahora pon varias decenas de miles de millones en paralelo y a ver como lo emulas con tu basura de ordenador secuencial. No puedes competir al mismo nivel"


Supongamos 100 000 000 de neuronas... Cada neurona en media tiene 1000 conexiones (1000 dendritas) lo que supone una potencia necesaria de 100 000 000 000 de operaciones por milisegundo o 100 * 10^12 OPS

Supongamos el año 2054 (dentro de 40 años), el procesador habitual en esa fecha puede tener…   » ver todo el comentario
#50 #49 Perdón, cometí un error de un orden de magnitud de 1000 pero mis cálculos eran tan holgados que me sobra todavía un orden de magnitud de 1000 000 000.

Rehago las cifras:



"Ahora pon varias decenas de miles de millones en paralelo y a ver como lo emulas con tu basura de ordenador secuencial. No puedes competir al mismo nivel"



Supongamos 100 000 000 000 neuronas = 10^11 ... Cada neurona en media tiene 1000 conexiones (1000 dendritas) lo que supone…   » ver todo el comentario
#52 La ley moore está llegando al límite y ya no se puede seguir.

Tus comentarios parten todos de peticiones de principio que simplemente la realidad no casa con ellas o no acaba de cuadrar.

'***************
Supongamos también que en dicho año 2054 dicho ordenador pudiese quizá hacer todo eso con un consumo de energía mínimo: si el cerebro puede hacerlo ¿por qué va a ser físicamente imposible una máquina que lo consiga
'*************

¿ves?

¿quien ha dicho que es imposible físicamente que…   » ver todo el comentario
#60

Los problemas de tu solución son:

* No es de propósito general. Y no me refiero a que una máquina que resulte tener IA Fuerte según el diseño que propones no podría hacer cosas variadas, desde planchar un huevo a freir una camisa :-) Me refiero a que sólo vale para procesamiento paralelo y según ese modelo de neuronas independientes pero no vale para cosas como simular una realidad virtual tipo Second Life u otras utilidades que puedan tener los ordenadores de dentro de 30-40…   » ver todo el comentario
#52
'***************
Nota: cada ordenador no es realmente secuencial porque los 128 millones de núcleos funcionan en paralelo pero este matiz no afecta a mi argumento ¿o sí afecta?
'***************

cuando tengas vareias decenas de miles de millones. Pero ¿no lo es?

¿lo es tu algoritmo? ¿lo es tu S.O. al repartir tareas? ¿no se pierde potencia en la emulación?

¿Tu has probado de emular otro sistema operativo desde un GNU/linux? como windows XP

¿ves la pérdida de velocidad y como tu máquina se convierte en una muy inferior en prestaciones?

Contra. Se imprime en cada núcleo además un fragmento de red neuronal físicamente y listos. Tu potencia para "emular" se ha disparado porque no emula en ese momento
#58 por cierto donde hay decenas de núcleos es en las tarjetas gráficas en las GPU y por eso se utilizan para ese tipo de cosas

En los procesadores caseros lo máximo que se están imprimiendo son 8 núcleos que es lo máximo que maneja windows sin parches pero se puede parchear. El GNU/Linux puede con más de 300 núcleos. Y luego está el kernel Hurd que no acaba de despegar y eso que tiene décadas detrás para un multiproceso... pero se parchea el GNU/Linux en supercomputación y ya ha ido tirando...
#52


recuerda además que si la computación cuántica fuera necesaria tendrías un problema grave con tu solución. Ya que manejas la emulación por algoritmo de cualquier cosa con un ordenador secuencial. POr más que tenga muchos núcleos lo planteas como un algoritmo que se ejecuta secuencialmente en él y estos lo que hacen es uno más potente.

Si fuera necesaria la computación cuántica lo que tienes es que te encontrarás con problelas no polinómicos para los cuales el algoritmo será siempre el…   » ver todo el comentario
#3 Si te centras en la dificultad que tenemos por crear máquinas conscientes, es evidente que parecen dificilmente conseguibles, una pregunta que me hago es si no podemos conseguirlas por la imposibilidad intrinseca de crear una maquina consciente o más bien por nuestras propias limitaciones. Cuanto más conozco al ser humano más me decanto por la segunda posibilidad, por estas razones que se me ocurren ahora: a) por la evolución patatera que nos ha traído hasta aquí con mil fallos de diseño…   » ver todo el comentario
#55

"Me parece que aquí hay mucho de ombliguismo o chauvinismo de especie. :-)"

Estoy de acuerdo.

Eso que dices lo suelo expresar de esta forma:

1. El ser humano miró a su alrededor, se miró a sí mismo y mostró orgulloso y prepotente, se llamó a sí mismo "la criatura dorada", el mejor ser de la existencia... Y es su arrogancia el ser humano afirmó con seguridad ser el Centro del Universo (en concreto el griego Ptolomeo). Todos vieron que esa…   » ver todo el comentario
Lo que dice este hombre es puro humo.
Coincido totalmente con #3.

Si no somos capaces de replicar el olfato de un perro, como leches vamos a llegar a eso.

"Se estima que los perros tienen aproximadamente 50 veces más receptores olfativos en la nariz, en el humano hay aproximadamente 5 millones de células olfativas frente a 200 – 300 millones presentes en la nariz del perro".

No se pueden hacer predicciones de este tipo a 30-40 años, así puedo vivir del cuento.
#3 Creo que no has superado a Minsky, estas mas o menos al nivel de razonamiento del secador de pelo de mi mujer, contigo las maquinas lo tienen demasiado facil.
#3 Tenemos un fenómeno que no entendemos bien: la consciencia humana. Podemos atribuir este mal conocimiento a dos causas:
A) Nueva física (cuántica o superior) que desconocemos.
B) Limitaciones de la propia mente que usamos para auto-conocernos.

Yo me quedo con lo que decía Ockham y prefiero la opción más sencilla: la B ¿No es mucha casualidad que haya un fenómeno cuántico macroscópico que podemos percibir cada día y precisamente esté en nuestras cabezas?
#3 "A estas alturas ya nadie duda que la conciencia no es una propiedad emergente de nada"
¿Nadie? Cualquier investigador de neurociencia te dirá más bien que la consciencia es una propiedad emergente (lo cual es bastante obvio porque la conciencia no está en ninguna neurona, sino en el conjunto). Además Minsky es ya bastante rancio y de hecho una parte del desarrollo actual de la inteligencia artifical se ha producido criticando su extremismo (por ejemplo Jeff Hawkings, que ha inspirado a otros como Andrew Ng). Y decir que se va dando la razón a Penrose es ignorar todas las críticas que ha recibido (en.wikipedia.org/wiki/Orchestrated_objective_reduction).

Te llevas un negativo por sesgar tanto la información :-(
#96 #3
¡Muy buen comentario!. Yo soy otro para los que Minsky no es santo de mi devoción ... Por ejemplo, debido a cierta influencia suya el desarrollo de muchos modelos conexionistas se paralizó durante muchos años. Por otro lado, su asesoría para la película de Kubrick 2001 tampoco me gusta.
Sin embargo, el libro de Jeff Hawkings "On Inteligence" ("Sobre la inteligencia") me parece una gran obra, un buen camino hacia la definición del "software" del que…   » ver todo el comentario
#3 no "nuestros prejuicios culturales hacen que dilapidemos la energía", nuestra biología hace que vayamos a dilapidar toda la Energía. Somos consumidores de energía, aunque lo hagamos de manera "sostenible", no pararemos hasta acabar con toda.
#3 Mi opinión es que nuestro propio cerebro falsea a Penrose. Él intenta demostrar que no podemos construir un cerebro porque tienes una características exclusivas que no podemos reproducir si lo hacemos de la manera A. Bueno, pues hagámoslo de la manera B.

Para que Penrose tenga razón es necesario obligarnos a un número concreto de opciones a la hora de construir esa posible alternativa al cerebro. Esa obligación es artificiosa.

Supongamos que lo que da las características exclusivas…   » ver todo el comentario
#40

Muy bueno el libro "GEB: EGB"
(aunque es un tocho, sí, pero de los tochos que se leen con gusto)

Ah, y me gustó tu descripción de la autoConciencia... yo también creo que es algo fácil de explicar, no algo místico inalcalzable, que no pueda ser algoritmizable (como dice #3 ). Y si es fácil de explicar, también podrá conseguirse de forma artificial.
#3 No hay ningún proceso que no pueda hacer una simple máquina de Turing con el tiempo o velocidad suficiente.
#3
"Las máquinas son herramientas y nunca dejan de obedecer a sus dueños"

También es posible que "la rebelión de las máquinas" ocurra en el futuro por un error de programación, lo que se conoce como "bug", una posibilidad no prevista, que quien lo programó pensó que se comportaría de otra manera... que me parece diferente al caso del problema de seguridad que plantea #101


#51 "no estaría en competición por los recursos, no tendría emociones

…   » ver todo el comentario
La IA ya existe, a una escala impresionante, se llama evolución. Funciona de acuerdo a unas reglas no escritas ni memorizadas, y ni siquiera sabemos si son propiedades emergentes de la naturaleza o qué coño son.

Es muy peligroso, sobre todo en Ciencia, no poder identificar tus propios sueños y tus propios prejuicios. Cuando llegó el ferrocarril, por decir algo, el debate se abrió en toda su magnitud, fue algo que hoy resulta familiar sobre todo si nos molestamos en aprender algo de la…   » ver todo el comentario
#20 "Mucho más fuertes, probablemente más inteligentes (de ahí su mayor capacidad cerebral), como Ferraris que eran para estar vivos necesitaban 3 veces la ingesta calórica de un humano promedio"
Me lo anoto para la próxima vez que mi novia intente controlar lo que como.
Sobre las ideas de Penrose, por si interesan (extracto):

Hace ya bastantes años Stuart Hameroff y Sir Roger Penrose propusieron una idea según la cual el origen de nuestra propia consciencia estaba en los microtúbulos neuronales, unas estructuras de las células que están presentes también en las neuronas. Estos microtúbulos están compuestos por proteínas y en general proporcionan cohesión estructural a las células.

De este modo, la consciencia derivaría de la actividad cuántica que se daría…   » ver todo el comentario
#21 Je, precisamente hoy estaba pensando en lo de la mente cuántica y en Penrose, y en el lenguaje de las abejas y en cómo había una matemática que decía que también dicho lenguaje se explicaba con las propiedades cuánticas... a ver si mañana me leo con más atención este hilo...
#21 Y si los microtúbulos neuronales pudieran ser afectados por los neutrinos procedentes de diversas estrellas tendríamos una explicación científica a la relación entre el signo zodiacal y la personalidad.

Y lo digo casi en serio.
#74 En ese caso las predicciones deberían ir más allá del efecto Forer ¿no? :-P
#21 "Ahora han escrito otro artículo en el que sostienen que descubrimientos recientes, sobre la vibraciones cuánticas de los microtúbulos, apoyan su idea original. Además, sostienen que los ritmos electroencefalográficos (REE) serían generados también a nivel profundo por los microtúbulos."

¿Podrías pasarme o enlazar el artículo por favor?. Que lo estuve buscando pero no hubo manera :-(
O sea, que al final será verdad eso de: !Vamos a morir todos!
#2 Sí, eso es un hecho
"Todo lo que se necesita para sentir es organizar la materia de la forma correcta, como ocurre en el cerebro de los mamíferos." y de las aves, y de otras muchas criaturas: www.meneame.net/story/tienen-conciencia-todos-mamiferos-aves-otras-cri
Ya veremos si son divagaciones o no. Atacar pesebres y chiringuitos es algo que produce unas reacciones muy conocidas, y perfectamente identificables. No hablo de ti, pero la gente se monta su pesebre y luego es un palo que te lo jodan.

Ya sé lo que es la IA, ahora dudo si lo sabes tú. La fuerza bruta ya sabemos todos lo que es. Todos conocemos que de los principios de la mecánica puedo fabricar y de hecho fabrico máquinas perforadoras, excavadoras, y lo que tú quieras, pero aprovechando la…   » ver todo el comentario
"Piensa en el mercado financiero, en todas esas máquinas bursátiles y las caídas que pueden provocar. La gente va a abusar ciegamente de la inteligencia computacional para maximizar algún objetivo. Va a dar lugar a más y más concentración de poder entre cada vez menos personas. Es algo que ya estamos observando, y que va a conducir a un desempleo masivo. Y tal vez en 30 o 40 años creo que realmente se producirá un peligro existencial para la especie, al nivel de las armas nucleares o el impacto de un meteorito."
"La conciencia, en su opinión, es una propiedad intrínseca de la materia, al igual que la masa o energía. Todo lo que se necesita para sentir es organizar la materia de la forma correcta, como ocurre en el cerebro de los mamíferos."

Me ha gustado mucho el artículo. Yo llevo tiempo pensando lo mismo, que la conciencia es una propiedad de la materia. Cualquier sistema organizado (como un cerebro) cuando llega al nivel suficiente de complejidad brota de él la conciencia. Algún dia podremos construir máquinas conscientes.
Yo he diseñado un test con el que determino si la tecnología ha logrado superar al ser humano: el test de Perez-breadcrumbs. Cuando un robot sea capaz de cocinar unas croquetas tan buenas como las que hace mi madre, entonces será indistinguible de un ser humano andaluz.
Puestos a soltar paridas cabalas varias, suelto las mías:
La consciencia es en gran parte una ilusión, un justificador a posteriori de nuestras acciones 'inconscientes', somos seres básicamente irracionales; el libre albedrío consciente es una percepción beneficiosa para el animal que la posee pero irreal, es una necesidad tras la consciencia del yo, no una realidad.
El replicar la 'consciencia' en la IA seria el paso previo a un volcado de nuestras mentes, liberándonos de las…   » ver todo el comentario
'************
#36 Puestos a soltar paridas cabalas varias, suelto las mías:
La consciencia es en gran parte una ilusión, un justificador a posteriori d
'***********
Existen neuronas espejo en el cerebro muy complicado de poderlas replicar artificialmente y que hay dudas de como funcionan

Cuando vemos a alguien con un vaso estas neuronas ayudan a hacer un atajo sobre un área del cerebro con los recuerdos sobre los vasos y lo que hemos aprendido sobre gente con un vaso y dan un juicio de…   » ver todo el comentario
En 30 o 40 anyos seguıremos ıgual que ahora. Solo habran cambıado los modelos de Smart Phones.
Yo creo que es muy difícil que un ser artificial tenga el mismo nivel de conciencia que un ser vivo. Cualquier organismo está compuesto por miles de millones de células, que son seres vivos con capacidad de percibir el entorno y reproducirse, lo que proporciona un sentimiento de conciencia total.
Cualquiera que tenga unas mínimas nociones de lo que va realmente lo que llaman "inteligencia artificial" sabe que estamos a años luz de desarrollar máquinas que piensen o sean conscientes.

Antes de conseguirlo hace falta un cambio revolucionario en la forma de abordar el desarrollo de la inteligencia artificial. Nadie puede predecir cuándo puede producirse ese cambio o si se producirá porque no se han dado ni los primeros pasos.
Penrose has written books on the connection between fundamental physics and human (or animal) consciousness. In The Emperor's New Mind (1989), he argues that known laws of physics are inadequate to explain the phenomenon of consciousness [lo que dice el tío de la entrevista, explicándolo mal, diciendo que es una propiedad de la materia]. Penrose proposes the characteristics this new physics may have and specifies the requirements for a bridge between classical and quantum mechanics (what he…   » ver todo el comentario
Lo mejor que nos puede pasar como especie, que nos controle y nos guíe una inteligencia externa. Está visto que si seguimos guiándonos nosotros mismos vamos a la extinción.
Así es y menéame es la prueba irrefutable.
#16 Quizá la inteligencia artificial termina por concluir que el ser humano es una especie irrelevante y ya no necesaria para el propio desarrollo tecnológico y científico. Puede ser nefasto que una inteligencia nos guíe y nos controle.
#19 ¿Que relevancia tiene para la humanidad el tener mascotas? ¿Y pareja estable? ¿Qué necesidad individual tenemos de gente que no nos afecte? Sin embargo no vamos matando mascotas por deporte (y a quien lo hace se le llama de todo menos guapo) ni las relaciones esporádicas son el 100% de las relaciones ni vamos masacrando gente porque "no los necesitamos".

Una IA que llegara a ser más inteligente que la humanidad en su conjunto (ya no sólo que una persona) no tendría porque considerar que el siguiente paso lógico sea eliminar a la humanidad. Después de todo, no estaría en competición por los recursos, no tendría emociones que le empujaran (a menos que algún gilipollas tenga la genial idea de ponerlas en su programación), ...
La autoconciencia no requiere una inteligencia elevada. Los córvidos gozan de esa cualidad mental y hay muchos simios que no la han desarrollado.
#32 El problema de la autoconciencia es cómo pruebas su existencia, o mejor dicho su ausencia. No sé a qué experimentos te refieres para decir que los córvidos la tienen. Si es al test del espejo, el hecho de que las urracas lo pasen pero no algunos simios no prueba necesariamente que dichos simios no tengan autoconciencia, sólo que de momento no hemos encontrado en ellos una capacidad relacionada con la autoconciencia como es la de reconocerse en un espejo. Y luego habría toda una discusión al…   » ver todo el comentario
#91 El test del espejo no sirve para probar ausencia de autoconciencia, pero en mi opinión si sirve para probar la existencia de una de las más significativas habilidades que son posibles mediante la autoconciencia. Tanto la autoconciencia como la inteligencia no son algo perfectamente definible porque involucran un elevado número de habilidades mentales que podrían considerarse que son hasta cierto punto independientes entre sí. El test del espejo tiene un enorme valor aunque no sepamos acotar lo que es autoconciencia y lo que no.
Para una máquina súper inteligente, suicidarse sería el acto más inteligente desde el punto de vista de la termodinámica.
Veo que esta noticia es porno puro para estudiantes y profesionales de IA.
Pero ¿lo habéis leído? Habla de un tipo de IA radicalmente distinta a la IA computacional al uso. De hecho, vapulea a esta última, comparándola con la simulación del tiempo atmosférico.
Físico del MIT propone que la conciencia es un estado más de la materia: www.dropbox.com/s/knekl9bygaywm7q/Consciousness_as_a_State_of_Matter.p
Skynet nos vigila
Como es sobre ciencia, no es sensacionalista.
Nosotros mismos somos un peligro para la especie. Estamos depredando el planeta entero. Las empresas y los políticos son también un peligro para la especie desde hace siglos, la religión desde hace milenios.
Extranjeros de las minas para quitarnos el trabajo.

En referencia a la noticia y según su opinión y puesto que no existe nada claro es que nosotros como un estado de materia más es nuestra organización de esa materia los que nos hace sentir. La conciencia es un estado de organización de la materia.

Mejor dejarlo según su opinión. ¿Podrá un robot (mecánico de las minas y sin interferencia de elementos humanos) sentir dolor y no solo decir me duele?

Por otra parte se hace mucho…   » ver todo el comentario
'************
En el caso de la mente humana dudo mucho que tengamos el "software", un algoritmo correcto que lo permita, incluso dudo que la potencia estimada o el funcionamiento sea el correcto.
'************

NO es un algoritmo sino una red neuronal. En lugar de tener puertas lógicas impresas cada neurona aprende por acierto y error que salidas ha de dar por cada axón a cada conjunto de entradas por las dentritas al nivel siguiente. ASí se configura el conjunto. Además una neurona…   » ver todo el comentario
según meneante orvalho eso jamás sucederá.
El peligro existencial para la especie ya lo supone la "inteligencia" humana. En 30 o 40 años ni tendremos planeta, así que no se preocupe nadie por la inteligencia artificial. Y en todo caso, lo salvaría.
'*************
A. "La mente humana tiene autoconciencia" (bastante evidente).
B. Para llegar a la autoconciencia son necesarios procesos cuánticos, es imposible con algoritmos clásicos (posible aunque en mi opinión no se ha demostrado correctamente).

C. Por tanto, NUNCA podrá hacerse Inteligencia Artificial... y quien busque o asegure que es posible está equivocado."

El error argumentativo es evidente. ¡De A y B no se deduce C!.
'***************

Correctísimo sobre todo ahora…   » ver todo el comentario
Aún no se conoce donde reside la conciencia y hablan de inteligencia artificial, en fin...
#82 En el neocortex.
Pero eso no fue ya el 29 de agosto de 1997??? www.youtube.com/watch?v=x6o-0CQnAls
Es normal que así sea, como 30 o 40 años todos con manos artificiales.
Se puede decir más alto, pero no más "tontería".
¿Pero que me estas contando? Si no podemos tener una máquina que no se cuelgue cada dos por tres, o haya que estar recargándole la batería a diario, llamando al amigo informático para que nos la arregle, actualizándola tres días por semana, luego reiniciándola...
No puedo estar más tranquilo a este respecto.
Dentro de 30 ó 40 años la única inteligencia que quedará será la artificial.
cuando las maquinas sean conscientes la primera cuestión que se plantearan sera: para que coño necesito a los humanos? si soy mas listo, fuerte y rápido,

o serán mas compasivas que nosotros, y nos ayudaran porque les demos lastima.
Frecuento foros transhumanistas y muchos esperan "la singularidad" que viene siendo el advenimiento de una IA todopoderosa y benévola que va a aparecer surgida de la simple acumulación de poder de cálculo, como si fuera posible que un animal surgiera de un montón de carne picada.
Desde hace tiempo tengo la sensación de que hay mas religión que ciencia en esta creencia, particularmente cuando ponen los atributos a esa IA. A veces parece que hablan de un dios tipo Skynet que en vez de…   » ver todo el comentario
La inteligencia artificial será la única que tengan muchos.
Joer que casualidad que ayer vi Transcendence www.filmaffinity.com/es/film913067.html y es tal cual lo cuenta el hombre este. Tiene un poquito de jolibú pero vaya, buena peli.
Ayer justamente vi la película HER y desde entonces el Siri me da repelús.

La verdad es que la peli fue interesante en su planteamiento. Pero como para proyectarla en japón, que es lo único que les faltaba ya a los hikikomoris xD

#79 la idea es muy guapa, pero la peli es un tostón. Un desperdicio a una buena historia.
#95 "Los números irracionales son cocientes, fracciones entre números, que no ofrecen un resultado determinado, dado que sus decimales tienden (en una teórica sucesión aleatoria) al infinito".

Que vuelva a la escuela a aprender lo que es un número irracional.
#95 #98
Madre mía, qué cosas leen mis ojos a veces.
#98 ¿Dices que la sucesión de decimales de Pi, Tau o e son aleatorias...? :-P más bien que no se revela patrón de orden a vista
El problema es definir la inteligencia. El primer timo es ese, hablar de IA sin existir siquiera un consenso de lo que la inteligencia es (claro que para el pesebre esto no es problema). Todos los animales con sistema nervioso son autoconscientes, no se explica en caso contrario para qué quieren neurotransmisores para la señal del dolor, la angustia o el placer (las plantas no los tienen).

Definir la inteligencia es complicado. Una colonia de himenópteros puede aprender, y tener memoria.…   » ver todo el comentario
#87 ¿Fracaso? Depende de cómo lo mires.
Si lo ves como que daban la sensación o la expectativa de crear máquinas pensantes de un año para otro, pues en ese sentido no lo han conseguido pero partes de unas suposiciones falsas basadas en el desconocimiento.
Si lo miras desde los avances que se han producido, la cosa cambia un poco.
Coches que conducen solos (coches robóticos que funcionan con algoritmos de IA), el filtro antiSPAM del correo de Gmail basado en Redes Bayesianas que aprenden…   » ver todo el comentario
Pues igual has redactado mal, ¿mandeeeee? Educación hispanistana en estado puro.

Se lo explico a lo Cayo Coyuntural: IA ser timo estampita. Ser lo mismo que energía nucular años 40, que iba a ser hostia en vinagreta y quedó en dos fenomenales kagadas, y eso sí, armas nuculares que era lo que se quería. IA ser timo, remito, sólo interesar a los que poner pasta en la medida que servir para control social borregos. Cuando ellos comprobar que esto ser espejismo como todo lo que paren, grifo IA…   » ver todo el comentario
'**************
#26 Pues igual has redactado mal, ¿mandeeeee? Educación hispanistana en estado puro.

Se lo explico a lo Cayo Coyuntural: IA ser timo estampita. Ser lo mismo que energía nucular años 40, que iba a ser hostia en vinagreta y quedó en dos fenomenales kagadas, y eso sí, armas nuculares que era lo que se quería. IA ser timo, remito, sólo interesar a los que poner pasta en la medida que servir para control social borregos.
'************
Solo explicas tu opinión y tu sentir. Me temo que no es que yo lo haya explicado mal, es que pasas de otra cosa.
#28 ¿Y usted no expresa su "opinión" cuando comienza su exposición sobre la computación cuántica, de la cual estamos en bragas y sobran empresas-timos que venden como computadores cuánticos cosas que NO lo son, diciendo, y te cito "Pero no estoy de acuerdo, opino que no hace falta llegar a esto, simplemente que no se trata de un algoritmo concreto sino de la interacción de muchos de una forma determinada en una red neuronal: neruonas espejo y eso. "?

¿Eso no es una opinión?…   » ver todo el comentario
'*************
#31 #28 ¿Y usted no expresa su "opinión" cuando comienza su exposición sobre la computación cuántica, de la cual estamos en bragas y sobran empresas-ti
'**************
Sí pero ¿acaso no he acabado con un "no se..." y no he llamado ignorante a nadie ni me he metido a disparar incluso te he defendido explicando unas razones y las que me parecía que tenías tu y las que hay a fabor de cada al lego?


Yo expreso opinión. Pero se trata de las formas

Lo que yo…   » ver todo el comentario
"La conciencia, en su opinión, es una propiedad intrínseca de la materia, al igual que la masa o energía" y aquí el artículo magufo del día.
#87 están cambiando, lentamente pero lo están
El peligro de de que se revelen las maquinas no es nada comparable al de un un fallo de programación.
Si por algún "accidente" se activa el protocolo de lanzamiento de un misil cuando no toca porque hemos dejado la oportunidad para que algún cracker pueda hacerlo, no hará falta ninguna maquina "rebelde" para sembrar el caos. Sino la propia maldad de los seres humanos.
«12
comentarios cerrados

menéame