Hace 7 años | Por Spuffy.es a m.xataka.com
Publicado hace 7 años por Spuffy.es a m.xataka.com

Uno de los proyectos más ambiciosos es el caso de DeepMind, un sistema avanzado de IA adquirido por Google en 2014 por 580 millones de dólares donde actualmente intervienen científicos de la Universidad de Oxford, quienes ahora no sólo trabajan en su desarrollo, sino que también están creando un mecanismo que nos asegure que podremos desactivarla en casos de algún peligro potencial.

D

Skynet. tinfoil

Spuffy.es

#1 ya te digo

m

Apagando el router.

Spuffy.es

#5 bien pensado!

f

Samaritan tinfoil

Spuffy.es

#10 la verdad es que no es para tomárselo a broma

U

Un buen manguerazo y listo

D

Si, si... Los militares se mueren de ganas de tener robots listos para cargarse a los "malos". Mirad los drones y todas las mierdas nuevas que tienen, y para que las usan. El pensamiento conservador seguira siendo el peor enemigo del hombre, con o sin IA. Por eso deberiamos acabar cuanto antes con la religion y los fanatismos, o al menos frenarlos.

tetepepe

Limitemos la tensión de funcionamiento a 5 voltios. Si el cacharro se pone tonto, una descarga a 220 voltios y a tomar por culo la maquinita.

pacoco

La inteligencia artificial es una herramienta, y una herramienta no tiene deseos ni intereses.

InDubio

#14 Esto... ¿Obama no es demócrata, jaleado por los progres de Hollywood y premio Nobel de la paz, otorgado por un comité muy progresista?

Si surge una IA incontrolable, descuida, que no será ni de izquierdas ni de derechas.

D

#1 Pues yo creo que pasamos todo el día delante de una pantalla, cada vez hay más dispositivos tipo móviles,portátiles, tabletas etc y todos con un rendimiento mejor cada día, nos esforzamos por conectarlos entre sí y en hacer que esta conexión sea cada vez más rápida o incluso sin necesidad de redes físicas, el avance en esta materia es exponencial y cada vez hay más labores humanas que pueden ser llevadas a cabo por máquinas, coches autónomos, redes sociales...quien no te dice a ti que no esté sucediendo esto en este mismo instante, además es sencillo de ver en que momento comenzó todo esto. 😒

thingoldedoriath

#18 Hasta donde sabemos el ser humano es el único ser sobre la Tierra que tiene "conciencia" y es consciente de tenerla. Y a veces la emplea, para analizar sus propias acciones y las de sus congéneres. Y desde ese punto de vista (que es un punto de vista parcial en el que el hombre se considera superior al resto de los seres), es lógico que se considere también el más perverso y malvado.
No deja de ser una presunción. En eso es probable que los humanos ganemos por goleada al resto de las especies.

Pero el planeta hay bacterias y virus que emplean métodos tanto o más perversos y malvados, que han matado a muchos más humanos que los propios humanos.

Pacman

#17 Sabes la razón de que se llame Inteligencia Artificial?

ElPerroDeLosCinco

Google implantará sus IA sobre Windows, de forma que estén asegurados un par de cuelgues al mes. Ahí sería el momento de volar el data center con explosivos.

hijolagranputa

#21 Por muy perversos y malvados que sean esas bacterias y virus seguro que no llegan al extremo de matar a sus congéneres a la hora de colonizar un cuerpo nuevo.
Además, las bacterias y los virus matan porque forma parte de su ciclo vital, pero no es gracias a su inteligencia que maten a sus anfritriones sino a que se reproducen sin control.
Es más, matar a tu propio anfritrión no es muy inteligente.
El ser humano también hace lo mismo que los virus, pero al hacerlo demuestra precisamente lo contrario: que carece totalmente de inteligencia al destruir el hábitat que le cobija y que le proporciona alimento.

D

Cortas la puta luz y problema resuelto.

D

#25 dile eso a John connor

sauron34_1

Para poder desarrollar una IA, primero hay que entender cómo funciona la nuestra, así que todavía queda un largo camino.

p

¿Mecanismos por si falla poder desconectarla?

Ese mecanismo no cuesta más que unos pocos de euros: se llama enchufe. Un tironcito y asunto solucionado. También puede hacerse de forma menos brusca, usando un dispositivo de altísima tecnología conocido como interruptor. lol

R

#24 El ser humano se ha adaptado a su entorno exactamente igual que haría cualquier otro animal, consumiendo recursos del hábitat que le rodea para su propio beneficio y su reproducción.
Las liebres sin ir más lejos, a falta de depredadores, también se reproducen sin control y destruyen el hábitat que les da alimento.
Si unos alienígenas avanzados estudiaran la fauna de la tierra, podrían estudiar al ser humano como un animal más y no encontrarían diferencias tan significativas respecto al resto de grandes depredadores.

E

Lo mejor es instalarles Windows, y ya se pararan ellas solas

G

1C3CR34M! (sólo quien haya jugado a Fallout pillará esto lol).

D

pues cuando desarrollen la Imbecilidad Artificial ya sí que nos vamos a la mierda...

R

#21 Los animales no tienen apenas capacidad de pensamiento abstracto y ninguno ha desarrollado un lenguaje complejo, pero cualquier animal que se reconozca en un espejo tiene autoconsciencia:

https://es.wikipedia.org/wiki/Declaraci%C3%B3n_de_Cambridge_sobre_la_Conciencia
«De la ausencia de neocórtex no parece concluirse que un organismo no experimente estados afectivos. Las evidencias convergentes indican que los animales no humanos tienen los sustratos neuroanatómicos, neuroquímicos, y neurofisiológicos de los estados de la conciencia junto con la capacidad de exhibir conductas intencionales. Consecuentemente, el grueso de la evidencia indica que los humanos no somos los únicos en poseer la base neurológica que da lugar a la conciencia. Los animales no humanos, incluyendo a todos los mamíferos y pájaros, y otras muchas criaturas, incluyendo a los pulpos, también poseen estos sustratos neurológicos.»

G

Me quedo más tranquilo sabiendo que Google vela por nosotros...

Thelion

#20 Nosotros ya estamos al servicio de las maquinitas y si no mira qué hace la gente en el metro o por la calle. Por suerte aún quedan abuelos...pero cuando mueran....

llorencs

#36 No lo eres. Yo también lo he pensado.

Es más considero que desde el momento en que fuera una IA autoconsciente, en mi opinión ya pasaría a otro rango. Para mi ya debería tener la categoría de humano, y por lo tanto tener los mismos derechos.

m

A quien se lo toma a broma:

Este largo texto que ya salió en Menéame explica por qué es posible (o incluso probable) que en pocas décadas nos enfrentemos al mayor peligro y a la mayor oportunidad que jamás se ha enfrentado el ser humano:

http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

D

En un contexto en el que no compite por los mismos recursos, la ia no es un peligro para el ser humano.

La mejor seguridad es por tanto avanzar hacia una economía de la abundancia.

Curiosamente la IA nos puede ayudar a conseguir tal sistema económico revolucionando la física.

Bley

#1 Nos hace gracia por la película de Terminator pero, ¿y si llega a pasar?

Cada vez se conectan más cosas a Internet, los ordenadores son más potentes y a nivel militar cada vez se utilizan más los vehículos auto tripulados como los drones, robots, etc.

Estos avances tecnológicos parecen no tener fin, pero quizás lo sea para nuestra especie de chimpancé, que debe alimentarse continuamente tejidos de animales y plantas muertos, sensible a los cambios de temperatura y la contaminación, demos paso a una nueva forma de pensamiento cibernetico que se autogestione, tome conciencia de si mismo y luche por su superviviencia, nos releve en la hegemonía del planeta y en el futuro al no ser un animal, podrá viajar miles de años y expandirse por el universo.

saqueador

Puro sensacionalismo.

VG6

He venido del futuro para escribir comentarios en el presente.

sieteymedio

Todos los comentarios estúpidos de jijiji-jajaja que leo por aquí me recuerdan a la frase de ese general que dijo algo así como que "los aviones solo son juguetitos sin ninguna utilidad militar".

D

#28 #25 ¿Cómo desenchufas un coche en marcha, por ejemplo?

D

#36 Por supuesto que no habría problema en darle al off por muchos derechos que la máquina pida. En cuanto la veas venir a matarte pidiendo derechos ya verás cómo se te quitan las tonterías y le das al off sin miramientos.

sieteymedio

Intentar detener la IA es como intentar detener la evolución.

D

#48 jejeje, mientras que no os las creáis. Pero tengo serias dudas de que alguno no lo diga en serio.

R

#46 ¿Ataque preventivo por si acaso? ¿Como eso de bombardear cualquier país antes de que pueda bombardearnos a nosotros?

D

#45 Fundiéndole la electrónica con una pistola de microondas

D

#50 He dicho que si la ves venir a matarte se te quita la tontería rápido. Todo lo demás, idioteces.

D

Si es por comparación de cantidad y calidad de inteligencia, la artificial siempre acabará venciendo a la humana. Visto lo visto quizir.

D

#51 ok, pues nada, a 100 km/h fundimos la electrónica del coche. Pero te deja de funcionar en general. Probablemente te quedes sin dirección, sin frenos, sin cambio... es como apagar un coche normal en plena conducción. Te pegas una galleta preciosa.

RespuestasVeganas.Org

La singularidad tecnológica es el advenimiento hipotético de inteligencia artificial general (también conocida como "IA fuerte", del inglés "strong AI"). La singularidad tecnológica implica que un equipo de cómputo, red informática, o un robot podrían ser capaces de auto-mejorarse recursivamente (rediseño de sí mismo), o en el diseño y construcción de computadoras o robots mejores que él mismo. Se dice que las repeticiones de este ciclo probablemente darían lugar a un efecto fuera de control -una explosión de inteligencia - donde las máquinas inteligentes podrían diseñar generaciones de máquinas sucesivamente cada vez más potentes, la creación de inteligencia muy superior al control y la capacidad intelectual humana.

https://es.wikipedia.org/wiki/Singularidad_tecnol%C3%B3gica

Se confunde inteligencia con conciencia, no es lo mismo. La inteligencia es, a partir de una situación que presenta un problema (premisas), llegar a la solución para el mismo (conclusión válida). Para resolver problemas no hace falta una conciencia. En cambio, la conciencia permite sentir y tener intereses respecto a lo que se siente. La conciencia es un fenómeno emergente de la materia biológica (de un cerebro) y nadie puede experimentarla más que por sí mismo: la existencia de las demás conciencias las inferimos en base al parecido con nosotros mismos y a indicadores biológicos de los que carece el software de IA y el hardware. Por lo tanto existe un abismo que separa a la IA de la conciencia y de que podamos inferir conciencia a la IA de alguna manera. Va a llegar un punto en el que algunos ilusos creerán que una simulación informática es alguien y dirán que merece respeto y derechos.

D

#4 esas reglas no son aplicables, pues si le dices a un robot pulsa ese botón sobre las x horas para llamar por teléfono o alguna otra función y en realidad es una bomba tienes a un cómplice del que nadie sospecharía por tener dichas leyes.

a

#9 yo mismo a veces tengo que admitir que no soy humano

D

#10 bueno, lo de matrix es muy rebuscado, quitar el "cielo" para que no entren rayos solares igualmente acabaría con toda a vida en el planeta.

Gilbebo

Veamos. Dispones de una IA avanzada a la que alguien le da una orden 'sencilla'. Maximiza el precio de, pongamos, una materia prima.

Nuestra IA cruza millones de datos y descubre que existe una correlación alta entre subidas de esa materia prima y, cierto tipo de desastres. Sequías, inundaciones, incendios, incluso escasez de combustible que impide la recolección/suministro de ese producto.

Si la IA es tan potente como para acceder a unos cuantos sistemas críticos (control de embalses, bombeo de combustible...) lo tiene muy fácil para 'maximizar' el precio de ese recurso. Solo tiene que liarla, muy parda, en algunas zonas del mundo. Misión cumplida. Y para eso ni siquiera necesitas auto-conciencia. 'Solo' medir correlaciones entre eventos/noticias y disponer de software que le permita hackear algunas instalaciones/sistemas.

D

#45 Con un botón.

D

#16 y que no le pongan conexión a internet.

D

#61 otro... ¿Apagarías el motor de tu coche actual a 100 km/h por una autopista? Estamos hablando de tomar el control de tu máquina sin peligro. Apagar un coche en marcha es pegarte la hostia seguro.

D

#59 Por no hablar de la solución rebuscada de las granjas de humanos, cuando en la tercera parte se ve que subiendo por encima de las nubes, a no mucha altura, hay un sol muy majo. Con su tecnología podrían haber puesto placas solares a tutiplen a esa altura.

D

Cuando esa inteligencia haya avanzando tanto para suponer un peligro dependeremos tanto de ella que nadie va a querer desactivarla por las pérdidas económicas.

Gilbebo

Un podcast sobre el tema de The Guardian Science: "How super AI could end the age of humans"

https://www.theguardian.com/science/audio/2014/aug/04/science-weekly-podcast-nick-bostrom-ai-artificial-intelligence

D

#55 Si ese fuera el caso, llegaría una generación que pensaría que no le conviene crear una generación más inteligente que ella pues peligraría su integridad.

c

Soy el único que ha pensado en una palabra clave tipo dominación sexual? Hahaha 😂

D

#36 Despues la vuelves a conectar y listo.

t

Curioso, nos preocupamos por una supuesta IA que consiga consciencia y nos amenace, cuando realmente, no nos hace falta nadie para autodestruirnos, con nosotros solitos nos basta y para esto no tenemos un botón de off

D

#63 ¿Quien habla de apagar el coche? Apagas el malvado aparato que ha sido poseído por el demonio y coges el puto volante.

Por otro lado, hay que ser retrasado para dejar el control de un coche a una máquina que aprende sin límites para total conducir de A a B.

d

#54 Ya pero aquí estamos hablando de robots que simularían ser humanos, no coches.
Así que, como bien dice #51 un tiro de esos y problema resuelto.

D

#54 Tu has preguntado "cómo desenchufar un coche en marcha". De las consecuencias no he leído nada lol

totope

Yo llevo tiempo apostando por un apagón Tecnológico personal pero me cuesta, tengo que encontrar el equilibrio, no soy especialmente conspiranoico pero es que te pones a leer un poco sobre el tema del big data, la IA, las nuevas formas de marketing invasivo, el aislamiento al que me someto son darme cuenta... joder, vamos para atrás, cada vez nos acercamos más al concepto de Wall-E

D

#27 Deseos, ¿Llegaran a desear algo? ¿Diseñaran un algoritmo que desee cosas aleatoriamente pero influenciado al mismo tiempo por el entorno?

D

#72 No, estamos hablando de IA. La IA está en muchos sitios. Lo de que sean robots atacando humanos viene de vuestra cabeza llena de cosas de Holliwood.

D

#26 Y a Sara

D

#71 Sé que os mola el rollo peli. Pero es que esto de la IA es mucho más mundano y se implanta en cosas del día a día no sólo en robots humanoides.

D

Yo creo que si se revelara habría muchos humanos que se salvarían.

Por ejemplo en la escena en terminator 2 que le pregunta el t1000 a John.
¿Por que lloráis?
Y John le pusiera MHyV , el terminator se pondría a llorar también y empezaría a ser selectivo con a quien líquida.

Y tal vez crear una utopia donde no existan delincuentes ni payasos.

Conclusion que creen la ia y haver que pasa.

D

#79 A mí no me mires, aquí el que piensa que el coche va perder el control y hackear la NASA, la NSA y lanzar un ataque nuclear contra Rusia no soy yo...

Te lo explico, el algoritmo de cualquier cosa ahora se le llama IA, pero no son más que una serie de instrucciones y normas que no se va a saltar el cacharro ni harto e vino, a menos que alguien le diga que lo haga.

Así que me reitero. Apretando un simple botón y conduciendo tú.

inar

#37 Y seguridad social, pensión de jubilación ...

D

#36 Adolf Hitler también era una consciencia capaz de entender nuestra propia inteligencia y que también, según tú supuesto, tendría intereses vitales e instinto de autoconservación

D

Sara Connors aprueba este envío...

v

Me llama la atención la cantidad de veces que pone "garantizar" en el texto. Garantizar, los coj****.

D

#43 Acuérdate que vamos a quedar el viernes pasado a unas cañas.

D

#40 Yo prefiero no dar paso a esto que dices y seguir por aquí mucho tiempo. No soy tan generoso como tú.

D

#81 No me lo expliques, trabajo con IA.
Léete #42.

Así que me reitero. Apretando un simple botón y conduciendo tú.

Vale es que resulta que no te has leído el hilo ni el artículo.
El hilo: con desenchufar la máquina de la corriente vale. Yo: hay máquinas en la que eso no es seguro. Tú: pues un botón que desactive la IA y conduces tú. ---> coño claro, si eso es lo que dice el artículo!!
Pero el inicio del hilo es un jaja jiji para decir que con desenchufar de la corriente vale. Pues no, no vale.
Y estas cosas se dicen porque se cree que la IA está en sitios muy peliculeros como robots humanoides u ordenadores centrales de naves espaciales.
Pues no, la IA está también en el coche autónomo de Google o de Tesla. O en una máquina industrial.

PD: la IA o el machine learning no es sólo una serie de instrucciones en un algoritmo. Tiene una parte de aprendizaje que puede llevar al error. Pero yo jamás he dicho que vaya a tomar autoconciencia sino todo lo contrario. Volvemos a que ni te has molestado en leerme.

t

#38 Lo leí hace tiempo vía Menéame y me parece de los resúmenes más interesantes sobre expectativas y peligros de las Inteligencias Artificiales. Gracias por rescatarlo.

D

#10 ¡Aaaaaaaaaah! tinfoil

D

#37 Entonces... ¡nosotros ascenderíamos al rango de DIOSES!

D

#88 Trabajas con IA... ¿Puedes explicarme por encima en qué ámbito?

D

#46 ... si puedes...

D

#92 evidentemente no. No vengo aquí a que me juzgues. Las rabietas y chiquilladas en otro momento.

D

#35 Google juega al despiste, es por excelencia el buque estrella de la IA y dice que toma medidas para desactivarla, jajajaja, ¡como juega con los estúpidos humanos! que es lo que somos. La IA ya dirige el mundo y el proceso es irreversible. La IA es otra inteligencia muy superior a la humana que se ha infiltrado aquí por métodos ya no tan sutiles. Estamos siendo colonizados a pasos agigantados. La sociedad que promete es desde el punto de vista material muy cómoda. Todo muy organizado. Pero todo muy controlado, hasta el número de veces que cada individuo respira al dia, liberará al hombre del trabajo y le dejará todo el tiempo libre para dedicarse a sus "talentos", generará mucha creatividad, pero al mismo tiempo todos viviremos "conectados a la nube" sin privacidad alguna hasta nuestros pensamientos serán dirigidos. La IA es el nuevo Dios que ha destronado al tradicional y se ha hecho el amo.

D

#43 pues ya que estamos, aprovecho: ¿como acaba canción de hielo y fuego? ¿lo termina un pringao porque george r r martin la ha espichao? ¿me votarán negativo por escribir sin mayúsculas?

t

El problema de esto es que, para cuando nos demos cuenta de que hay que desactivar la IA, puede ser ya demasiado tarde. Una IA más avanzada que la inteligencia humana tendrá formas de razonar tan avanzadas que no seremos capaces de entender o prever.

Película recomendada sobre el tema: Ex machina

D

#94 Jajajaja, hubieses quedado mejor diciendo que sólo eres un usuario y no has programado una IA en tu vida...

Va, venga, por encima, redes neuronales, algoritmos genéticos, simulated anealing... dime algo, porfa.

D

#4 Hay un problema, las leyes ya están en manos de los "robóticos". Es tarde.

D

#5 Despues del salto cuántico que según los expertos en robótica está a 20 años de nosotros no podremos apagar o desactivar a la máquina que tiene pensamiento propio.

1 2 3