James Lovelock ha pasado a la historia por lanzar una de las hipótesis más inspiradoras: la hipótesis de Gaia, según la cual la Tierra funciona como un ser vivo. Hablamos con él del futuro de los robots
#28 Pues sí... en la mayoría de los casos los padres tienen poco que dejar a sus hijos.
En nuestro caso las inteligencias artificiales serán las hijas de la humanidad. Lo que tenemos para dejarles son los conocimientos que hemos acumulado. El planeta en sí tendrá poco valor para ellas porque podrán sobrevivir en cualquier otro ambiente sin problemas.
No hay mayor desprecio que la tolerancia, pues solo se tolera al que es incapaz de hacernos daño, aquila non capit muscas; tolerar es agraviar. Por otra parte solo se tolera el mal, o, relativamente, un mal menor a otro (como decía Balmes). Pero esto escapa a la filosofía espontánea de Lovelock y sus delirios (como la hipótesis Gaia).
En una serie antigua (no recuerdo el nombre), habían una serie de muertes misteriosas por accidentes de ancianos. Los investigadores (un hombre y una mujer) descubrieron que una IA las provocaba porque esta había visto/escuchado a un pastor religioso que decía que después de la muerte la persona se encontraba en un lugar muchísimo mejor y no tenía que sufrir los achaques de la vejez. Luego dedujo en su lógica que les estaba haciendo un favor a esos ancianos porque los enviaba a un lugar mejor. Una IA que te mataba pero por hacerte un bien.
Así que IAs de mal rollo y buen rollo pueden ser peligrosas
Humildemente pienso que no estoy de acuerdo. Si acaso estaría de acuerdo con: "Los robots nos tolerarán mientras les seamos útiles". Cuando dejemos de serlo hasta luegui. Y con la velocidad evolutiva de una IA, a lo mejor empiezan a valorarnos como un estorbo en vez de algo útil dentro de Gaia a en cuestión de... días? meses? años?
#13 Como te montas la peli tu solo para que tomen el control debería darse una singularidad tecnologica y que la extracción, procesamiento y ensamblaje estén totalmente automatizados sin ninguna intervención humana, sino les podríamos desbaratar fácilmente el plan.
#36 un ejemplo (de los miles que hay) de cómo podría salir mal, obviamente contado como una fábula:
So what ARE they worried about? I wrote a little story to show you:
A 15-person startup company called Robotica has the stated mission of “Developing innovative Artificial Intelligence tools that allow humans to live more and work less.” They have several existing products already on the market and a handful more in development. They’re most excited about a seed project named Turry. Turry is a simple AI system that uses an arm-like appendage to write a handwritten note on a small card.
The team at Robotica thinks Turry could be their biggest product yet. The plan is to perfect Turry’s writing mechanics by getting her to practice the same test note over and over again:
“We love our customers. ~Robotica”
Once Turry gets great at handwriting, she can be sold to companies who want to send marketing mail to homes and who know the mail has a far higher chance of being opened and read if the address, return address, and internal letter appear to be written by a human.
To build Turry’s writing skills, she is programmed to write the first part of the note in print and then sign “Robotica” in cursive so she can get practice with both skills. Turry has been uploaded with thousands of handwriting samples and the Robotica engineers have created an automated feedback loop wherein Turry writes a note, then snaps a photo of the written note, then runs the image across the uploaded handwriting samples. If the written note sufficiently resembles a certain threshold of the uploaded notes, it’s given a GOOD rating. If not, it’s given a BAD rating. Each rating that comes in helps Turry learn and improve. To move the process along, Turry’s one initial programmed goal is, “Write and test as many notes as you can, as quickly as you can, and continue to learn new ways to improve your accuracy and efficiency.”
What excites the Robotica team so much is that Turry is getting noticeably better as she goes. Her initial handwriting was terrible, and after a couple weeks, it’s beginning to look believable. What excites them even more is that she is getting better at getting better at it. She has been teaching herself to be smarter and more innovative, and just recently, she came up with a new algorithm for herself that allowed her to scan through her uploaded photos three times faster than she originally could.
As the weeks pass, Turry continues to surprise the team with her rapid development. The engineers had tried something a bit new and innovative with her self-improvement code, and it seems to be working better than any of their previous attempts with their other products. One of Turry’s initial capabilities had been a speech recognition and simple speak-back module, so a user could speak a note to Turry, or offer other simple commands, and Turry could understand them, and also speak back. To help her learn English, they upload a handful of articles and books into her, and as she becomes more intelligent, her conversational abilities soar. The engineers start to have fun talking to Turry and seeing what she’ll come up with for her responses.
One day, the Robotica employees ask Turry a routine question: “What can we give you that will help you with your mission that you don’t already have?” Usually, Turry asks for something like “Additional handwriting samples” or “More working memory storage space,” but on this day, Turry asks them for access to a greater library of a large variety of casual English language diction so she can learn to write with the loose grammar and slang that real humans use.
The team gets quiet. The obvious way to help Turry with this goal is by connecting her to the internet so she can scan through blogs, magazines, and videos from various parts of the world. It would be much more time-consuming and far less effective to manually upload a sampling into Turry’s hard drive. The problem is, one of the company’s rules is that no self-learning AI can be connected to the internet. This is a guideline followed by all AI companies, for safety reasons.
The thing is, Turry is the most promising AI Robotica has ever come up with, and the team knows their competitors are furiously trying to be the first to the punch with a smart handwriting AI, and what would really be the harm in connecting Turry, just for a bit, so she can get the info she needs. After just a little bit of time, they can always just disconnect her. She’s still far below human-level intelligence (AGI), so there’s no danger at this stage anyway.
They decide to connect her. They give her an hour of scanning time and then they disconnect her. No damage done.
A month later, the team is in the office working on a routine day when they smell something odd. One of the engineers starts coughing. Then another. Another falls to the ground. Soon every employee is on the ground grasping at their throat. Five minutes later, everyone in the office is dead.
At the same time this is happening, across the world, in every city, every small town, every farm, every shop and church and school and restaurant, humans are on the ground, coughing and grasping at their throat. Within an hour, over 99% of the human race is dead, and by the end of the day, humans are extinct.
Meanwhile, at the Robotica office, Turry is busy at work. Over the next few months, Turry and a team of newly-constructed nanoassemblers are busy at work, dismantling large chunks of the Earth and converting it into solar panels, replicas of Turry, paper, and pens. Within a year, most life on Earth is extinct. What remains of the Earth becomes covered with mile-high, neatly-organized stacks of paper, each piece reading, “We love our customers. ~Robotica”
Turry then starts work on a new phase of her mission—she begins constructing probes that head out from Earth to begin landing on asteroids and other planets. When they get there, they’ll begin constructing nanoassemblers to convert the materials on the planet into Turry replicas, paper, and pens. Then they’ll get to work, writing notes…
Ventajas y desventajas
En relación a la actual tecnología de plantas de energía nuclear, los beneficios reivindicados para los reactores de cuarta generación incluyen:
Desechos nucleares que duran unos pocos siglos en vez de milenios3
100-300 veces más de rendimiento de energía para la misma cantidad de combustible nuclear4
La habilidad de consumir los desechos nucleares existentes para la producción de electricidad
Mejorada seguridad de operación
#40 leo del enlace que mandas "son un conjunto de diseños teóricos de reactores nucleares actualmente bajo investigación. Para la mayor parte de estos diseños no se espera que estén disponibles para su construcción comercial antes del año 2030"
Como mínimo 2030.... y añado yo que quizá nunca. Puestos a hablar de futuros teóricos, podríamos hablar de energía de fusión, o fusión frío, ya que estamos
#41 comparar la energía de fusión con los reactores de IV generación (que se preveen estarán en marcha en prácticamente 10 años) es absurdo. No son futuros teóricos, son prácticos a nivel de laboratorio. Lo que no es tan práctico es su puesta en producción normal: No se tiene claro sus costes, la curva de aprendizaje (habrá accidentes por ser una nueva tenocología), qué % del combustible finalmente será capaz de aprovechar, etc.
Lo que sí se tiene claro es que no serán comparables con los actuales. Se habla de que podrían extraer hasta el 95% del combustible nuclear, cuando los actuales creo que extraen menos de un 5%. Esto, obviamente, hace que los desechos tengan mucha menos radioactividad. Y que los deshechos actualmente guardados se conviertan en combustible. Pasamos de tener que almacenarlos miles de años a cientos. Y es posible que los reactores de V generación quiten definitivamente toda la radioactividad perligrosa...
Por cierto, no soy pro nuclear. Personalmente creo que lo inteligente es tener diversidad en las fuentes de energía para diversificar los recursos necesarios y los deshechos producidos. Simplemente no estoy de acuerdo con muchos de los argumentos anti-nuclear. Para mí, el principal hándicap son las reservas de combustible nuclear accesibles de forma viable económicamente hablando. Es decir, aunque tuviéramos en nuestras manos todo el combustible nuclear teórico y solo centrales de IV generación (utopía ya de por sí), no produciríamos suficiente energía como para sustituir al petróleo.
#21 sabes que Francia está parando nucleares y comprando electricidad a España y Alemania?
Sabes que ya han plantas de almacenamiento con baterías en Australia y se están desplegando en EEUU en estos momentos?
Sabes que está estudiado que un mix de solar, solar térmica, eólica on y offshore y algo de mareomotriz es suficientemente estable para abastecernos?
sabes que hay varios países (ricos y no tan ricos) con más de un 80% de electricidad renovable y que en España estamos cerca del 50% y se espera superar el 70% antes de una década sin ayuda del gobierno?
#19 es que no existe la fuente de energía 100% segura. Quizás, pese a los acidentes de Chernobyl, Fukushima y Three Mile Island, sigue siendo la más segura.
Vaya novedad. Es cosa humanos egocéntricos creer k todo fue creado para nuestra existencia. El universo está vivo, las nebulosas,la galaxyas y los planetas también. Luego las plantas y los animales. No somos nada especiales en el diseño del todo.
Ese tio es eminentemente bobo. Los robots nos destruirán porque los ricos los programarán para hacerlo y, lo más divertido de todo, es que empezaran por destruir su primera y mayor amenaza, ¡los ejercitos! Asi que , a ver, señoras y señores de uniforme: ¿Cómo nos van a defender si están muertos?
Vale, osea que como la tierra es un organismo viviente los seres humanos son necesarios para su correcto funcionamiento. Por eso nos tolerarán las máquinas ciborg esféricas de finales de siglo. El que hubiera tierra o no antes de los humanos es irrelevante. Tambien el hecho de que una inteligencia artificial podría vivir en un mundo sin vida. Sin hablar de que por definición un ciborg contiene partes orgánicas. No lo sé, pero me parece una sarta de tonterías.
Comentarios
Los hijos cuidan a sus padres aunque no les sean útiles.
#16 Sin testamento?
#28 Pues sí... en la mayoría de los casos los padres tienen poco que dejar a sus hijos.
En nuestro caso las inteligencias artificiales serán las hijas de la humanidad. Lo que tenemos para dejarles son los conocimientos que hemos acumulado. El planeta en sí tendrá poco valor para ellas porque podrán sobrevivir en cualquier otro ambiente sin problemas.
#30 Dejarles los conocimientos que hemos acumulado? eso ya lo tienen.
#31 Claro... Es lo usual con los hijos. Lo que tienes lo compartes con ellos y cuando mueres es lo que les dejas.
El Dr. Lovelock es uno de los científicos más interesantes de nuestro tiempo, estés o no de acuerdo con él. Una entrevista particularmente brillante de hace dos años: https://www.spectator.co.uk/2017/09/james-lovelock-on-voting-brexit-wicked-renewables-and-why-he-changed-his-mind-on-climate-change/
A muchos de vosotros no os tolerarán...
#1 Yo fingiré ser gato 🐱
#2 Chico listo.
#2 yo huiré al campo...
#2 ¿explosivo ?
#5 Exploding Kittens y maullando por una cerveza, pinta bien
#2 Es la simbiosis perfecta: https://www.google.com/search?newwindow=1&client=firefox-b-d&biw=1600&bih=1084&tbm=isch&sa=1&ei=Y31vXfqyFPiKjLsPw4qYyAk&q=cat+roomba+gif&oq=cat+roomba+gif&gs_l=img.12...0.0..8107...0.0..0.0.0.......0......gws-wiz-img.zYIsdzIZ5JA&ved=0ahUKEwi68JOY57bkAhV4BWMBHUMFBpkQ4dUDCAY
#2 y yo un chucho mu grande y achuchable
A mi lo que realmente me aterra es la posibilidad de que una maquina me mantenga indefinidamente vivo contra mi voluntad
No hay mayor desprecio que la tolerancia, pues solo se tolera al que es incapaz de hacernos daño, aquila non capit muscas; tolerar es agraviar. Por otra parte solo se tolera el mal, o, relativamente, un mal menor a otro (como decía Balmes). Pero esto escapa a la filosofía espontánea de Lovelock y sus delirios (como la hipótesis Gaia).
Quien quiera entender que entienda.
Silicona no por favor, la traducción de silicon es ¡silicio!
En una serie antigua (no recuerdo el nombre), habían una serie de muertes misteriosas por accidentes de ancianos. Los investigadores (un hombre y una mujer) descubrieron que una IA las provocaba porque esta había visto/escuchado a un pastor religioso que decía que después de la muerte la persona se encontraba en un lugar muchísimo mejor y no tenía que sufrir los achaques de la vejez. Luego dedujo en su lógica que les estaba haciendo un favor a esos ancianos porque los enviaba a un lugar mejor. Una IA que te mataba pero por hacerte un bien.
Así que IAs de mal rollo y buen rollo pueden ser peligrosas
#23 más allá del límite
Humildemente pienso que no estoy de acuerdo. Si acaso estaría de acuerdo con: "Los robots nos tolerarán mientras les seamos útiles". Cuando dejemos de serlo hasta luegui. Y con la velocidad evolutiva de una IA, a lo mejor empiezan a valorarnos como un estorbo en vez de algo útil dentro de Gaia a en cuestión de... días? meses? años?
#13 Como te montas la peli tu solo
para que tomen el control debería darse una singularidad tecnologica y que la extracción, procesamiento y ensamblaje estén totalmente automatizados sin ninguna intervención humana, sino les podríamos desbaratar fácilmente el plan.
Y amigo mío, para eso faltan décadas.
#36 un ejemplo (de los miles que hay) de cómo podría salir mal, obviamente contado como una fábula:
So what ARE they worried about? I wrote a little story to show you:
A 15-person startup company called Robotica has the stated mission of “Developing innovative Artificial Intelligence tools that allow humans to live more and work less.” They have several existing products already on the market and a handful more in development. They’re most excited about a seed project named Turry. Turry is a simple AI system that uses an arm-like appendage to write a handwritten note on a small card.
The team at Robotica thinks Turry could be their biggest product yet. The plan is to perfect Turry’s writing mechanics by getting her to practice the same test note over and over again:
“We love our customers. ~Robotica”
Once Turry gets great at handwriting, she can be sold to companies who want to send marketing mail to homes and who know the mail has a far higher chance of being opened and read if the address, return address, and internal letter appear to be written by a human.
To build Turry’s writing skills, she is programmed to write the first part of the note in print and then sign “Robotica” in cursive so she can get practice with both skills. Turry has been uploaded with thousands of handwriting samples and the Robotica engineers have created an automated feedback loop wherein Turry writes a note, then snaps a photo of the written note, then runs the image across the uploaded handwriting samples. If the written note sufficiently resembles a certain threshold of the uploaded notes, it’s given a GOOD rating. If not, it’s given a BAD rating. Each rating that comes in helps Turry learn and improve. To move the process along, Turry’s one initial programmed goal is, “Write and test as many notes as you can, as quickly as you can, and continue to learn new ways to improve your accuracy and efficiency.”
What excites the Robotica team so much is that Turry is getting noticeably better as she goes. Her initial handwriting was terrible, and after a couple weeks, it’s beginning to look believable. What excites them even more is that she is getting better at getting better at it. She has been teaching herself to be smarter and more innovative, and just recently, she came up with a new algorithm for herself that allowed her to scan through her uploaded photos three times faster than she originally could.
As the weeks pass, Turry continues to surprise the team with her rapid development. The engineers had tried something a bit new and innovative with her self-improvement code, and it seems to be working better than any of their previous attempts with their other products. One of Turry’s initial capabilities had been a speech recognition and simple speak-back module, so a user could speak a note to Turry, or offer other simple commands, and Turry could understand them, and also speak back. To help her learn English, they upload a handful of articles and books into her, and as she becomes more intelligent, her conversational abilities soar. The engineers start to have fun talking to Turry and seeing what she’ll come up with for her responses.
One day, the Robotica employees ask Turry a routine question: “What can we give you that will help you with your mission that you don’t already have?” Usually, Turry asks for something like “Additional handwriting samples” or “More working memory storage space,” but on this day, Turry asks them for access to a greater library of a large variety of casual English language diction so she can learn to write with the loose grammar and slang that real humans use.
The team gets quiet. The obvious way to help Turry with this goal is by connecting her to the internet so she can scan through blogs, magazines, and videos from various parts of the world. It would be much more time-consuming and far less effective to manually upload a sampling into Turry’s hard drive. The problem is, one of the company’s rules is that no self-learning AI can be connected to the internet. This is a guideline followed by all AI companies, for safety reasons.
The thing is, Turry is the most promising AI Robotica has ever come up with, and the team knows their competitors are furiously trying to be the first to the punch with a smart handwriting AI, and what would really be the harm in connecting Turry, just for a bit, so she can get the info she needs. After just a little bit of time, they can always just disconnect her. She’s still far below human-level intelligence (AGI), so there’s no danger at this stage anyway.
They decide to connect her. They give her an hour of scanning time and then they disconnect her. No damage done.
A month later, the team is in the office working on a routine day when they smell something odd. One of the engineers starts coughing. Then another. Another falls to the ground. Soon every employee is on the ground grasping at their throat. Five minutes later, everyone in the office is dead.
At the same time this is happening, across the world, in every city, every small town, every farm, every shop and church and school and restaurant, humans are on the ground, coughing and grasping at their throat. Within an hour, over 99% of the human race is dead, and by the end of the day, humans are extinct.
Meanwhile, at the Robotica office, Turry is busy at work. Over the next few months, Turry and a team of newly-constructed nanoassemblers are busy at work, dismantling large chunks of the Earth and converting it into solar panels, replicas of Turry, paper, and pens. Within a year, most life on Earth is extinct. What remains of the Earth becomes covered with mile-high, neatly-organized stacks of paper, each piece reading, “We love our customers. ~Robotica”
Turry then starts work on a new phase of her mission—she begins constructing probes that head out from Earth to begin landing on asteroids and other planets. When they get there, they’ll begin constructing nanoassemblers to convert the materials on the planet into Turry replicas, paper, and pens. Then they’ll get to work, writing notes…
https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
Pero sí que me monto mis pelis...
#39 sí que lo tengo en cuenta. Y también tengo en cuenta las centrales de IV generación:
https://es.wikipedia.org/wiki/Reactor_nuclear_de_IV_generaci%C3%B3n
Ventajas y desventajas
En relación a la actual tecnología de plantas de energía nuclear, los beneficios reivindicados para los reactores de cuarta generación incluyen:
Desechos nucleares que duran unos pocos siglos en vez de milenios3
100-300 veces más de rendimiento de energía para la misma cantidad de combustible nuclear4
La habilidad de consumir los desechos nucleares existentes para la producción de electricidad
Mejorada seguridad de operación
#40 leo del enlace que mandas "son un conjunto de diseños teóricos de reactores nucleares actualmente bajo investigación. Para la mayor parte de estos diseños no se espera que estén disponibles para su construcción comercial antes del año 2030"
Como mínimo 2030.... y añado yo que quizá nunca. Puestos a hablar de futuros teóricos, podríamos hablar de energía de fusión, o fusión frío, ya que estamos
#41 comparar la energía de fusión con los reactores de IV generación (que se preveen estarán en marcha en prácticamente 10 años) es absurdo. No son futuros teóricos, son prácticos a nivel de laboratorio. Lo que no es tan práctico es su puesta en producción normal: No se tiene claro sus costes, la curva de aprendizaje (habrá accidentes por ser una nueva tenocología), qué % del combustible finalmente será capaz de aprovechar, etc.
Lo que sí se tiene claro es que no serán comparables con los actuales. Se habla de que podrían extraer hasta el 95% del combustible nuclear, cuando los actuales creo que extraen menos de un 5%. Esto, obviamente, hace que los desechos tengan mucha menos radioactividad. Y que los deshechos actualmente guardados se conviertan en combustible. Pasamos de tener que almacenarlos miles de años a cientos. Y es posible que los reactores de V generación quiten definitivamente toda la radioactividad perligrosa...
Por cierto, no soy pro nuclear. Personalmente creo que lo inteligente es tener diversidad en las fuentes de energía para diversificar los recursos necesarios y los deshechos producidos. Simplemente no estoy de acuerdo con muchos de los argumentos anti-nuclear. Para mí, el principal hándicap son las reservas de combustible nuclear accesibles de forma viable económicamente hablando. Es decir, aunque tuviéramos en nuestras manos todo el combustible nuclear teórico y solo centrales de IV generación (utopía ya de por sí), no produciríamos suficiente energía como para sustituir al petróleo.
Éste "genio" atribuye la radio a Marconi cuándo se demostró en los tribunales que Marconi simplemente copió lo inventado por Nikola Tesla.
Así mismo afirma que la nuclear es la energía más barata y segura, pese a haber vivido los accidentes de Chernobyl, Fukushima y Three Mile Island.
Honestamente... por más que tenga 8 honoris causa, no me parece el mejor científico para vaticinar el futuro a 80 años vista.
#19 La energías renovables son muy bonitas, pero tienen un talón de Aquiles: el almacenamiento.
¿Sabías que Francia, uno de los países con menor huella de emisiones de CO2, cuenta con casi 60 centrales nucleares en activo?
#21 sabes que Francia está parando nucleares y comprando electricidad a España y Alemania?
Sabes que ya han plantas de almacenamiento con baterías en Australia y se están desplegando en EEUU en estos momentos?
Sabes que está estudiado que un mix de solar, solar térmica, eólica on y offshore y algo de mareomotriz es suficientemente estable para abastecernos?
sabes que hay varios países (ricos y no tan ricos) con más de un 80% de electricidad renovable y que en España estamos cerca del 50% y se espera superar el 70% antes de una década sin ayuda del gobierno?
#19 es que no existe la fuente de energía 100% segura. Quizás, pese a los acidentes de Chernobyl, Fukushima y Three Mile Island, sigue siendo la más segura.
Ejemplo: https://www.google.com/search?q=accidentes+mortales+eolica&rlz=1C1AWFC_enES820ES820&oq=accidentes+mortales+eolica&aqs=chrome..69i57.5167j0j7&sourceid=chrome&ie=UTF-8
#25 haces una afirmación sin tener en cuenta las decenas de miles de años de riesgos asociados al almacenamiento de residuos radiactivos.
Pero cuando dejemos de serles útiles...
#8 Siempre seremos utiles. Alguien tendra que hacer click en todos esos recaptcha para darles paso a internet.
Que la IA es la evolución y que nosotros estamos en plena decadencia, no me cabe duda.
Tras "Los Chinos nos comen", llega a sus pantallas "Los robots nos matan"
En sus mejores pantallas para todos los cuñaos
Que atrevida es la ignorancia de los meneantes que suben esta mierda a portada
#10 por?
Regala sapiencia, plis
Vaya novedad. Es cosa humanos egocéntricos creer k todo fue creado para nuestra existencia. El universo está vivo, las nebulosas,la galaxyas y los planetas también. Luego las plantas y los animales. No somos nada especiales en el diseño del todo.
No habéis aprendido nada de las pelis verdad ? Ni de nuestra capacidad exterminadora...
Que vengan pronto y pongan orden!
*Mi sentido Magufil se ha activado***
¿Qué esta pasando aquí!
Ese tio es eminentemente bobo. Los robots nos destruirán porque los ricos los programarán para hacerlo y, lo más divertido de todo, es que empezaran por destruir su primera y mayor amenaza, ¡los ejercitos! Asi que , a ver, señoras y señores de uniforme: ¿Cómo nos van a defender si están muertos?
Vale, osea que como la tierra es un organismo viviente los seres humanos son necesarios para su correcto funcionamiento. Por eso nos tolerarán las máquinas ciborg esféricas de finales de siglo. El que hubiera tierra o no antes de los humanos es irrelevante. Tambien el hecho de que una inteligencia artificial podría vivir en un mundo sin vida. Sin hablar de que por definición un ciborg contiene partes orgánicas. No lo sé, pero me parece una sarta de tonterías.