Las 3 etapas de la Inteligencia Artificial: en cuál estamos y por qué muchos piensan que la tercera puede ser fatal

3. Súper Inteligencia Artificial (ASI) La preocupación de estos científicos informáticos tiene que ver con una teoría muy establecida que sostiene que, cuando alcancemos la AGI, poco tiempo después se arribará al último estadio en el desarrollo de esta tecnología: la Artificial Superintelligence, que ocurre cuando la inteligencia sintética supera a la humana. El filósofo de la Universidad de Oxford y experto en IA Nick Bostrom define a la súper inteligencia como "un intelecto que es mucho más inteligente que los mejores cerebros humanos

[#1 Perrota]

Si, llevamos 100 años llenando el planeta de plástico y veneno, y ahora tememos que una inteligencia artificial nos aniquile. Tiene tela la cosa.

[#15 CrudaVerdad]

https://www.psicologia-online.com/tecnofobia-miedo-a-la-tecnologia-que-es-sintomas-causas-y-tratamiento-6159.html
Tecnofobia (miedo a la tecnología): qué es, síntomas, causas y tratamiento

https://www.lavanguardia.com/historiayvida/historia-antigua/20201103/790783/miedo-tecnologia-escritura-5g.html
¡Atrás! El miedo a la tecnología, desde la escritura al 5G

Cito:
En su diálogo Fedro, Platón pone en boca de Thamus, “soberano de todo Egipto”, su opinión sobre la escritura: “Es obvio lo que producirán [las letras] en las almas de quienes las aprendan, al descuidar la memoria, ya que, fiándose de lo escrito, llegarán al recuerdo desde fuera, a través de caracteres ajenos, no desde dentro, desde ellos mismos y por sí mismos”.

Es más, Thamus alerta de la ignorancia a la que puede conducir la escritura en quienes la aprendan: “Parecerá que tienen muchos conocimientos, siendo, al contrario, en la mayoría de los casos, totalmente ignorantes, y difíciles, además, de tratar porque han acabado por convertirse en sabios aparentes en lugar de sabios de verdad”.

[#7 gregoriosamsa]

#1 venía a comentar eso, es tremendo que nos consigan asustar con argumentos de ciencia-ficcion cuando mucho antes estaremos malviviendo por haber destruido el planeta que nos mantiene.

[#10 Simplemind]

El mejor párrafo lo dejaron para el final:

"El peor escenario no es que haya guerras de humanos contra robots. Lo peor es que no nos demos cuenta de que estamos siendo manipulados porque estamos compartiendo el planeta con un ente que es mucho más inteligente que nosotros".

[#12 Desactivado]

#10 Pues lo que viene siendo un matrimonio común.

[#14 CrudaVerdad]

#10 ¡Que horror! No hay nada como las sagradas tradiciones de ser manipulados por políticos corruptos, periodistas vendidos, pastores religiosos hipócritas o empresaurios que desprecian la vida de sus trabajadores. No, jamás aceptaremos una IA que nos de órdenes, sin importar lo lógicas que sean e inclusive nos beneficien a todos. La humanidad prefiere bañarse en la diarrea de dirigentes humanos que en el maná que de la Inteligencia Artificial.

[#6 ur_quan_master]

- la IA puede ser peligrosa.
- excelente. Ahora denle armas.

[#19 FooDev]

#10 Me encanta. Estamos creando a Dios.

[#11 Triborato]

#10 pues si un ente mucho más inteligente nos manipulara ya estaríamos mejor que ahora!

[#23 Desactivado]

#19 Ya lo predijo Asimov

[#72 Tuatara]

#7 Hay gente que cuando explicaba a lo que me dedicaba antes, pensaban que era un exagerado, que mentía un poquito, o incluso que podía de alguna manera estar haciendo política/marketing (proyectos de investigación relacionados con el cambio climático).
Pero estas cosas se las comían a doble carrillo en plan "esto si que es importante".

Meteorito inminente, núcleo de la tierra que se para, Skynet, advenimiento de Jesús; todo era muy factible y algo a temer, pero la presencia de microplásticos, la muerte por anoxia en el mar, ralentizamiento de corrientes marinas,... No. Todo eso eran las chorradas que me invento para robar dinero a través de impuestos.

[#53 Deathmosfear]

#8 Pues entonces escucha la música de antes. Hoy en día con Internet no hay problema. Nada te impide ponerte a escuchar Elvis o Bach.

[#70 jra07]

Pues yo creo que solo alcanzaremos la AGI, la IA solo llegará a la misma inteligencia que una persona normal, pero será suficiente con eso para someternos porque la humanidad se volverá gilipollas. Si ahora no sabemos hacer operaciones aritmeticas sin una calculadora, nuestros descendientes no sabrán ni pensar, se pasarán el dia discutiendo sobre los chemtrails, los reptilianos y si la tierra es plana o no, escuchando reggaeton y viendo remakes chungos de peliculas y series.

[#30 BM75]

#8 Dijeron tus abuelos a tus padres, y tus padres a ti, y dices tú ahora...

[#33 abnog]

#4 No problem:

[#26 flixter]

#10 cualquier hombre heterosexual casado durante un par de años puede dar fe de la última frase

[#82 ContinuumST]

Espero que esa super-mega-tope-inteligencia sea capaz de resolver... la hipótesis de Riemann, las ecuaciones de Navier-Stokes, P versus NP, la conjetura de los números primos gemelos... y la lista de problemas matemáticos sin resolver aun. Ah, bueno y los resolverá todos y en media hora, claro.
Si es que te tienes que reír... En fin.

[#13 Simplemind]

#11 #12 creo que no podemos ni imaginar que relación tendríamos con un engendro así. Seríamos como un gato, un perro o cualquier animal para nosotros a nivel de inteligencia. Y otra, que el artículo no comenta, una IA en un ordenador cuántico tiene límite?

[#39 chavi]

#22 No sabemos hacer uno grande, pero uno miniaturizado está chupado...

Joder con la ciencia ficción

[#17 Toranks]

#13 Pues yo quiero y cuido muy bien a mis gatos

[#85 Windows95]

#54 Los hombres están hechos por otros hombres, jaque mate

[#38 dilsexico]

#27 Si eso se puede hacer da por hecho que alguien lo hara mas tarde o mas temprano al igual que si solo necesitaramos un microondas y papel de aluminio para hacer una bomba atomica hace tiempo que nos habriamos extinguido...
https://img-9gag-fun.9cache.com/photo/aBdEj5P_460svvp9.webm

[#51 BM75]

#35 No te quedes mirando el dedo. Se entiende perfectamente lo que he querido decir, más allá de anécdotas personales.

[#27 danip2]

#10 Para mi el peor escenario es que alguien le pregunte a una IA como fabricar un virus mortal y contagioso como la gripe.

[#106 ContinuumST]

#91 Claro, evidentemente que van a tener un botón de apagado a mano. Eso está claro.
Imagina una IA que se sabe de memoría todo los libracos de Derecho y que es capaz de legislar objetivamente... ¿cuántos segundos duraría en marcha? Pocos.
Mira los coches de autoconducción... ya sé, ya sé lo que repite una y otra vez... mejorarán con el tiempo. Claro. (Tono irónico.)
Si es que el problema de base es mayor... es definir qué es inteligencia. Ahora todo es "smart"... antes todo era "robot de"... Más antes la informática acabaría con el papel, y JAJA... Si es que nos comemos las hipérboles a pares... Y esto de las superIAs es una venta interesada de algo para colocarnos algún producto a medio plazo.
Además cómo se puede saber que una IA es más "inteligente" (llámalo equis) que un humano... que todos los humanos, perdón... porque los tests de inteligencia ya no se les pueden aplicar. ¿Le preguntamos por el origen del Universo? Me apuesto a que dice que no tiene datos suficientes, jajajaja. En fin... es mi visión.

[#101 ContinuumST]

#96 No lo sé, tengo mis dudas, serias dudas. Sobre todo por esa parte de 100 veces más inteligente... ¿qué es la inteligencia? Y no me digas que es mayor poder de cálculo porque definitivamente no es eso.

[#35 herlocksholmes]

#30 No siempre, a mi padre le gustaba Kortatu, la polla records, barricada,... Y tenía 60 años en los 80

[#43 llorencs]

#25 La IA puede llegar a tener todas las condiciones para ser una vida sintética.

[#123 ContinuumST]

#122 Ya te digo que no lo sé. Realmente no lo sé. Me cuesta encajar esa "superioridad"... entiendo que la velocidad de cálculo de un ordenador es MUY superior a la de una persona estándar, pues sí. Son mucho más rápidos haciendo tareas concretas. Pero fíjate que una tarea tan "sencilla" (comillas) como andar a los robots que hay en la actualidad les cuesta bastante, no es sólo andar en suelo llano, es detectar nieve, arena, piedras, suelos móviles, resbaladizos, etc. Y fíjate que es algo casi mecánico que pasa por partes del cerebro semiautomáticas. Esto ya es todo un reto para los ingenios mecánicos actuales. Imagínate el reto de pensar, de auto reconocerse, de... mil procesos mentales de origen bastante dudoso a nivel neuronal y su compleja mecánica. En fin, que no lo sé, pero me temo que no será ni lo que venden, ni cuánto se tardará en llegar a SIMULAR el pensamiento humano.

[#59 Deathmosfear]

#15 Pues sí, igualito Miguel Bosé teniendo miedo de que nos inoculen chips con 5G a Stephen Hawking previniendo sobre las IAs.

[#63 KaborlllLLLONE]

#8 eso suena más a un problema tuyo más que a la realidad artística de hoy en día. No tienes razón.

[#56 osids]

#37 define vida

[#87 Ka0]

#6 La IA ya es peligrosa. ¿Nadie se da cuenta que ya estamos en el nivel 2?
ANI+IH(inteligencia humana)= AGI
Cualquier descerebrado con una IA puede mandarnos a la mierda ya.
Se pueden entrenar para cosas muy malvadas y si se puede, antes o después alguien lo hará, dudo que lleguemos al nivel 3.

https://www.elconfidencial.com/tecnologia/novaceno/2022-09-14/virus-inteligencia-artificial-terrorismo-militar_3489780/

[#8 aaabbbcccddd]

Yo tengo ganas a ver si empieza a ser suficientemente buena alguna que genere música porque lo que hay actualmente no vale para nada

[#79 aaabbbcccddd]

#63 Que IA genera música con calidad similar a las que generan texto o generan imágenes?

[#84 aaabbbcccddd]

#80 ya, que todavía no hay. Lo más avanzado es una cosa de Google que se llama MusicLM. Pero no está abierta y solo han publicado ejemplos.

https://google-research.github.io/seanet/musiclm/examples/

[#97 rojo_separatista]

#7, la diferencia es sustancial, ni la contaminación, el cambio climático, el agotamiento de recursos naturales, puede acabar con la especie humana y además son amenazas que progresan de forma lineal. La IA sí puede y podría crecer de forma exponencial.

Pensaba que después del Covid habríamos aprendido algo pero veo que no.

[#117 ContinuumST]

#114 Pues nada, díselo a estos profesionales, que tú ya lo tienes resuelto. https://es.wikipedia.org/wiki/Inteligencia

[#118 ContinuumST]

#109 No, esto no es un ranking ni nada de eso... los chimpancés tienen SU inteligencia, los gorilas la suya concreta... el pulpo la suya, los delfines... etc. Pero no es un ranking de las "mejores 10 inteligencias del planeta"... Jajajaja.
https://psicologiaymente.com/inteligencia/inteligencia-animal-thorndike-kohler

[#121 ContinuumST]

#119 Pues verás... sinceramente no entiendo la frase. Eso sí, es un texto dadaísta casi perfecto.
Te doy otra de un prestigioso psicólogo: "Inteligencia es lo que usamos cuando no sabemos qué hacer". ¿Qué te parece?

[#5 Cuchifrito]

#4 Sí vamos, te refieres a interactuar con el mundo físico. Ahora mismo no existen suficientes robots para hacer funcionar toda la cadena industrial, pero no hay ningún impedimento técnico para construirlos, habiendo una IA que los opere.

[#94 Antonovsky]

#7 El problema no es el auge de la Inteligencia Artificial, sino el auge de la Estupidez Humana.

[#116 doze]

#96 Todo esto es ciencia ficción dura. Las IA actuales sólo saben repetir lo que se les ha enseñado. Si le pides que demuestre que la diagonal de un cuadrado es un número irracional, te lo hará, pero solamente porque se ha leido la demostración antes. Si le pides algo que no tiene, no lo podrá hacer de ninguna de las maneras, salvo inventando tonterías.

No hace falta irse a problemas sin resolver. No pueden ni con la cosita más sencilla.

[#145 Stv.2]

#113 Es que entonces te falto "les hombres" sería el autocorrector... el autocorrector machista.

[#20 Peter086]

Hmmmm... mucho más inteligentes y sin egos o avaricia, sin nueras ilógicas ni revanchismo.... . No sé, quizás no sea tan terrible servir a una máquina.

[#77 rillsuionn]

#15 La mejor respuesta que he visto hasta ahora

[#107 Fernando_x]

#15 Aún más antiguo, el mito de Prometeo explica que todos los males de la humanidad vienen de la tecnología. Prometeo robó el fuego a los dioses y se lo entregó a los humanos. Como castigo por ello, Zeus dio la caja con todos los males a Pandora, que la abrió.

Es decir, que por culpa de las tecnologías, empezando con la más antigua, la capacidad de hacer fuego, estamos como estamos.

[#139 gotxi85]

#132 Bueno, la computación cuántica lo que permite es realizar determinadas operaciones varios órdenes de magnitud más rápido que una computadora clásica, aunque para otros problemas específicos, una computadora clásica es mejor que una computadora cuántica. No son mejores en todo, pero en determinados problemas son increíblemente mejores.

Una IA que se apoye en un ordenador cuántico, será increíblemente rápida realizando operaciones, por lo que si itera sobre ellos puede alcanzar soluciones mucho más rápidamente que una computadora clásica.

Otra cosa es que las conclusiones que saque sean buenas, que eso recaerá en lo bueno que sea el dataset de entrenamiento, en la cantidad de horas que haya entrenado y en lo bueno que sea el modelo.

Más rápido no significa mejor, sólo significa antes.
Sí que es cierto que entrenar modelos en una computadora cuántica será mucho más rápido y por tanto podrás entrenar más parámetros en mucho menos tiempo por lo que "debería ser mejor IA" en cuanto a calidad se refiere, pero no tendría por qué arrojar resultados mucho mejores que los que tenemos actualmente si el modelo no cambia.

[#2 Desactivado]

#1 la IA no puede vivir sin humanos. Todavía.

[#4 Desactivado]

#3 Energía.

[#16 Desactivado]

#12 Jajajajaja

[#32 avalancha971]

¿Qué vamos a morir? Yo recordaba más fases.

Yo qué voy a morir, yo qué voy a morir.

[#52 gotxi85]

#13 No sé a qué te refieres con límite, pero todo tiene límites. Si te refieres a la capacidad de computación, claro que tiene límites, sea cuántico o no.

Un ordenador cuántico es especialmente bueno resolviendo determinadas operaciones, aunque precisamente las operaciones que habitualmente realiza una IA son perfectas para un ordenador cuántico, por lo que una IA funcionando bajo un ordenador cuántico será muchísimo más rápida, lo que le permitirá procesar la información mucho más rápido.

Pero el límite será la capacidad de procesamiento de dicho ordenador cuántico.

[#95 EntreBosques]

#8 Hoy en día se hace de todo y muy bueno también. La nostalgia te nubla.

[#47 Jajjajajjajajja]

#28 y con piña!
Amén

[#55 Deathmosfear]

#28 Yo le di a chatGPT 3 ingredientes (chocolate, mejillones y pimiento rojo), le pedí que me hiciera una receta con eso y la hizo. Evidentemente no la probé

[#9 Desactivado]

#2 Todavía.

[#29 BM75]

#1 Bueno, son temas que poco tienen que ver...

[#46 almogabares]

#10 no hace falta que sea muy inteligente para que manipule a la mayoría, si lo hacen los políticos que parecen que sufren diarrea mental como poco, una ia lo tiene chupado.

[#128 doze]

#127 Sí, por eso que sabemos que es posible.

[#3 Cuchifrito]

#2 ¿Por?

[#65 santim123]

#63 a toda generación, la música de la generación anterior le parecía una mierda. Pero ahora es que hay exceso de música a un click y alguien sin mínima formación musical no sabe diferenciar la calidad de la moda.

[#69 santim123]

#11 Cuando los gobiernos se den cuenta de que la nueva bomba atómica está en manos de empresas y no de ellos, ya meterán mano.

[#100 Desactivado]

#54 Salvo que alguien le programe eso y ella lo desarrolle.

[#126 BuckMulligan]

#15 «Fundamentalmente, sólo nuestros propios pensamientos básicos poseen verdad y vida, puesto que son estos los que entendemos profundamente. Los pensamientos de otro que hemos leído son migajas en su mesa, la ropa tirada de un invitado extraño..»... - Arthur Schopenhauer

[#34 pelotarimanco]

#27 Acto seguido alguien le pedirá una vacuna fácil de producir.

[#36 chavi]

Luego alcanzaremos la inteligencia que lo sabe todo. Lo pasado, presente y futuro.

Puestos a soltar chorradas...

[#37 chavi]

#2 La IA no está viva. Por lo tanto, no puede vivir a secas

[#40 chavi]

#13 El gato o perro es el. En el mejor de los casos. Lo hemos fabricado nosotros

[#45 chavi]

#44 Te refieres a que no hay ninguna posibilidad de hacer ninguna de las dos?

Define "relativamente compacto".

[#81 pelotarimanco]

#66 Nada se puede resistir al poder de una buena IA.

[#83 woopi]

#12

[#86 Windows95]

#28 El Dios-cuervo es Odín. Mucho mejor que otros dioses, sin duda.

[#113 Windows95]

#110 Hombres es el neutro de hombros y hombras

[#137 chavi]

#136 Si fábricas un generador de enegía que en lugar de generar energía la gasta, no estás fabricando un generador de energía que es de lo que estamos hablando

[#142 herlocksholmes]

#51 Y lo peor es que me empieza a gustar el reguetón y el trap

[#41 Cineojo]

Por fin, alguien no dirá dónde están los calcetines que siempre desaparecen!

[#102 Tertuliano_equidistante]

#93 Hay muchos tipos de inteligencia, puede que no todos sean fáciles de desarrollar.

[#103 Toad]

La IA de momento solo son algoritmos de tratamientos de datos o interpoladores muy sofisticados. De ahí a tener una AI que entienda el significado de los datos hay todavía un salto muy grande.

[#130 Simplemind]

#14 La cuestión es que una inteligencia superior a la de los humanos puede llegar a conclusiones, ideas, diseños, etc que ni se nos ocurrirían a nosotros en mil años.

Las mentes de Leonardo da Vinci, Mozart, Newton, Einstein... Por decir solo 4 han hecho avanzar a la humanidad pero hemos evolucionado poco a poco en nuestro conocimiento. Cuánto tiempo útil tiene una mente humana? (los años jóvenes de los genios suelen ser los más brillantes, pero en su etapa final de la vida no surgen tantas ideas disruptivas)

Las IA al paso que van, como dice el artículo, superarán la capacidad del hombre y no sufrirán de envejecimiento ni de muerte. No sabemos hasta que nivel de conocimiento y creatividad llegarán. Creo que el salto que van a provocar en nuestra especie-civilización va a ser bestial aunque surgiran problemas como resultado del choque de sus pensamientos y nuestras actuaciones sobre el planeta y el sistema económico.

Aceptaremos que una máquina nos diga "eso no de hace" o "tu actividad económica está provocando un desajuste en la sociedad" o "debéis morir un 80% de vosotros si queréis seguir viviendo en este planeta"?

[#132 Simplemind]

#52 Por tanto una IA sobre procesos de computación cuánticos será un bicho de cuidado. Resolverá problemas impensables para nosotros, hará diseños perfectos para unas condiciones dadas, y llegará a conclusiones que escapan de nuestra capacidad, entre otras muchas cosas que no podemos ni imaginar. Seremos a su salo como un perrito intentando hacer una división.

[#133 Nómada_sedentario]

#10 vamos a ser esclavos de la IA y no importará que nos demos cuenta de ello o no. Nos parecerá bien porque será la mejor opción considerando la alternativa.

[#58 osids]

Cómo sino nos manipularan y utilizarán ya

[#88 ralph]

#10 Pues la única diferencia con lo que ha sucedido (y sucede) siempre es quién lo hace... y siempre ha cambiado... así que no veo diferencia, en realidad...

[#98 JMorell]

¡Hallelujah!

[#99 Desactivado]

#8 Jamendo, Magnatune. Empieza por Diablo Swing Orchestra, Revolution Void, Electronic Society Tunguska...
#30, #53, #63

[#143 BM75]

#142 A mí hay artistas que me gustan, y voy a entrar en el medio siglo

[#24 Peter086]

#21 Me refiero a cuando no necesite de nuestra ayuda para alcanzar sus conclusiones. La pregunta es ¿opinará que le conviene aliarse con los poderosos o decidirá hacerles cumplir las mismas reglas?

[#50 walk_kindly_shout]

La tercera te sorprenderá. Titular sensacionalista.

[#61 gotxi85]

#42 No existe límite conocido para el conocimiento.
Una superinteligencia a diferencia de los humanos, tiene uno o varios objetivos, marcados por humanos o por ella misma. No tendrá debates filosóficos acerca de quien es o de donde viene o a donde va porque lo tiene muy claro.

[#62 gotxi85]

#41 Siempre puedes acudir a tu madre o pareja para decirle que los has buscado por todos lados y a que van y los encuentran.

[#66 danip2]

#34 Depende de como mute podría no existir vacuna.

[#68 danip2]

#38 SI algo puede matar a la humanidad es un virus o una bacteria solo tienes que ver la historia.

[#71 feelbad]

#11 salvo que decidiera que hay un conjunto de átomos, de basura orgánica quw gasta demasiada energia o lo que fuera y decidiera q sobramos.

[#73 feelbad]

#14 y quien te dice q le vamos a gustar. Que va a considerar q nuestra superviviencia le pone en peligro. O q gastamos demasiada energia o que no somos lo suficientemente eficaces y sobramos.

[#74 Desactivado]

#60 Yo he venido a hablar de mi libro. Leer el artículo ya tal.

[#75 feelbad]

#15 no acabas de entender. Las IA no son tostadoras

[#76 feelbad]

#27 o que lo decidan ella para acabar con nosotros, basura orgánica molesta e ineficiente

[#78 feelbad]

#69 me dejas más tranquilo. En manos de gobiernos jajajajajajja

[#80 KaborlllLLLONE]

#79 No cambies de tema.