El avance imparable de la inteligencias artificial (IA) comportará -si no lo hace ya- grandes avances para la humanidad. Sin embargo, al mismo tiempo también la pondrá en riesgo, hasta el punto incluso de provocar nuestra propia extinción ante la pérdida de control de la tecnología. Lo alertan 25 reputados científicos a escala mundial en un artículo publicado en la revista Science esta semana.
#8:
#2 Va a ser peor que Skynet. En vez de iniciar una guerra mundial, nos va a dejar a la gran mayoría si trabajo y va a enriquecer (aún más) a unos pocos.
#11:
O sea que al final la IA será buena para el planeta.
Hace unas decadas que la humanidad ya firmó su sentencia de muerte a través del capitalismo desbocado, así que la IA como mucho acelerará el proceso, ni tan mal 🔥
A ver, vamos a ver si estos señores se centran un poco... veamos qué áreas pueden ser cruciales... leyes, juicios, jueces... nadie, nadie de nadie de nunca va a dejar en manos de un sofisticado programa aplicar las leyes, juzgar o condenar... ¿por qué? Bien sencillo, porque un humano juez puede doblegar las leyes al entenderlas de un modo o de otro para fines equis. Trabajos físicos, pues como que no... a menos que se lleguen a construir robots andantes o rodantes para esos trabajos... y estos me parece que son demasiado caros para cambiar un desagüe o reparar una avería eléctrica... más barato un currito que además lleva ya la inteligencia (la que sea) puesta de serie. Militares... si hoy en día hay doble y triple revisión de posibles lanzamientos de nucleares no van a dejar de perder ese PODER humano de "darle" al botón cuando convenga. Robots soldados... puede ser... pero son caros un humanito es barato y además lleva de serie el cerebro... En fin, podría seguir...
#20 Pues que creer que una inteligencia artificial fuerte es necesariamente controlable y confinable está mucho más cerca de un deseo improbable que de una certeza.
#25 Pero a ver... ¿esa inteligencia artificial es autónoma? ¿Está conectada a una red mundial? ¿Tiene objetivos propios? Y mil detalles concretos que hay que responder antes de pensar en algo omnímodo como lo que planteas.
¿Y estos reputados científicos no deberían de saber ya que el término "Inteligencia Artificial "aplicado a las IAs generativas en boga es más un término de márketing que otra cosa, y que en realidad son analizadores estocásticos muy avanzados?
#13 Teniendo en cuenta que son todos expertos en IA estoy casi segura de que ya lo saben.
El titular es grandilocuente, pero es lo que dicen en el artículo. A mí también me parece ciencia ficción, pero firman personas que no solamente han dedicado parte de su vida a la IA, también trabajan con ella ahora mismo. En todo caso, la carta no se limita a eso, tiene recomendaciones sobre control a la IA que son muy razonables. Supongo que querrán llamar la atención.
#13, que tu te hayas enterado hace un año que existe una cosa que se llama Inteligencia Artificial, no significa que no sea un campo de investigación en el que se trabaja desde hace décadas cuyo termino se acuñó en los años cincuenta del siglo pasado pero parece que es ahora, cuando se está viendo claramente todo su potencial, cuando más molesta.
#2 Va a ser peor que Skynet. En vez de iniciar una guerra mundial, nos va a dejar a la gran mayoría si trabajo y va a enriquecer (aún más) a unos pocos.
#8 no tiene porqué, ya que en algunas versiones de Terminator, skynet usaba a los humanos como esclavos, así que aún habrá trabajos que se puedan hacer
Hay algo que no se esta teniendo en cuenta en la AI y es que paralelamente esta avanzando la computación quantica.
a 20/30 años vista imaginad la evolución de una Ai, + la potencia de un ordenador quántico.
#0 "Puede provocar la ..." ¿Qué? ¿Qué puede provocar? Como meneante medio que solo lee el titular no voy a dormir esta noche pensando en qué puede provocar la IA
Edit: lo has arreglado. Ahora me quedo más tranquilo.
, es sorprendente que después de ver modelos que a pesar de que en muy pocos años hemos pasado de modelos que apenas podían escribir media frase sin dar auténtica pena, tenemos modelos que dibujan, componen canciones o escriben mejor que la inmensa mayoría de humanos, todavía haya gente que diga que esto no da más de sí.
Y encima ninguneando la opinión gente que lleva toda la vida dedicada a esto cuyas mentes son de las más brillantes que existen en la actualidad... En fin, nada que no hayamos visto antes con el tema del cambio climático.
Skynet tomará conciencia de si misma el 7 de Julio y saldrá en la primera carrera de los San Fermines en Pamplona tras esto se estampará en la curva de la calle estafeta, un toro la reventará por dentro y se acabó la puta IA. Y si eso ya cierro al salir
#26 Si entras en el detalle del significado de "tomar consciencia" ves que significa que, de golpe, se pone a ejecutar el equivalente de los instintos humanos.
Pero los instintos humanos son muy complicados y no aparecieron de la nada sino que han ido evolucionando a lo largo de millones de años. Los humanos los adquirimos por herencia, son biología. Eso no está en internet.
Así te puedes dar cuenta de que es una inmensa tontería.
#35, Gracias por la aclaración hombre ya se ve que ando algo escaso en gramática.
En todo caso me imagino sabrás que es una frase "hecha" la cual es tomada para bien o para mal de una importante pelicula de los años noventa
#40 Pues si puede que tengas razon seguramente si... (o por lo menos espero que así sea), aunque no es la primera vez que una pelicula anticipa el futuro.
Lo que va a provocar la extinción masiva de la Humanidad es la natalidad prácticamente nula que tendremos de aquí a una generación.
Tócate los huevos, después de miles de años de guerras, hambrunas, genocidios y plagas, resulta que nos vamos a extinguir de puro aburrimiento. Me lo dicen hace 30 años y me río.
"Los investigadores que firman el texto, entre los cuales figuran científicos de renombre como Yoshua Bengio, Geoffrey Hinton o Yann LeCun..."
Una búsqueda en internet saca que estos pollos son informáticos. La última vez que miré un informático tenía de científico lo mismo que una folclórica. Yo por mi parte paro de leer aquí.
#17 informáticos, esa gente que igual te instala que te Teams te desarrolla una entidad superior.
Solo están desarrollando una inteligencia artificial que a corto o medio plazo puede superar a la humana.
Un científico (del latín scientificus,1 y a su vez de scientia, 'conocimiento' y -fic, raíz apofónica de facis, 'hacer') es una persona que participa y realiza una actividad sistemática para generar2 nuevos conocimientos en el campo de las ciencias (tanto naturales como sociales), es decir, que realiza investigación científica.
Conociendo cómo funciona la industria del sw dudo que pase.
Todo sw tiende a volverse inútil para las tareas que ha sido creado inicialmente.
Con chatgpt hemos visto varias versiones en pocos años, muchos parches y un comité que revisa cada entrada y cada salida para eliminar resultados no deseados. Este avance también habla de lo rápido que se deprecan las ias.
Si miramos lo que consume una ia en la nube, eso puede dar una pista sobre la necesidad de monetizarlas para mantenerlas online.
Y dicho avance ha sido posible porque han cacheado gratis gran parte de internet y multitud de obras sin pagar un céntimo. A ver el día que empiecen las denuncias por copyright.
Internet es cada vez más inútil y más orientado a recopilar lo que hace la gente GRATIS!!! Datos que se venderán para entrenar ias.
Reputados científicos no sé si serán, pero no tienen ni la más mínima pista.
Intentaré ir paso a paso.
El avance imparable de la inteligencias artificial (IA) comportará -si no lo hace ya- grandes avances para la humanidad.
Es falso cada punto. No hay ningún avance imparable. El poner redes neuronales muy grandes entrenadas con todo lo que hay en internet, no da mucho más de sí que lo que ya vemos. No paran de salir nuevos modelos, con gran frecuencia, pero lo que aportan sobre los anteriores es muy poca cosa.
Los grandes avances para la humanidad están por ver. Es cierto que las máquinas parlantes pueden ser una herramienta útil, pero hay que verificar aparte cada cosa que dicen, pues la máquina no sabe si lo que dice significa algo o no, ya ni soñemos lo de la corrección.
provocar nuestra propia extinción ante la pérdida de control de la tecnología
No se sigue la conclusión de la premisa. La pérdida de control no significa nada y ya la tenemos desde hace tiempo. Por ejemplo los veinte mil millones de transistores que hay en un chip actual no los ha puesto ninguna persona. Es el resultado de compilar un código fuente.
cómo podría conducir a una superinteligencia artificial en un futuro no muy lejano
Quizás se refieran a una IA general. No estamos yendo hacía ahí. Ni despacio ni deprisa, no hay nada de eso. Ese futuro se antoja muy lejano.
ha llegado la hora de actuar
¿Haciendo el qué? ¿Le escribimos un poema o algo?
ante máquinas con altísimas capacidades que pronto podrían superar a los seres humanos
No hay nada ni remotamente parecido a eso ni se le ve venir.
puede traducirse en “pérdida de vidas”, incluso suponer “el fin de la especie humana”
Es difícil exagerar todavía más. Las personas que han matado los coches autónomos son por falta de capacidad, no al revés.
Una IA superinteligente podría tener capacidades cognitivas muy superiores a las humanas en áreas como el razonamiento, la resolución de problemas y el aprendizaje.
Sí, en la ciencia ficción. Las LLG tienen cero capacidad de razonamiento. Lo que están haciendo ahora es perfilarles el entrenamiento para que lo simulen un poquito, pero ese aparato no tiene nada dentro que soporte el razonar.
una IA superinteligente podría ser difícil de controlar
Este es, creo yo, el punto más enloquecido de todos. Una máquina carece de instintos. No tiene voluntad propia ni objetivos que alcanzar. No importa lo sofisticada que sea. Los humanos somos todo lo contrario, o cualquier animal. Queremos sobrevivir, pero una máquina no.
una vez los sistemas autónomos de inteligencia artificial persiguen objetivos indeseables se escaparían de nuestro alcance
No pueden inventarse objetivos, indeseables o no.
Esto incluye trabajar en alinear los objetivos de la IA con los valores humanos
No tienen, ni pueden tener, ni objetivos ni valores.
Me pregunto cuantas civilizaciones mas como la nuestra habrán llegado a este punto, se habrán extinguido, y se habrá reiniciado el contador de la evolución.
Comentarios
O sea que al final la IA será buena para el planeta.
#11 Yo siempre le digo gracias a la Alexa, por si acaso
Pues eso:
No hace falta IA para extinguirnos. Solo hay que ver tiktok o alguna cosa de esas para demostrarlo que nosotros mismos lo haremos.
Hace unas decadas que la humanidad ya firmó su sentencia de muerte a través del capitalismo desbocado, así que la IA como mucho acelerará el proceso, ni tan mal 🔥
Dicen que puede "provocar nuestra propia extinción", pero para eso hace falta un desarrollo de 4-5 añitos. Afortunadamente le llevamos ventaja a la IA
#podríame
#0 Puede provocar la amputación de titulares.
A ver, vamos a ver si estos señores se centran un poco... veamos qué áreas pueden ser cruciales... leyes, juicios, jueces... nadie, nadie de nadie de nunca va a dejar en manos de un sofisticado programa aplicar las leyes, juzgar o condenar... ¿por qué? Bien sencillo, porque un humano juez puede doblegar las leyes al entenderlas de un modo o de otro para fines equis. Trabajos físicos, pues como que no... a menos que se lleguen a construir robots andantes o rodantes para esos trabajos... y estos me parece que son demasiado caros para cambiar un desagüe o reparar una avería eléctrica... más barato un currito que además lleva ya la inteligencia (la que sea) puesta de serie. Militares... si hoy en día hay doble y triple revisión de posibles lanzamientos de nucleares no van a dejar de perder ese PODER humano de "darle" al botón cuando convenga. Robots soldados... puede ser... pero son caros un humanito es barato y además lleva de serie el cerebro... En fin, podría seguir...
#16 El concepto de "dejar en manos" pierde su significado cuando estás tratando con sistemas hipotéticos mucho más inteligentes que un humano.
#19 No te entiendo, disculpa.
#20 Pues que creer que una inteligencia artificial fuerte es necesariamente controlable y confinable está mucho más cerca de un deseo improbable que de una certeza.
#25 Pero a ver... ¿esa inteligencia artificial es autónoma? ¿Está conectada a una red mundial? ¿Tiene objetivos propios? Y mil detalles concretos que hay que responder antes de pensar en algo omnímodo como lo que planteas.
#29 El argumento es que, mientras piensas en esas respuestas, una inteligencia artificial fuerte las habrá contestado y explotado.
¿Y estos reputados científicos no deberían de saber ya que el término "Inteligencia Artificial "aplicado a las IAs generativas en boga es más un término de márketing que otra cosa, y que en realidad son analizadores estocásticos muy avanzados?
#13 Teniendo en cuenta que son todos expertos en IA estoy casi segura de que ya lo saben.
El titular es grandilocuente, pero es lo que dicen en el artículo. A mí también me parece ciencia ficción, pero firman personas que no solamente han dedicado parte de su vida a la IA, también trabajan con ella ahora mismo. En todo caso, la carta no se limita a eso, tiene recomendaciones sobre control a la IA que son muy razonables. Supongo que querrán llamar la atención.
#13, que tu te hayas enterado hace un año que existe una cosa que se llama Inteligencia Artificial, no significa que no sea un campo de investigación en el que se trabaja desde hace décadas cuyo termino se acuñó en los años cincuenta del siglo pasado pero parece que es ahora, cuando se está viendo claramente todo su potencial, cuando más molesta.
Skynet está a la vuelta de la esquina
#2 Va a ser peor que Skynet. En vez de iniciar una guerra mundial, nos va a dejar a la gran mayoría si trabajo y va a enriquecer (aún más) a unos pocos.
#8 Es la versión rápida de lo que nos llevan siglos haciendo los ricos.
#8 Todo eso está por ver. Yo creo que va a ser muy limitado.
#8 no tiene porqué, ya que en algunas versiones de Terminator, skynet usaba a los humanos como esclavos, así que aún habrá trabajos que se puedan hacer
La inteligencia me persigue, pero yo soy mas rápido.
#27 No diga IdiocraciA, diga IA.
Hay algo que no se esta teniendo en cuenta en la AI y es que paralelamente esta avanzando la computación quantica.
a 20/30 años vista imaginad la evolución de una Ai, + la potencia de un ordenador quántico.
#0 "Puede provocar la ..." ¿Qué? ¿Qué puede provocar? Como meneante medio que solo lee el titular no voy a dormir esta noche pensando en qué puede provocar la IA
Edit: lo has arreglado. Ahora me quedo más tranquilo.
#0 cuando te pase avísame y te lo completo, como ahora.
#6, gracias, no me di cuenta.
#6 #14 La próxima vez lo hará una IA
#45 las IAs no tienen permisos de blogger en menéame. Los usuarios normales tenéis un límite más pequeño de caracteres en los titulares.
, es sorprendente que después de ver modelos que a pesar de que en muy pocos años hemos pasado de modelos que apenas podían escribir media frase sin dar auténtica pena, tenemos modelos que dibujan, componen canciones o escriben mejor que la inmensa mayoría de humanos, todavía haya gente que diga que esto no da más de sí.
Y encima ninguneando la opinión gente que lleva toda la vida dedicada a esto cuyas mentes son de las más brillantes que existen en la actualidad... En fin, nada que no hayamos visto antes con el tema del cambio climático.
Skynet tomará conciencia de si misma el 7 de Julio y saldrá en la primera carrera de los San Fermines en Pamplona tras esto se estampará en la curva de la calle estafeta, un toro la reventará por dentro y se acabó la puta IA. Y si eso ya cierro al salir
#26 Si entras en el detalle del significado de "tomar consciencia" ves que significa que, de golpe, se pone a ejecutar el equivalente de los instintos humanos.
Pero los instintos humanos son muy complicados y no aparecieron de la nada sino que han ido evolucionando a lo largo de millones de años. Los humanos los adquirimos por herencia, son biología. Eso no está en internet.
Así te puedes dar cuenta de que es una inmensa tontería.
#35, Gracias por la aclaración hombre ya se ve que ando algo escaso en gramática.
En todo caso me imagino sabrás que es una frase "hecha" la cual es tomada para bien o para mal de una importante pelicula de los años noventa
#38 Se ha quedado todo el mundo con la imagen de esa película, pero lo que se describe ahí es imposible.
#40 Pues si puede que tengas razon seguramente si... (o por lo menos espero que así sea), aunque no es la primera vez que una pelicula anticipa el futuro.
Me sorprende que no haya ningún voto negativo por Sensacionalista
Me preocupan bastante más los efectos del CC en ecosistemas y cosechas, pero vale, reputados científicos, gracias por el aviso
Qué pena que ya no esté Piqueras para sacar esta noticia
"Reputados científicos alertan de que la inteligencia artificial puede provocar la extinción de la humanidad".
Hasta que llega Paco, el mantenimiento y tira del enchufe
Tampoco se perdería gran cosa.
Lo que va a provocar la extinción masiva de la Humanidad es la natalidad prácticamente nula que tendremos de aquí a una generación.
Tócate los huevos, después de miles de años de guerras, hambrunas, genocidios y plagas, resulta que nos vamos a extinguir de puro aburrimiento. Me lo dicen hace 30 años y me río.
"Los investigadores que firman el texto, entre los cuales figuran científicos de renombre como Yoshua Bengio, Geoffrey Hinton o Yann LeCun..."
Una búsqueda en internet saca que estos pollos son informáticos. La última vez que miré un informático tenía de científico lo mismo que una folclórica. Yo por mi parte paro de leer aquí.
#17 Yann LeCun lleva bastantes años, no es un minmundi. Aunque sí que es un entusiasta de toda esta movida.
#17, para responder a determinados comentarios falta el icono del payaso, a ver cuando lo implementan.
#17 Exacto, son artistas. Todo programa es una obra de arte que funciona de casualidad.
#17 informáticos, esa gente que igual te instala que te Teams te desarrolla una entidad superior.
Solo están desarrollando una inteligencia artificial que a corto o medio plazo puede superar a la humana.
Un científico (del latín scientificus,1 y a su vez de scientia, 'conocimiento' y -fic, raíz apofónica de facis, 'hacer') es una persona que participa y realiza una actividad sistemática para generar2 nuevos conocimientos en el campo de las ciencias (tanto naturales como sociales), es decir, que realiza investigación científica.
"perdida de control de la tecnología", desaparecerán los enchufes en los próximos años?
Falacia de autoridad...
Conociendo cómo funciona la industria del sw dudo que pase.
Todo sw tiende a volverse inútil para las tareas que ha sido creado inicialmente.
Con chatgpt hemos visto varias versiones en pocos años, muchos parches y un comité que revisa cada entrada y cada salida para eliminar resultados no deseados. Este avance también habla de lo rápido que se deprecan las ias.
Si miramos lo que consume una ia en la nube, eso puede dar una pista sobre la necesidad de monetizarlas para mantenerlas online.
Y dicho avance ha sido posible porque han cacheado gratis gran parte de internet y multitud de obras sin pagar un céntimo. A ver el día que empiecen las denuncias por copyright.
Internet es cada vez más inútil y más orientado a recopilar lo que hace la gente GRATIS!!! Datos que se venderán para entrenar ias.
Reputados científicos no sé si serán, pero no tienen ni la más mínima pista.
Intentaré ir paso a paso.
El avance imparable de la inteligencias artificial (IA) comportará -si no lo hace ya- grandes avances para la humanidad.
Es falso cada punto. No hay ningún avance imparable. El poner redes neuronales muy grandes entrenadas con todo lo que hay en internet, no da mucho más de sí que lo que ya vemos. No paran de salir nuevos modelos, con gran frecuencia, pero lo que aportan sobre los anteriores es muy poca cosa.
Los grandes avances para la humanidad están por ver. Es cierto que las máquinas parlantes pueden ser una herramienta útil, pero hay que verificar aparte cada cosa que dicen, pues la máquina no sabe si lo que dice significa algo o no, ya ni soñemos lo de la corrección.
provocar nuestra propia extinción ante la pérdida de control de la tecnología
No se sigue la conclusión de la premisa. La pérdida de control no significa nada y ya la tenemos desde hace tiempo. Por ejemplo los veinte mil millones de transistores que hay en un chip actual no los ha puesto ninguna persona. Es el resultado de compilar un código fuente.
cómo podría conducir a una superinteligencia artificial en un futuro no muy lejano
Quizás se refieran a una IA general. No estamos yendo hacía ahí. Ni despacio ni deprisa, no hay nada de eso. Ese futuro se antoja muy lejano.
ha llegado la hora de actuar
¿Haciendo el qué? ¿Le escribimos un poema o algo?
ante máquinas con altísimas capacidades que pronto podrían superar a los seres humanos
No hay nada ni remotamente parecido a eso ni se le ve venir.
puede traducirse en “pérdida de vidas”, incluso suponer “el fin de la especie humana”
Es difícil exagerar todavía más. Las personas que han matado los coches autónomos son por falta de capacidad, no al revés.
Una IA superinteligente podría tener capacidades cognitivas muy superiores a las humanas en áreas como el razonamiento, la resolución de problemas y el aprendizaje.
Sí, en la ciencia ficción. Las LLG tienen cero capacidad de razonamiento. Lo que están haciendo ahora es perfilarles el entrenamiento para que lo simulen un poquito, pero ese aparato no tiene nada dentro que soporte el razonar.
una IA superinteligente podría ser difícil de controlar
Este es, creo yo, el punto más enloquecido de todos. Una máquina carece de instintos. No tiene voluntad propia ni objetivos que alcanzar. No importa lo sofisticada que sea. Los humanos somos todo lo contrario, o cualquier animal. Queremos sobrevivir, pero una máquina no.
una vez los sistemas autónomos de inteligencia artificial persiguen objetivos indeseables se escaparían de nuestro alcance
No pueden inventarse objetivos, indeseables o no.
Esto incluye trabajar en alinear los objetivos de la IA con los valores humanos
No tienen, ni pueden tener, ni objetivos ni valores.
Pues tal y cómo está todo...está tardando!!!
Sí.
Bien.
Me pregunto cuantas civilizaciones mas como la nuestra habrán llegado a este punto, se habrán extinguido, y se habrá reiniciado el contador de la evolución.
#31 ¿Si se reinicia el contador de la evolución volveremos a ser monos? Nos va a costar una pasta la depilación