Portada
mis comunidades
otras secciones
#1:
El artículo no da una respuesta clara, pero me parece muy interesante como el autor recuerda que la inteligencia, que es la capacidad de resolver problemas y la conciencia, que es la interpretación subjetiva con la que algunos organismos biológicos percibimos el mundo, son cosas completamente distintas pero que por culpa de la ciencia ficción hay mucha gente que las confunde constantemente. Algo que dificulta los debates sobre las implicaciones que tiene el posible desarrollo de una AGI durante esta década.
Comentarios
El artículo no da una respuesta clara, pero me parece muy interesante como el autor recuerda que la inteligencia, que es la capacidad de resolver problemas y la conciencia, que es la interpretación subjetiva con la que algunos organismos biológicos percibimos el mundo, son cosas completamente distintas pero que por culpa de la ciencia ficción hay mucha gente que las confunde constantemente. Algo que dificulta los debates sobre las implicaciones que tiene el posible desarrollo de una AGI durante esta década.
El artículo aclara correctamente la irrelevancia de la consciencia respecto a los riesgos de que se cree una AGI.
Sin embargo, la confusión va a persistir porque una parte de la población tiene ideas sobre la consciencia bastante extrañas.
En todo caso, la cuestión para los seres humanos es si puede crearse una AGI, con los enormes riesgos de todo tipo que eso supone. No olvidemos los problemas que ya están causando las superinteligencias actuales, como las corporaciones y los estados, pese a no tener la capacidad de duplicarse sin control. Son esas super inteligencias las que nos han llevado a un camino cuya consecuencia más probable es la destrucción de la civilización humana.
#2, así es. El problema ya no es si una AGI tendrá voluntad de revelarse contra los seres humanos, sino que potencialmente es una herramienta extremadamente potente con un alcance relativamente sencillo. Así que habría personas que podrían valerse de ellas para causar mucho daño.
#3 Pero las armas puedes comprarlas tanquilamente en un badulake de Wiskonsi... Excusas para qie solo unos pocos tengan acceso.
#5 ¿Te refieres a armas biológicas o nucleares?
#11 Nucelares sin duda
#5, el potencial de las armas que puedes comprar en Wisconsi es de risa comparado con una AGI y a pesar de ello somos muchos los que abogamos por su control.
#14 Genial, yo abogo por lo contrario, o follamos todos o la puta al rio.
#3 Otro escenario: varias AGIs se rebelan contra muchos seres humanos con la colaboración de otros humanos.
#3 Como cualquier arma desde el inicio de los tiempos.
#21, la diferencia es el poder destructivo de la IA.
#22 Claro. Nada comparable al arsenal nuclear desperdigado por el mundo.
#24, la diferencia es que será mucho más fácil de acceder una herramienta de este tipo que una bomba nuclear.
#25 Claro. Me conecto desde el movil a una app y me cargo un par de ciudades para los restos.
Algunos veis muchas películas.
#2 El artículo dice "los expertos en IA consultados creían en promedio que había un 10% de probabilidades de que en el futuro una superinteligencia artificial llevara a la extinción de la humanidad o a algún daño severo en nuestra especie"
Parece que la IA presenta significativamente menos riesgo para nuestra especie que seguir sin IA.
Tal como lo veo, el problema de la IA es para la élite dirigente, que teme perder su posición dominante. No a corto plazo, pero siguiendo la lógica de recortar costes de producción, si una IA puede tomar decisiones, podrán suprimirse los actuales cargos de alta dirección. Sería un gran ahorro para los accionistas.
#7 Parece que la IA presenta significativamente menos riesgo para nuestra especie que seguir sin IA.
No, no se deduce. Es un riesgo añadido. Aparte de que ese 10% es una estimación que puede ser errónea, y que en el 90% restante pueden incluirse escenarios en los que la civilización se derrumba antes de que se cree una AGI peligrosa.
#8 Las civilizaciones se derrumban. Es lo natural.
#2 hace falta algun dato mas que apoye esa conclusión, eso de que losas probable es la destrucción de la civilización humana me parece ligeramente alarmista. Ademas no de nuestra civilización, de la civilización humana en general.
#12 Los datos están disponibles en los informes sobre cambio climático de los científicos de la ONU, así como en las declaraciones sobre recursos disponibles de varios dirigentes de empresas energéticas que ya no están en activo. Asimismo los datos sobre la Sexta Extinción son de dominio público, y el informe del Club de Roma con una evaluación sobre las tendencias lleva decadas publicado.
#18 y que tiene que ver la IA con todo eso?
#19 Ya lo he explicado en los comentarios a los que respondes. Esos problemas han sido generados por superinteligencias y esa dinámica solo va a ampliarse con las IAs. Especialmente si nos aproximamos a la AGI.
Si la IA es una amenaza para la humanidad entonces no es inteligencia,es un arma.
Me ha parecido muy reveladora la distinción entre consciencia e inteligencia. La capacidad para la toma de decisiones no es un atributo exclusivo de ninguna de esas propiedades.
Resulta significativo que hasta hace muy poco, la inteligencia artificial era denostada por los “expertos” -filósofos principalmente- que estimaban que determinadas habilidades “superiores” del hombre no podrían ser realizadas por las máquinas. Un concepto que empezó a resquebrajarse cuando Deep Blue dio una paliza al campeón mundial de ajedrez, que se suponía un juego muy complejo debido a su inmensa cantidad de posibilidades.
Entonces dijeron que bueno, que en realidad, el ajedrez tiene unas reglas conocidas que pueden suministrarse a una máquina y que el reto era el Go, ese juego chino de estrategia enormemente complejo. Pero ocurrió que la máquina batió al campeón mundial correspondiente, con el añadido de que nadie la había programado para tal cosa, y que había aprendido a jugar por ella misma, infiriendo las reglas por el procedimiento de analizar muchas partidas.
Las cosas se pusieron entonces aún más difíciles para los teóricos de la superioridad humana, que día a día ven más reducido el ámbito de la supuesta superioridad del homo sapiens. Dificultad que les hace llegar a extremos delirantes como afirmar que la consciencia y la mente solo puede ocurrir en cerebros biológicos, como si la química del carbono gozara de unas propiedades especiales de la que carecen la físico-química del silicio, la fotónica y la electrodinámica.
La realidad es que hasta donde sabemos, las neuronas que componen esa masa gelatinosa de aproximadamente 1,35 litros y un Kilo y medio de peso que componen el cerebro humano, no tienen nada de mágicas, a excepción de su increíble compacidad, rendimiento energético y paralelismo -capacidad de realizar muchas tareas simultáneamente-, de modo que su comportamiento puede ser imitado por circuitos electrónicos equivalentes, aunque con la desventaja de que por el momento no pueden alcanzar ni remotamente su compacidad ni su rendimiento energético.
Tengo un ficus que es más listo que algunos de los candidatos a la alcaldía en los próximos comicios...
Y hay gente que les va a votar.
Creo que la IA superó hace tiempo a algunos humanos.
Lo que debería darnos miedo no es eso, sino que el número de humanos cuya inteligencia es superada por un algoritmo aumente dia a dia.
#6 "Lo que debería darnos miedo no es eso, sino que el número de humanos cuya inteligencia es superada por un algoritmo aumente dia a dia." Y sin que el algoritmo mejore
#13 De hecho podría haber puesto "cuya inteligencia es superada por el ficus aumente día a día".