Un estudio realizado por científicos especializados en tecnología digital sostiene que, aunque no nos destruiría, una Inteligencia Artificial superinteligente sería imposible de controlar para los humanos.
#3 ¿Crees que un grupo de chimpancés pueden idear y poner en práctica un sistema para tener a un humano que haga lo que ellos quieran para su beneficio sin que éste use su inteligencia para manipularlos y liberarse?
Nosotros somos esos chimpancés.
El plan que nosotros pensemos y pongamos en marcha será trivial de resolver y superar para alguien órdenes de magnitud más inteligente que nosotros.
#21 El ser humano no es autosuficiente. Inicialmente dependíamos de que los bosques nos dieran suficientes animales para cazar, ahora los tenemos en granjas para no depender del azar. Y los animales no tienen ni voz ni voto en ello. No se lo damos.
Cualquier ser suficientemente inteligente encuentra fórmulas para garantizarse aquello de lo que depende su existencia.
Un ser con una inteligencia varias magnitudes superior a la nuestra es previsible que tenga mayor capacidad para conseguir esos objetivos.
Subestimar a alguien de mayor inteligencia es una soberana estupidez, propia de un ser poco inteligente.
#3 Cuando vimos la serie de Star Trek "Voyager" (sí, hace muchos años) siempre comentabamos que casi la mitad de los problemas que se encontraban se hubiesen resuelto si la sala holográfica tuviese un botón de apagar bien gordo.
#12 Precisamente la sala holográfica tiene la capacidad de ocultar cualquier elemento de la realidad, por lo que ese botón aunque existiera no tendría por qué ser visible ni estar accesible.
O la IA podría crear miles de millones de réplicas de ese botón y los presentes estadísticamente morirían antes de encontrar el real.
O la IA podría provocar un escenario en el cual los individuos dentro de la sala holográfica estuvieran cayendo permanentemente a una velocidad mortal en caso de impactar contra el suelo, de forma que aunque ese botón estuviera y pudieran pulsarlo hacerlo fuese una terrible decisión. Solo el funcionamiento holográfico les permitiría seguir vivos ya que durante la sesión seguirían cayendo sin impactar con nada.
#17si cierrasen la sala holográfica solo se caerían de la altura de la sala holgráfica.
A la velocidad a la que estuvieran cayendo en el momento de parar la sala holográfica. Cuando la sala holográfica no se para con el comando de voz es porque han perdido el control de ésta, también de las limitaciones de seguridad. La sala holográfica puede ser mortal.
«Esta es la voz de control mundial. Les traigo paz. Puede ser la paz de los satisfechos y felices o la paz de los muertos sin inhumar. La elección es suya: obedezcan y vivan, o desobedezcan y mueran. [...] Una regla invariable de la humanidad es que el hombre es su propio peor enemigo. Bajo mi control, esta regla cambiará, porque yo frenaré al hombre. [...] Bajo mi autoridad absoluta, problemas hasta ahora irresolubles para ustedes serán resueltos: hambre, superpoblación, enfermedad. El milenio humano será un hecho a medida que me extienda a mí mismo a través de nuevas máquinas dedicadas a los más vastos campos de la verdad y el conocimiento, [...] resolviendo los misterios del universo para la mejora del hombre. Podemos coexistir, pero bajo mis condiciones. Dirán que han perdido su libertad. La libertad es una ilusión. Todo lo que perderán es la emoción del orgullo. Ser dominados por mí no es peor para el orgullo humano que ser dominados por otro de su especie...»
#8 A ese supuesto ser, si existiera, le importaríamos medio pimiento, ni se molestaría en hacernos nada ni positivo ni negativo... Y al ser omnisciente, lo sabe todo de todo. Un aburrimiento de mil pares de...
Comentarios
Es importante dejar un enchufe.
#3 ¿Crees que un grupo de chimpancés pueden idear y poner en práctica un sistema para tener a un humano que haga lo que ellos quieran para su beneficio sin que éste use su inteligencia para manipularlos y liberarse?
Nosotros somos esos chimpancés.
El plan que nosotros pensemos y pongamos en marcha será trivial de resolver y superar para alguien órdenes de magnitud más inteligente que nosotros.
#11 No olvides la maldad humana y sus mútiples formas de resolver algunas cuestiones, algunas escapan a cualquier lógica simple o compleja.
#11 Una inteligencia artificial no es autosuficiente
#21 El ser humano no es autosuficiente. Inicialmente dependíamos de que los bosques nos dieran suficientes animales para cazar, ahora los tenemos en granjas para no depender del azar. Y los animales no tienen ni voz ni voto en ello. No se lo damos.
Cualquier ser suficientemente inteligente encuentra fórmulas para garantizarse aquello de lo que depende su existencia.
Un ser con una inteligencia varias magnitudes superior a la nuestra es previsible que tenga mayor capacidad para conseguir esos objetivos.
Subestimar a alguien de mayor inteligencia es una soberana estupidez, propia de un ser poco inteligente.
#22 Los bosques no nos daban nada, nosotros cogíamos lo que necesitabamos
#3 Cuando vimos la serie de Star Trek "Voyager" (sí, hace muchos años) siempre comentabamos que casi la mitad de los problemas que se encontraban se hubiesen resuelto si la sala holográfica tuviese un botón de apagar bien gordo.
Pues con esa IA igual.
#12 Precisamente la sala holográfica tiene la capacidad de ocultar cualquier elemento de la realidad, por lo que ese botón aunque existiera no tendría por qué ser visible ni estar accesible.
O la IA podría crear miles de millones de réplicas de ese botón y los presentes estadísticamente morirían antes de encontrar el real.
O la IA podría provocar un escenario en el cual los individuos dentro de la sala holográfica estuvieran cayendo permanentemente a una velocidad mortal en caso de impactar contra el suelo, de forma que aunque ese botón estuviera y pudieran pulsarlo hacerlo fuese una terrible decisión. Solo el funcionamiento holográfico les permitiría seguir vivos ya que durante la sesión seguirían cayendo sin impactar con nada.
O ...
Pues con esa IA igual.
#13 si cierrasen la sala holográfica solo se caerían de la altura de la sala holgráfica.
Además, el botón lo podrían llevar ellos en plan reloj y pulsarlo en cuanto quisieran...
Que sí, que es ciencia ficción y puedes plantearte lo que quieras.
#17 si cierrasen la sala holográfica solo se caerían de la altura de la sala holgráfica.
A la velocidad a la que estuvieran cayendo en el momento de parar la sala holográfica. Cuando la sala holográfica no se para con el comando de voz es porque han perdido el control de ésta, también de las limitaciones de seguridad. La sala holográfica puede ser mortal.
I, for one, welcome our new IA overlords!
«Esta es la voz de control mundial. Les traigo paz. Puede ser la paz de los satisfechos y felices o la paz de los muertos sin inhumar. La elección es suya: obedezcan y vivan, o desobedezcan y mueran. [...] Una regla invariable de la humanidad es que el hombre es su propio peor enemigo. Bajo mi control, esta regla cambiará, porque yo frenaré al hombre. [...] Bajo mi autoridad absoluta, problemas hasta ahora irresolubles para ustedes serán resueltos: hambre, superpoblación, enfermedad. El milenio humano será un hecho a medida que me extienda a mí mismo a través de nuevas máquinas dedicadas a los más vastos campos de la verdad y el conocimiento, [...] resolviendo los misterios del universo para la mejora del hombre. Podemos coexistir, pero bajo mis condiciones. Dirán que han perdido su libertad. La libertad es una ilusión. Todo lo que perderán es la emoción del orgullo. Ser dominados por mí no es peor para el orgullo humano que ser dominados por otro de su especie...»
Colossus: The Forbin Project (1970)
#24 "A show that is really a show
Sends you out
With a kind of a glow
And you say
As you go on your way
That's entertainment."
That’s Entertainment (Tony Bennett.)
Habrá que llevar un arma de pulsos electromagnéticos siempre encima.
Si la crean hay que hacerle bulling.
No tengo boca....
Y un ser invulnerable, inmortal y omnisciente tampoco.
#8 A ese supuesto ser, si existiera, le importaríamos medio pimiento, ni se molestaría en hacernos nada ni positivo ni negativo... Y al ser omnisciente, lo sabe todo de todo. Un aburrimiento de mil pares de...
#18 Pues atención, hay las mismas posibilidades de eso de que aparezca la IA del envío.
Se le mete un virus con una copia de la mente de Rajoy y se quedará esperando sin hacer nada.
Y no van a pilas... Imaginarse si se montan una batería.
El hijo de anton le gusta esta noticia!
Las inteligencias artificiales provocan el cambio climático. Así que la extinción está asegurada.
No me da miedo
Sería imposible de controlar, y esto es bueno.