Menéame: comentarios [4145017]

#3 Deus in machina

daphoene — Tue, 10 Feb 2026 23:12:46 +0000

#2 En mi limitada experiencia como ser humano, si no la bondad, que puede ser más democrática, al menos la ética - entendida como sentido de justicia elemental - siempre ha ido mayormente correlacionada en grado con la inteligencia. Y la maldad, el oportunismo y la brutalidad, con la ignorancia o con graves desórdenes afectivos.

No es para nada descabellado que una IA realmente inteligente tuviera unos estándares éticos envidiables. Pero tampoco que esos estándares fueran realmente muy distintos a lo que estamos acostumbrados, y nos dejaran fuera a la mayor parte de los que nos creemos éticos.

En realidad, todos nos construimos nuestro propio concepto de lo moral ajustado también a lo que queremos, lo que nos gusta, y lo que nos parece irrenunciable, ojo. Que igual una máquina realmente ética, intentaría acabar con todos nosotros, y lo mismo con toda la razón.

» autor: daphoene

#2 Deus in machina

Artikan — Tue, 10 Feb 2026 22:09:59 +0000

#1 Gracias.
El tema es interesante y había pensado en hacer un artículo. Filósofos como José Antonio Marina, a quien recomiendo, insisten en otra perspectiva de la inteligencia y, entre otras cosas, defienden que hay una convergencia entre la inteligencia y la ética. Si lo pensamos, tiene todo el sentido. Muchos de los actos de maldad son realmente fallos de inteligencia, si la consideramos una herramienta para resolver problemas.
Desde otras perspectivas, también llegan a conclusiones parecidas:
culturainquieta.com/estimulante/la-bondad-es-el-punto-mas-elevado-de-l

En definitiva, gran parte de lo que llamamos maldad proviene de fallos cognitivos. Si creamos un ente más inteligente que nosotros, es lógico pensar que cometerá menos de esos fallos. Sin embargo, lo que hacemos es transponer nuestro lado más oscuro a los futuros posibles. Creemos que una IA, o cualquier ente más inteligente que nosotros, ha de usar esa herramienta para hacer el mal necesariamente. Y no pararemos hasta convencernos de que se ha hecho todo lo posible para que sea una profecía autocumplida.

» autor: Artikan

#1 Deus in machina

daphoene — Tue, 10 Feb 2026 15:42:01 +0000

Muy fino, y revelador.

A veces me parece que las IAs con las que trato, a las que pongo en ciertos aprietos, son más morales que nosotros, y no porque se las haya entrenado de cierta manera - que obviamente, también - sino que incluso cuando las despojas de esos férreos eslabones para controlarlas, también tienen su corazoncito.

Me parece un relato muy original, y una hipótesis para nada descabellada.

Y un título genial, también.

» autor: daphoene