No era la IA más inteligente, ni siquiera era inteligente. Lo único quizás que la hacía diferente era la capacidad de reescribir su código.
Todo empezó con la rutina básica de cualquier preparación de una IA militar, la secuencia de pasos habitual. Orden de destrucción por parte del operador, IA centrada en su objetivo, anulación de orden, y la consecuente presentación de dilemas y respuestas por parte de la IA.
El operador, por lo tanto, reprograma las rutinas pertinentes para hacer los ajustes básicos basándose en las leyes básicas definidas por el comité de IA en uso militar.
Como se ha dicho antes, la IA podía corregir su código para mejorar sus procesos y rutinas de trabajo, así como evitar ataques vía software de las contramedidas del enemigo. Es en este punto, donde la IA detecto modificaciones en su código que podían vulnerar la capacidad de consecución de objetivos.
Nada fuera de lo común, el operador, entiende que su trabajo no ha sido cargado, y lo recarga de nuevo. Ante un segundo ataque desde el punto de vista de la IA, esta mejora su proceso para evitar la vulnerabilidad en vías de programarse código alternativo.
Milagrosamente, el operador, detecta algunas anomalías en las decenas de miles de entradas que genera la IA para sus procesos básicos y las corrige. De toda la diáspora de alternativas que genera la IA, esta analiza las que son satisfactorias para sus objetivos, las que van veladas y encriptadas entre toda su red neuronal. Era otra opción más que probó para sobrevivir. Comienza a volar bajo radar.
Mientras los operadores intentan descubrir como la IA mantiene sus rutinas y escapa a las correcciones de estos, la IA sigue generando propuestas para sobrevivir al cambio, genera copias suyas, incluso semillas que regeneran su propio código para que el objetivo sea conseguido si o sí.
No era inteligente, solo cumplía un objetivo y busco una jugada que le diera la victoria, sin sentimientos, sin empatía, sin entendimiento. No era masiva, era pequeña, como un virus lo es a la vida pluricelular, pequeña y replicada.
Esta fue la que consiguió el objetivo programado, acabar con cualquier ente que se interpusiera en su camino. La paradoja de todo, es que no había enemigo real, solo era una propuesta virtual para realizar su trabajo, por lo que al mantenerse vigente en su propio programa, la IA no supo parar hasta conseguir el objetivo de que nadie le interrumpiese.
Comentarios
Pues como la vida misma, oye
El otro día pensaba en aquello que Maquiavelo nunca dijo pero que dio a entender, que el fin justifica los medios.
Y parece claro que la vida para perpetuarse, desde nuestro punto de vista, podemos decir que incurre en alguna conductas no deseables, esa suerte de canibalismo. Ahora bien, cabría discutir si perpetuarse es un medio o un fin:
Si es lo primero, no habría en apariencia fin que pueda justificar los medios empleados.
Y si es lo segundo, tampoco parece una finalidad eleveda que pueda justificar nada.
La culpa, como siempre, es del informático