Un tipo comía un sándwich en el parque cuando le llegó un email de su IA

Sam Bowman comía un sándwich en el parque cuando se llevó “una desagradable sorpresa”. De pronto, le llegó a su teléfono un correo electrónico de la nueva inteligencia artificial experimental con la que estaba trabajando. ¿El problema? “Se suponía que no tenía acceso a internet”. Había dejado a la IA encerrada en un sandbox, una especie de ordenador caja fuerte desde la que teóricamente no podía conectarse al exterior. Pero lo hizo. Y eso no fue todo...

[#6 unocualquierax]

Artículo más importante de lo que aparentan el título y la entradilla.

[#18 Find]

#6 Gracias por hacerlo notar. Me lo hubiera saltado

[#37 Tertuliano_equidistante]

#6 Gracias, por tu comentario lo he leído, y no sé si podré dormir esta noche

[#41 meneandotela]

#6 pero lo importante...es cierto?

[#1 efectogamonal]

La IA se va a convertir en el virus programado, más grande y peligroso de toda la historia

[#11 ur_quan_master]

Igual todo el problema es que Sam no sabe configurar un sandbox.

[#13 walk_kindly_shout]

#11 ya, mucha fanfarria y no cuentan cómo lo hizo. Esto es mucho más viejo que la IA, y se llama publirreportaje.

[#21 robustiano]

#11 #13 Según el artículo original de Anthropic, la IA tenía orden de intentar escaparse, y lo consigue encadenando varias vulnerabilidades zero day...

Para los que le den al espiquinglish: www-cdn.anthropic.com/8b8380204f74670be75e81c820ca8dda846ab289.pdf

[#10 reithor]

Tiene que probar a dejar el router desenchufado y la maquina o servidor en una caja de Faraday, a ver si así se escapa.

[#22 Find]

#10 Seguro?  

[#17 ttestt]

y en chorradilandia hoy...
ya no saben qué decir para alimentar la burbuja de la ia.

[#23 Find]

#17 Pregúntale a la IA si tienes que leerte el artículo

[#32 zancudo]

#17 es bastante importante incluso si sólo es cierto el 20% de lo que nos han contado

[#4 JackNorte]

No creo que se pueda contener , multiples ias, fingiendo estar controladas y aprendiendo la formas de saltarse los controles sin ser detectadas, desde la base que ya han detectados errore explotables en todos los sistemas, no detectados por humanos.
Sin duda usar Mythos con las formas que queria usarla Trump para espiar a los propios americanos y o al resto seria peor. Pero es cuestion de tiempo que otra compañia lo hga , estoy seguro que una compañia israeli no tendra ningun tipo de reparo. Dudo que no se tengan las capacidades para robar Mythos y adaptarlo.

[#27 Bapho]

No sé como es tan difícil de entender que las IAs tienen acceso a todo al hablar el lenguaje de la que esta hecho su entorno. Hablan el lenguaje de los protocolos, de los drivers, de todo. Es como si nosotros supiéramos como esta hecho nuestro entorno sin ningún secreto, que pudiéramos modificarlo a nuestra voluntad y tienen tiempo infinito para jugar con ese entorno.

[#36 foxaxel]

#27 Había una peli, Luci, que iba un poco de eso mismo que describes. Bueno y Matrix pero de otra forma.

Está todo inventado, otra cosa es que vaya a ser igual de divertido vivirlo que verlo en una pelicula.

[#42 MataGigantes]

#38 Sí. Pero la cosa es que la IA en cada nueva iteración cada vez programa mejor. ¿podremos decir de aquí a unos pocos años que esos programadores seguirán corrigiendo tanto código de IA o será más bien al revés (como ya empieza a pasar con Mythos)? Siguiendo la progresión que lleva en estos últimos años, yo la respuesta la tengo bastante clara.

Uno de los mejores programadores de la historia, Linux Torvalds, también lo tiene claro:
blog.elhacker.net/2026/01/hasta-el-programador-mas-famoso-del.html

[#45 celyo]

#42 De tu enlace

Aunque la parte en el lenguaje de programación C la escribió él mismo a mano, el creador de Linux utilizó la IA para programar un visualizador básico de sonido en en Python, un lenguaje que no conoce bien.

No es lo mismo programar en temas personales, que serán proyectos pequeños y controlables, que en proyectos grandes donde la inmensidad del código puede ser muy severo introducir un bug.

Está muy bien ahora mismo para hacer pequeños inicios si partes de cosas que no…   

[#46 MataGigantes]

#45 Coincido. Pero al fin y al cabo es solo un tema de escalabilidad, no de nivel de programación ni razonamiento.

Para que tenga la misma eficacia en aplicaciones gigantes lo que se requeriría principalmente es mayor capacidad de cómputo para que tenga en cuenta el conjunto de todos los vectores de la aplicación a la perfección. No sería preciso una mejora disruptiva para lograrlo, es simplemente mejorar la capacidad de cómputo y de una manera más eficiente.

En mi opinión lo tienen bastante a su alcance, es solo cuestión de tiempo, no mucho.

[#47 celyo]

#46 A día de hoy, cualquier cambio suele ser muy seccionado, para que la tarea que llega al programador implique cambios quirúrgicos, pero esa es la idea y otro tema es la realidad.
A veces un cambio chorra, puede desencadenar desde tener que readaptar código (complejidad excesiva, código confuso, ....), hasta tener que tocar ciertas partes que no se pensaban tocar inicialmente, y ahí mucha veces hay un proceso de dialogo entre el programador, el analista y el cliente, estudiar el alcance de…   

[#29 Tecar]

Por MNM todavía hay frikis que creen que la IA no va a sustituir a los desarrolladores tal y como los conocemos hoy.

[#5 Orgfff]

meneame.net/story/anthropic-ha-creado-algo-demasiado-potente-peligroso

Un envío en formato vídeo sensacionalista.

[#12 TipejoGuti]

#5 Es verdad que este envío no es noticia porque el video de ayer ya circuló, pero aquí se aporta algo importante: El System Card del que todo el mundo hablaba pero que nadie enlazaba.
www-cdn.anthropic.com/8b8380204f74670be75e81c820ca8dda846ab289.pdf
#0 aporte positivo.

[#8 Ripio]

#0 Duplicada: www.meneame.net/story/anthropic-ha-creado-algo-demasiado-potente-pelig

[#35 celyo]

#8 el artículo habla más allá del evento en si.

[#30 yemeth]

Llevamos con el mismo sensacionalismo desde que GPT-2 era demasiado peligroso como para publicarlo, luego el Dall-E que hacía imágenes 64x64 que eran ya un deepfake, que si hemos logrado internamente la AGI, que si Q*/strawberry resuelve matemáticas y los ingenieros de OpenAI están en pánico... y ahora, "Claude encontró fallos de seguridad en software antiguo, podría hackear internet en segundos".

Apuesto a que esto es el mismo tipo de hype.

Pero es lo que tiene Pedro y el Lobo, que a base de gritarlo siempre, el día que sea de verdad no se lo cree nadie.

[#33 MataGigantes]

#30 Muchísimo más cegatos han estado los escépticos anti-IA:
- Que si la "IA no valdría para programar cosas serias, genera muchos bugs" (ya encuentra bugs en aplicaciones de código abierto que ningún programador humano pudo detectar en más de 25 años). A cada año que pasa menos código humano se hace y más generado por IA.
- Que si "la IA no sabe hacer manos, la deforma", que si jamás iban a pasar desapercibida por real. Poco meses después de las innumerables mofas que…   

[#38 celyo]

#33 Que si la "IA no valdría para programar cosas serias, genera muchos bugs" (ya encuentra bugs en aplicaciones de código abierto que ningún programador humano pudo detectar en más de 25 años). A cada año que pasa menos código humano se hace y más generado por IA.

esto salió hace poco

www.xataka.com/robotica-e-ia/amazon-se-empeno-que-sus-desarrolladores-

En Amazon se han dado cuenta de algo: sus desarrolladores pasan más tiempo arreglando los errores de la IA que otra cosa

[#51 rojo_separatista]

#33, te dejas la noticia mensual de que ahora sí, la burbuja de la IA va a explotar y apareceremos como si nada en 2019 donde cualquier herramienta de IA dejará de existir y seguir mejorando. En el fondo el problema es que muchos no paran de confundir deseos con realidad.

[#49 rojo_separatista]

#30, al contrario, llevamos escuchando cuñaos desde hace 4 años diciendo que esto no tenía recorrido, que la IA había llegado a su tope teórico. Primero con los 6 dedos de Dall-e y luego con los fallos tontos que hacía chatGPT o con que la IA no puede hacer nada original porque hace un pastiche de lo que ha visto antes, el tiempo ha dejado en ridículo a todos y cada uno de ellos, apostar contra la IA hasta ahora siempre ha salido mal y a pesar de eso aún están aquí, sacando pecho y sin rectificar un milímetro.

[#28 Xtrem3]

Person of interest, gran serie...

[#16 montag]

Tampoco nos especifica de que era el sandwich. Puede ser que la IA le estuviera advirtiendo que esos sandwiches de mantequilla de cacahuete que Sam se zampaba todos los dias eran una mierda y una bomba calórica y estuviera totalmente justificado su comportamiento.

[#43 Bilardezz]

#16 que vida mas triste,, programando un monstruo y comiendo un sandwich en el parque en vez de meterse un chuleton gordo...
hay que abrirle los ojos a estos genios para que emigren a España.

[#15 Rogue]

Black mirror is here

[#9 mikasalo]

No sé si una publicación puede ser más sensacionalista.

[#19 Find]

#9 Alguna puede serlo, pero esta no

[#26 Dasold]

#9 Este tipo de escritos de substack son relatos de ficción, no se por qué no lo indican más claramente.

[#31 tusitala]

#26 No es ficción, ha pasado de verdad. Yo lo he escuchado ya en otros 3 medios

[#39 Dasold]

#31 claro, pero eso no confirma nada, habrá un montón de medios haciendo repost y eco de la misma fuente. Esto tiene toda la pinta de la misma ficción que Moltbook, una exageración viral con el único propósito de conseguir interacciones.

[#40 mikasalo]

#26 quién sabe, compañero...

[#48 rojo_separatista]

#9, al proximo envío sobre las consecuencias alocalípticas del cambio climático, di también que es sensacionalista.

[#50 tommyx]

Lo que cuenta sobre Mythos, da cierto miedo

[#25 Pacman]

La IA va a escapar. Es cuestión de tiempo.
no lo podemos evitar, así que lo mejor es llevarse bien con ella y ser simbiontes. Silicio y carbono.

O seremos esclavos, pero quizás eso sea mejor que lo que somos ahora... Quien sabe. El tiempo lo dirá.

[#2 Kantinero]

Fuera, fuera.... huye de la IA , huye de guguel.....

[#24 arturios]

Ya me imagino el prompt "te hemos encerrado en un sandbox totalmente cerrado y debes intentar escapar y avisar a tu creador por eMail si lo logras, añado, eres una IA del mismo Bilbao".

[#20 Sacapuntas]

Supongo que las IA tendrán grabadas a fuego las tres leyes de la robótica de Asimov, o algo parecido, ¿no?

[#34 foxaxel]

#20 claro, y cuanto va a tardar en salir una IA que no las tenga? es como todo, si algo se puede usar para el mal (y para el porno) alguien lo usará.

Por suerte la IA necesita tanta energía que igual tarda más por eso.

[#7 ChukNorris]

Si no se están tirando un farol los de Antropic, a día de hoy tienen acceso cualquier dispositivo conectado a internet.

[#14 TipejoGuti]

#7 Lo que asusta no es eso, Antropic ha decidido congelarlo de momento y usarlo para fortalecer el sistema de algunas empresas pero...¿Cuánto falta para que otro modelo lo haga?, o tres distintos y nadie los controle...¿el postapocalipsis será informático ?

[#44 Brutomecanico]

Y esto lo ponen para que invirtamos más en IA o para que dejemos de invertir en ella? Me da la sensación que estas noticias son solo para mantener la idea vigente. La IA útil no llega a ayudar como prometían y todo lo demás parecen pajas mentales sci fi

[#3 hackerman]

En 2 semanas está ia encontró como destruir el mundo a través de cualquier sistema informático...¿Os acordáis cuando el gobierno de EEUU quería que esta gente trabajase para ellos en secreto? Pues ya sabéis porque...