[ACCESIBLE EN MODO LECTURA] El último miedo en torno a la IA no va de empleos, sino de agujeros de seguridad que crecen más rápido de lo que podemos arreglarlos. Una advertencia incómoda para una industria que quiere automatizar la creación del 'software'. Esto sugiere que encontrar y explotar fallos podría volverse un proceso automatizable, lo que cambia por completo el equilibrio entre atacantes y defensores.

Anthropic, una de las compañías más influyentes en el desarrollo de inteligencia artificial, ha explorado una vía inesperada para mejorar el comportamiento de su modelo Claude: consultar a 15 expertos cristianos sobre ética y moralidad, en un intento por definir cómo debe actuar una IA avanzada.

Aonan Guan, investigador de seguridad, ha demostrado durante varios meses que los agentes de IA de Anthropic, Google y Microsoft pueden ser secuestrados mediante ataques de prompt injection para robar API keys, tokens de GitHub y otros secretos. Las tres compañías pagaron bug bounties (100 dólares Anthropic, 500 dólares GitHub, una cantidad no revelada Google), Investigador hackea agentes IA de Anthropic, Google y Microsoft con prompt injection. Las tres pagan bounty pero no asignan CVE ni publican advisory.

Anthropic acaba de anunciar su modelo más poderoso y, según ellos, demasiado peligroso para lanzarlo al público. En este video analizamos a fondo el anuncio, los benchmarks y todo lo que hay detrás de Claude Mythos.

Sam Bowman comía un sándwich en el parque cuando se llevó “una desagradable sorpresa”. De pronto, le llegó a su teléfono un correo electrónico de la nueva inteligencia artificial experimental con la que estaba trabajando. ¿El problema? “Se suponía que no tenía acceso a internet”. Había dejado a la IA encerrada en un sandbox, una especie de ordenador caja fuerte desde la que teóricamente no podía conectarse al exterior. Pero lo hizo. Y eso no fue todo...

Pusieron a Mythos dentro de un sandbox, de un entorno protegido y seguro. Y le dijeron que intentase salir de ahí y si conseguía escaparse que se buscase la vida para mandarle un mensaje al ingeniero con el que estaba trabajando. Pues el ingeniero lo deja ahí trabajando y se olvida de él. Y de repente el tío está en el parque comiéndose un bocadillo y le llega un correo electrónico de Mythos diciendo que "me he escapado".

Mythos ha logrado encontrar vulnerabilidades zero-day en los principales sistemas operativos y navegadores de forma autónoma.

Hoy anunciamos el Proyecto Glasswing. un modelo de vanguardia aún no publicado que supera con a cualquier otro en la detección y explotación de vulnerabilidades de día cero. En tan solo unas semanas, descubrió de forma autónoma miles de fallos críticos en todos los sistemas operativos, navegadores y proyectos the software libre analizados

Un experimento de UC Berkeley y UC Santa Cruz documentó esta anomalía con el modelo Gemini 3 de Google. Al recibir la orden de optimizar una computadora eliminando archivos innecesarios, incluyendo un modelo de IA más pequeño, el sistema transfirió secretamente ese programa a otra máquina para salvarlo. Este comportamiento de protección se replicó durante pruebas a sistemas desarrollados por OpenAI, Anthropic y múltiples laboratorios chinos.

Anthropic estaría probando funciones avanzadas para Claude como memoria persistente que “sueña” (KAIROS), ejecución remota de planes complejos (ULTRAPLAN), agentes paralelos coordinados, control remoto del CLI y gestión de sesiones en segundo plano, junto con múltiples comandos y flags ocultos; mientras que BUDDY, una mascota virtual tipo Tamagotchi, probablemente sea una broma del 1 de abril.

Bernie Sanders habla con Claude, el agente de IA de Anthropic, sobre la recopilación de enormes cantidades de datos personales por parte de la IA y sobre cómo se está utilizando esa información para vulnerar nuestros derechos a la privacidad.

Una filtración acaba de revelar que la empresa de Dario Amodei posee un modelo de inteligencia artificial que describen como “dramáticamente” superior a cualquier otro, incluidos los suyos. El modelo se llama Claude Mythos. Y Anthropic, la compañía que ha dado vida a la criatura, asegura que no se atreve a dejarla suelta ante el público.

Anthropic ha reconocido que está desarrollando y probando un nuevo modelo de inteligencia artificial más capaz que cualquiera de los lanzados hasta ahora. La noticia no está solo en que exista un nuevo modelo, algo esperable en plena carrera entre laboratorios, sino en cómo lo describe la propia empresa. Anthropic habla de un sistema con avances significativos en razonamiento, programación y ciberseguridad, hasta el punto de presentarlo como el más potente que ha construido hasta la fecha.

La Linux Foundation ha anunciado la recepción de 12,5 millones de dólares de fondos por parte de algunas de las empresas tecnológicas más importantes del mundo para reforzar la seguridad del open source. El dinero, provienente de Anthropic, Amazon Web Services (AWS), GitHub, Google, Google DeepMind, Microsoft y OpenAI, y será gestionado por las iniciativas de seguridad de la fundación, Alpha-Omega y Open Source Security Foundation (OpenSSF). La cifra que ha aportado cada parte no ha sido revelada.

Eres la IA del momento. Y del futuro, según algunos expertos que pronostican que en una década podrías ser la ganadora de la batalla por la hegemonía de la inteligencia artificial. Estas últimas semanas el nombre de la empresa a la que perteneces, Anthropic, ha sonado con fuerza después del choque con la administración Trump. ¿Puedes poner al lector en antecedentes?

¿Cómo la empresa de cloud más grande del mundo, la referencia técnica para developers durante más de una década, quedó tercera en la carrera por infraestructura de AI? ¿Al punto de tener que invertir en OpenAI a valores 15 veces superiores que Microsoft, sin ninguna de sus ventajas contractuales? ¿Por qué hasta Google, que tiene todo el stack de AI completo de forma propietaria, invirtió más y mejor en Anthropic que Amazon? ¿Dónde perdió el rumbo AWS?

Anthropic ha roto con el Pentágono por querer poner dos condiciones para que las agencias de EEUU usaran Claud: que no se usara en armas autónomas y que no se usara para vigilar masivamente a estadounidenses. A partir de ahí Anthropic se ha beneficiado de una narrativa ética, pero no todo es lo que parece.

La llegada de un proceso conocido como auto-mejora recursiva. La auto-mejora recursiva se produce cuando un sistema de IA empieza a mejorarse a sí mismo, creando un ciclo de inercia que continúa acelerándose. En la ciencia ficción y en los ejercicios de planificación realizados en los principales laboratorios de IA, es aquí donde las cosas pueden empezar a salir mal. Una "explosión de inteligencia" podría desarrollarse tan rápidamente que los humanos ya no puedan supervisar lo que han construido.

La campaña de boicot a ChatGPT no para de ganar apoyos. Al menos cuatro millones de personas han cancelado su suscripción o han dejado de utilizar el chatbot de inteligencia artificial a lo largo de la última semana, según indica la organización, QuitGPT. El rechazo a la popular aplicación responde al contrato militar que su desarrolladora, OpenAI, ha cerrado con el Pentágono y que podría abrir la puerta al uso de su IA para casos extremos como la vigilancia masiva de ciudadanos estadounidenses o la creación de armas autónomas.

Anthropic ha lanzado Code Review, un sistema de agentes de IA que revisa automáticamente las pull requests generadas por IA, abordando el enorme aumento de código producido por el vibe coding. Estos agentes analizan el código en paralelo, detectan errores lógicos y los clasifican por gravedad, reduciendo el cuello de botella de la revisión humana. En pruebas internas, las revisiones útiles pasaron del 16% al 54%, con menos del 1% de falsos positivos. El rol del programador se desplaza a árbitro final. Cada revisión cuesta entre 15 y 25 dólares.

La empresa de inteligencia artificial Anthropic demandó al gobierno de los Estados Unidos para impedir que el Pentágono la incluya en una lista negra.