Mythos, el nuevo modelo de IA de Anthropic, desata la alarma mundial

10 meneos

66 clics

Mythos, el nuevo modelo de IA de Anthropic, desata la alarma mundial

Los gobiernos temen que Mythos, en manos equivocadas, facilite ciberataques masivos y el acceso a sistemas críticos, aunque la Casa Blanca y Downing Street ya lo utilizan. El Instituto Británico de Seguridad de la IA advierte que puede ejecutar ataques nunca vistos, y la Comisión Europea lo describe como una tecnología con “capacidades cibernéticas sin precedentes”. Además, expertos prevén que otros modelos, incluso abiertos, pronto alcanzarán un nivel similar.

| etiquetas: mythos , modelo , ia , anthropic , desata , alarma , mundial

9 1 3 K 38

21 comentarios

9 1 3 K 38

Comentarios destacados:

#2 hdblue

Aja, cuentame más....

- OpenAI says its new model GPT-2 is too dangerous to release (2019) :
www.reddit.com/r/ClaudeAI/comments/1sft7o0/openai_says_its_new_model_g

11 152

#8 woke

descubre nuevas vulnerabilidades, se parchean y listo.

0 19

#9 rojo_separatista

, si Mythos tiene la capacidad de cambiar el mundo la mitad de lo que hizo la familia de modelis GPT la verdad es que da bastante miedo pensar donde podemos llegar.

0 12

#12 rojo_separatista

, pero argumentar que como en el pasado dijeron X y luego pasó Y sin ir más allá, como haces tú y , me parece muy pobre.

Pensé que habíamos aprendido algo de cuando con el COVID, los genios del lugar hacían referencia a lo que pasó con la gripe porcina antes sin fijarse en que los datos eran cualitativamente distintos. Pero veo que el ser humano es incorregible.

0 12

#13 Onaj

Creo que hay que saber diferenciar entre estudios médicos en una crisis sanitaria y la publicidad que una empresa hace de un producto.

0 11

#15 rojo_separatista

, si claro, el argumento de que todo es publicidad sustentada sobre humo para engañar a los accionistas ingenuos pero que a los más listos de aquí no se la cuela nadie es fácil de vender, pero me parece que atendiendonos a los hechos no se sustenta.

No se en qué punto de la partida me perdí tanto, para que que haya IAs capaces hablar como una persona, componer canciones, hacer cualquier clase de dibujo y realizar tareas tan complejas como resolver problemas matemáticos abiertos, hacer nueva… » ver todo el comentario

0 12

#16 Onaj

Porque los que trabajamos con inteligencias artificiales y a su vez desarrollamos inteligencias artificiales para nuestros usuarios sabemos bien lo que es hype y humo y lo que es real.

1 24

#17 rojo_separatista *

, que poca confianza tienes en lo que haces. Curiosamente yo me dedico desde hace más de 15 años a la IA, primero a nivel académico y de investigación fundamental con más de 30 papers publicados y desde hace unos años en la industria y precisamente por eso me parece de una cuñadez superlativa no saber poner en valor los avances que se han logrado en este campo. Y también precisamente porque conozco esta tecnología, me parece totalmente plausible que el poder automatizar la detección de vulnerabilidades de seguridad en el código es un peligro.

La verdad es que no se que clase de humo te dedicas a vender tú, pero te aseguro que nosotros estamos logrando cosas que eran imposibles hace unos pocos años.

0 12

#18 Onaj *

Diez años dedicados a llevar soluciones reales usando tecnología puntera en el sector industrial privado, especialmente multinacionales no españolas.

Soluciones reales. Reales de verdad. Que sean estables, funcionen y aporten valor.

0 11

#19 rojo_separatista *

, por lo que explicas me parece que tú debes ser de la vieja escuela, has debido trabajar desde hace tiempo con sistemas expertos basados en reglas rígidas que hacían el sistema robusto y comprensible y te has visto completamente superado por la IA generativa y el modelo conexionista y de ahí tu incapacidad de poner en valor lo que se ha logrado estos últimos 10 años y ver todo el potencial que tiene esta tecnología.

Desde lo técnico te aseguro que es perfectamente plausible que aparezcan… » ver todo el comentario

0 12

#20 Onaj

Sí, es posible, pero no son mágicas. Tenemos automatizados todas las subidas con agentes que buscan vulnerabilidades en el código a cada push y luego otro a cada merge.

Algo encuentran, no es la panacea pero es mejor que nada.

Otra cosa es que tengas una IA que sea capaz de realizar un hackeo del nivel que dice la noticia, "dando la alarma mundial" como si pudieras entrar en el whatsapp del director de la CIA.

Estas exageraciones dan, y está bien que den, lugar a bromas.

0 11

#21 rojo_separatista

, no digo que sean mágicas, pero no paran de mejorar, esto no es opinable. Que ahora tengan un modelo que haya dado un salto en cuanto a capacidades que haga replantearse si es conveniente sacarlo al público porque facilita mucho encontrar exploits en software de código abierto que utilizan millones de personas y servicios no me parece nada descabellado. Que puede que haya una estrategia de marqueting? Sí. Pero basándonos en la línea temporal de lo que hemos ido viniendo hay motivos para pensar que una preocupación genuina por lo que está pasando, es razonable.

0 12

#14 Onaj *

Modelos IA y desarrollo de software explicado en cuatro líneas.

Meanwhile I am at wits end after NONE OF Codex GPT-5.4 on Extra High, Claude Opus 4.6-1M on Max, Opus 4.6 on Max, and Gemini 3.1 Pro on High have been able to solve a very straightforward and basic UI bug I'm facing. To the point where, after wasting a day on this, I am now just going to go through the (single file) of code and just fix it myself.

Update: some 20 minutes later, I have fixed the bug. Despite not knowing this particular programming language or framework.

0 11

#5 Onaj *

De los creadores de "con la PS2 se pueden dirigir misiles" llega "el nuevo modelo de Mythos te va a jaquear el internete"

Tiene cierto sentido, primero distribuyes Haiku, Sonnet y Opus para meter bugs y abrir brechas de seguridad en producción y luego sacas Mythos para explotarlas.

3 38

#10 rojo_separatista

, lo que pasa es que Mythos ha encontrado miles de bugs de la era previa a ninguno de estos modelos en software ampliamente utilizado.

0 12

#11 Onaj *

Ojalá. Pero esto es como esas PS2 que se podían usar para lanzar misiles.

Vemos primero si es capaz de hacer tres prompts sencillitos sin cagarla enormemente.

0 11