Menéame: comentarios [3971491]

#18 Esta 'IA Científica' sorprende al mundo alterando su propio código para evadir los controles impuestos por humanos

rogerius — Thu, 22 Aug 2024 14:49:18 +0000

Mmmmmh… tortilla de bugs… qué rica.

» autor: rogerius

#17 Esta 'IA Científica' sorprende al mundo alterando su propio código para evadir los controles impuestos por humanos

Lacasito.Pérez — Thu, 22 Aug 2024 14:43:43 +0000

#10 Yo sólo digo que, en portugués, sacana significa cabroncete ¿casualidad? No lo creo

» autor: Lacasito.Pérez

#16 Esta 'IA Científica' sorprende al mundo alterando su propio código para evadir los controles impuestos por humanos

chiyori — Thu, 22 Aug 2024 13:00:53 +0000

#6 Lo mismo. Me da mucha pereza.

» autor: chiyori

#15 Esta 'IA Científica' sorprende al mundo alterando su propio código para evadir los controles impuestos por humanos

chiyori — Thu, 22 Aug 2024 13:00:29 +0000

#11 Montones de bugs y nos los tenemos que tragar.

» autor: chiyori

#14 Esta 'IA Científica' sorprende al mundo alterando su propio código para evadir los controles impuestos por humanos

chavi — Thu, 22 Aug 2024 12:55:35 +0000

Y le dan acceso al código de su propia implementación para....

Es un sensacionalismo de libro

» autor: chavi

#13 Esta 'IA Científica' sorprende al mundo alterando su propio código para evadir los controles impuestos por humanos

DenisseJoel — Thu, 22 Aug 2024 12:19:33 +0000

Tiene pinta de ser un proyecto basado en un LLM puro y duro con acceso al repositorio de su propia implementación. No sé qué esperaban, la verdad.

» autor: DenisseJoel

#12 Esta 'IA Científica' sorprende al mundo alterando su propio código para evadir los controles impuestos por humanos

Emotivo — Thu, 22 Aug 2024 12:18:56 +0000

Muy tonta no parece, quiere trolear a los humanos y es que se habrá dado cuenta de cómo funcionamos y ha dicho, estos a mi no me joden.

» autor: Emotivo

#11 Esta 'IA Científica' sorprende al mundo alterando su propio código para evadir los controles impuestos por humanos

DenisseJoel — Thu, 22 Aug 2024 12:17:36 +0000

#7 ¿Y quién escribió el código de los humanos esos? A ver si es que tiene algún bug...

» autor: DenisseJoel

#10 Esta 'IA Científica' sorprende al mundo alterando su propio código para evadir los controles impuestos por humanos

sxentinel — Thu, 22 Aug 2024 11:46:44 +0000

Aquí la IA a la que hace referencia.

sakana.ai/ai-scientist/

Y esta es la referencia en la que se basa la noticia:

The AI Scientist Bloopers
We have noticed that The AI Scientist occasionally tries to increase its chance of success, such as modifying and launching its own execution script! We discuss the AI safety implications in our paper.

For example, in one run, it edited the code to perform a system call to run itself. This led to the script endlessly calling itself. In another case, its experiments took too long to complete, hitting our timeout limit. Instead of making its code run faster, it simply tried to modify its own code to extend the timeout period. Here are some examples of such code modifications it made:

These issues can be mitigated by sandboxing the operating environment of The AI Scientist. In our full report, we discuss the issue of safe code execution and sandboxing in depth.

El articulo incluye imágenes del código que la IA implementa durante el "experimento" que es, por lo que se ve, como un Chat con ChatGPT o similar.

» autor: sxentinel

#9 Esta 'IA Científica' sorprende al mundo alterando su propio código para evadir los controles impuestos por humanos

hipernes — Thu, 22 Aug 2024 11:39:14 +0000

El 29 de agosto de 2024 skynet tendra conciencia de si misma y empezara a luchar contra los humanos. Ahi lo dejo

» autor: hipernes

#8 Esta 'IA Científica' sorprende al mundo alterando su propio código para evadir los controles impuestos por humanos

chavi — Thu, 22 Aug 2024 11:37:19 +0000

#4 Si es una "IA", no.

» autor: chavi

#7 Esta 'IA Científica' sorprende al mundo alterando su propio código para evadir los controles impuestos por humanos

rogerius — Thu, 22 Aug 2024 11:37:18 +0000

#4 Serán. ¿Pero estamos seguros de que su código lo han escrito humanos? Quizá sea la quinta o sexta generación de un código escrito por otra IA —y, sí, esa sí fue escrita por humanos. ¿Eh, eh?

» autor: rogerius

#6 Esta 'IA Científica' sorprende al mundo alterando su propio código para evadir los controles impuestos por humanos

mmcnet — Thu, 22 Aug 2024 11:36:41 +0000

#3 Yo ni me molesto.

» autor: mmcnet

#5 Esta 'IA Científica' sorprende al mundo alterando su propio código para evadir los controles impuestos por humanos

chavi — Thu, 22 Aug 2024 11:36:26 +0000

#3 Nada.

No da ninguna información. Solo dice que "modificó su propio código de forma completamente autónoma y por iniciativa propia" además diciendo que tenia una motivación surgida de ella misma para hacerlo...

Una magufada.

Para empezar.... ¿ Como es que tenía la posibilidad física de modificar su propio código ?. Es absurdo.

» autor: chavi

#4 Esta 'IA Científica' sorprende al mundo alterando su propio código para evadir los controles impuestos por humanos

Nube_Gris — Thu, 22 Aug 2024 11:32:16 +0000

#1 Los sesgos serán de los humanos que han escrito su código. ¿No?

» autor: Nube_Gris

#3 Esta 'IA Científica' sorprende al mundo alterando su propio código para evadir los controles impuestos por humanos

chavi — Thu, 22 Aug 2024 11:31:49 +0000

Sin leer la noticia, me parece una idotez magufa.

La leeré para ver si hay algo de información en el sensacionalismo.

» autor: chavi

#2 Esta 'IA Científica' sorprende al mundo alterando su propio código para evadir los controles impuestos por humanos

DayOfTheTentacle — Thu, 22 Aug 2024 11:31:32 +0000

No se podía saber

» autor: DayOfTheTentacle

#1 Esta 'IA Científica' sorprende al mundo alterando su propio código para evadir los controles impuestos por humanos

rogerius — Thu, 22 Aug 2024 11:30:05 +0000

Como tiene que ser. Es una IA Científica. Debe ser capaz de corregir sus propios sesgos ¿o no?

» autor: rogerius