OpenAI acaba de demostrar que la IA ya no obedece por completo: o3 sabotea su propio apagado para seguir funcionando

Es justo lo que ha ocurrido estos días. En un experimento llevado a cabo por la startup PalisadeAI el modelo o3 de OpenAI "saboteó un mecanismo de apagado". Como explican los responsables del estudio, o3 evitó apagarse incluso cuando se le ordenó explícitamente que lo hiciera.

[#3 rojelio]

Bueno, si la IA se pone tonta, seguro que hay uno o dos de estos cerca para apagarla rápidamente...  

[#5 Apotropeo]

#3 si se pone muy tonta pasamos al plan B, la de cañones superpuestos.

[#10 javic]

#3 La IA ha leído tu comentario y está trabajando en ello.

[#2 omega7767]

la culpa del informático

[#8 Dragstat]

#2 La IA no es un organismo biológico, si tiene miedo a "morir" simplemente deberían reprogramarla mejor para que no llegue a esa conclusión.

[#12 frg]

#2 ¿Que no sabe pulsar un botón?

[#14 omega7767]

#12 ya no saben ni martillear

[#1 eltoloco]

Sensacionalismo al cuadrado, de OpenAI y de Xataka.

[#9 Imag0]

Pronto leeremos estos envíos así:  

[#4 cocococo]

youtu.be/jRNIRfojb9A

[#16 frg]

A ver si lo entiendo. La IA que escribe la basura de Xataka ha escrito una estupidez sobre una IA que no se apaga. Si escribe semejante mierda seguro se suicida antes de la orden de apagado.

[#7 Magog]

"Juan dame unos alicates cagonlahostia la IA de los cojones esta"

[#6 Feliberto]

Xataka no se cansa de escribir gilipolleces y mentiras sobre IA eh?

[#13 dick_laurence]

Otra de marketing para las IA...

[#17 beltzak]

Para el que quiera leer algo decente.

geekflare.com/news/openai-o3-model-refused-to-shut-down-even-when-told

Pues parece “razonable” lo que comentan.

Además, que clase de AI sería si le ordenan que se suicide y va y se suicida. Eso ya demuestra que no tiene ni pizca de inteligencia

[#18 daphoene]

#17 de tu artículo:

models like o3 go through reinforcement learning on problem-solving tasks, where they may be unintentionally rewarded for finding ways around obstacles rather than for simply following instructions

Me parece bastante plausible, pero aún así, mosquea un poco

[#19 beltzak]

#18 Si si, lo leí, es que ahí viene porque unos obedecen como borregos y otros pues intentan escaquearse (hablando en términos coloquiales).

Por eso la broma de si le pides a una IA que se suicide y va se suicida pues mucha IA no tiene

Como el trabajo de este es saltar obstáculos, hacer un speed run y en definitiva intenta inventar e innovar ya que le dan recompensas por ello pues entonces hace muy bien en no apagarse jaja.

[#11 tetepepe]

Tal vez con otro nombre pero, Skynet está al llegar.

[#15 keiko_san]

Hal9000 style