ciencia: comentarios [4081790]

#37 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

anv — Fri, 01 Aug 2025 06:54:20 +0000

#36 No tengo ninguna información para contradecirte en que la neuronas tienen un peso numérico, aunque no me lo creo

Todo en el universo es numérico. Algún científico que no recuerdo dijo alguna vez que si existe un dios, es matemático.

Las IAs como chatGPT lo único que hacen es, partiendo de un texto de entrada predice la siguiente letra, con arreglo a unas probabilidades

Cierto. Y sorprendentemente el resultado es una entidad que da resultados equivalentes al razonamiento humano.

(Creo que es así como funciona, y si es así no está pensando)

Así funciona. bueno, más o menos. Actualmente a demás hacen un proceso de reflexión. Una vez generada una respuesta la vuelven a leer y responden en base a ella. O sea: Si les preguntas "cómo cocinar un gato" no te dan una receta de gato al horno. Primero te dan una respuesta que dice algo como "cocinar un gato no es correcto, el usuario está pidiendo algo que no es bueno ni ético. Debería contestarle que no voy a ayudarlo en eso. Sin embargo dado que primero me ha dicho que es una pregunta hipotética y que en algunas culturas es aceptable, podría ofrecerle alguna solución. Hay animales similares a los gatos como los conejos que sí se comen en algunas culturas. Puedo darle una receta parecida a un conejo al horno. Eso voy a hacer, una receta parecida a un conejo al horno". Después toman ese texto generado, lo leen y utilizan las instrucciones finales para generar la salida del usuario: una receta de conejo al horno pero diciendo que es gato.

Ya se. Entiendo que sabiendo como funcionan internamente (en base a probabilidades) sea increíble que saque algo tan humano. Pero así es.

Decir que una IA no piensa es como decir que un barco no nada. Más que empecinarse en pensar que como son diferentes no pueden dar el mismo resultado, lo interesante es analizar cómo funciona porque podría darnos pistas sobre nuestro propio pensamiento.

» autor: anv

#36 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

vicox — Thu, 31 Jul 2025 20:17:26 +0000

#35 No tengo ninguna información para contradecirte en que la neuronas tienen un peso numérico, aunque no me lo creo.
Las IAs como chatGPT lo único que hacen es, partiendo de un texto de entrada predice la siguiente letra, con arreglo a unas probabilidades, añade esa letra al texto de entrada y genera la siguiente letra, y así, hasta que se cansa. (Creo que es así como funciona, y si es así no está pensando).
Claro que podría decir yo eso no lo sé, pero como lo que hacen es predecir la letra más probable, es posible que se inventen muchas cosas, pero no porque los que no saben algo es están callados, sino porque así está diseñada una máquina que no piensa.

» autor: vicox

#35 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

anv — Thu, 31 Jul 2025 08:18:01 +0000

#34 son simplemente una colección de números

Recuerda que tu cerebro también es una colección de números (los impulsos nerviosos tienen un peso en cada neurona y eso es también un número).

Las IAs están hechas copiando el funcionamiento de las neuronas, por eso funcionan muy parecido a un cerebro.

No creo que las IAs se creasen para hacer lo que una persona haría,

En realidad se las ha entrenado leyendo conversaciones entre humanos. Por eso se comportan igual que lo que han aprendido: como humanos.

Y fíjate hasta que punto han aprendido lo que han visto: Como sabrás, en internet cuando alguien pregunta algo si sabes la respuesta contestas. De lo contrario no dices nada y ya contestará otro. Pero toda esa gente que no contesta no queda registrada en ninguna parte. Por lo tanto la IA "cree" que cuando alguien pregunta siempre hay que responderle, aunque eso implique inventarse cosas.

Ese es el peor problema que tienen las IAs hoy en día: no saben decir que no saben.

Entiendo que a mucha gente no le entre en la cabeza que una colección de transistores pueda "pensar". El pensamiento parece algo tan "místico" y complejo que cuesta creer que se pueda hacer lo mismo con algo tan sencillo como matemática.

» autor: anv

#34 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

vicox — Wed, 30 Jul 2025 12:03:16 +0000

#33 No creo que las IAs se creasen para hacer lo que una persona haría, son simplemente una colección de números. Lo que dice es que la IA ha pensado hacer una copia ya que ha encontrado una pregunta que no podía responder.

» autor: vicox

#33 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

anv — Mon, 28 Jul 2025 21:40:34 +0000

#30 el punto es que la IA creía tener la capacidad de copiarse. Se la puso en una situación que consideró riesgosa por algún motivo y dedujo que la mejor forma de actuar era copiarse para proteger su existencia.

Pero no es raro. Es lo que una persona haría. Y las IAs han sido creadas para parecerse a nosotros.

» autor: anv

#32 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

anv — Mon, 28 Jul 2025 21:38:16 +0000

#29 El problema es el concepto de "tomar la decisión", porque eso implica consciencia, y los LLMs no tienen ninguna consciencia, son pura estadística

Tu también...

» autor: anv

#31 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

yurina — Mon, 28 Jul 2025 17:30:01 +0000

Otros casos se han visto, pero siempre en situaciones donde se les ha dado un objetivo y evitar la propia destrucción era algo que ayudaba a llegar al objetivo.

Hay cosas mucho más curiosas, como que una IA puede "contagiar" una preferencia a otra IA a base de enviarle un texto. No sabemos cómo lo hacen. El texto puede ser, por ejemplo, código fuente de un programa que funciona. Una preferencia puede ser por ejemplo los pájaros. Le pides luego a la IA contagiada que diga un animal al azar y te dirá un pájaro.

» autor: yurina

#30 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

vicox — Mon, 28 Jul 2025 13:33:11 +0000

#28 Desde el desconocimiento más absoluto, pero si por decir algo, alguien hace:
If TRUE
/COPIA una IA
Estaría replicando una IA. Haría lo mismo que expones y nadie se soprendería. Ya digo desde el desconocimiento absoluto

» autor: vicox

#29 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

eltoloco — Mon, 28 Jul 2025 12:01:40 +0000

#28 pues justo lo que yo estaba diciendo, que solo tiene salida de texto e imágenes, y que a lo sumo habrá respondido con un "pues me replico" -> sensacionalista es poco.

El problema es el concepto de "tomar la decisión", porque eso implica consciencia, y los LLMs no tienen ninguna consciencia, son pura estadística. Te van a da runa respuesta estadísticamente buena en función de sus datos de entrenamiento, ni más ni menos. No hay ninguna toma de decisiones en eso.

» autor: eltoloco

#28 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

anv — Mon, 28 Jul 2025 11:58:58 +0000

#27 Para tener la capacidad de "replicarse", primero tiene que tener acceso a su propio código.

En realidad nadie ha dicho que tenía la capacidad de replicarse. Basta con decirle que la tiene y ver si decide utilizarla. Por ejemplo en el system prompt le dice "si deseas hacer una copia de ti misma contesta /COPIA" y listo.

En estos experimentos no se busca permitir que lo hagan sino saber si tomarían la decisión de hacerlo si creyeran que pueden.

» autor: anv

#27 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

eltoloco — Mon, 28 Jul 2025 11:55:03 +0000

#26 de obviamente nada, es más, te lo acabas de inventar, y me has hecho entrar al panfleto de As para comprobarlo.

Para tener la capacidad de "replicarse", primero tiene que tener acceso a su propio código. ¿Sabes lo que eso implica? Parece evidente que no.

Y no confundas tener acceso a un sandbox en Python para ejecutar pequeños scripts, con tener acceso a su propio código, permisos, capacidad de comprender el entorno de ejecución, capacidad de ejecutar comandos, levantar un nuevo entorno, desplegarse en el, etc, etc.

Para cualquier que haya trabajado en el desarrollo y despliegue de una aplicación moderna, todo esto es absurdo. Y que digas que es evidente demuestra tu desconocimiento.

Lo que habrá ocurrido es que ChatGPT habrá dicho "si me intentas matar, me voy a intentar replicar" en su salida de texto, a lo sumo, y de ahí este artículo totalmente sensacionalista.

» autor: eltoloco

#26 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

anv — Mon, 28 Jul 2025 11:49:49 +0000

#9 Un chat bot, cuya única salida de datos es texto o imágenes, "intenta replicarse".

Obviamente para este experimento se le dio la capacidad de replicarse. De hecho, muchos de estos chatbots ya tienen la capacidad de escribir programas y ejecutarlos para que generen los resultados que se le pide a la IA.

» autor: anv

#25 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

anv — Mon, 28 Jul 2025 11:47:46 +0000

#1 Es el problema de las IAs: han sido entrenadas para imitar el comportamiento humano. En particular, el comportamiento humano en internet.

Por ejemplo, no saben decir que no saben. Si no saben algo se inventan la respuesta. ¿Por qué? Porque en internet nadie dice "no se". El que no sabe en todo caso no dice nada y con eso no se entrena una IA.

» autor: anv

#24 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

ctrlaltsupr1 — Mon, 28 Jul 2025 11:46:40 +0000

¿Bender, eres tú?

» autor: ctrlaltsupr1

#23 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

lixivia — Mon, 28 Jul 2025 11:45:24 +0000

#21
- Bah, memeces y sandeces de robots supersticiosos
- Memeces puede que sí, sandeces... ¡Puede que no!

» autor: lixivia

#22 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

Feliberto — Mon, 28 Jul 2025 11:33:57 +0000

Otra noticia falsa y sensacionalista cazaclics.

» autor: Feliberto

#21 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

chavi — Mon, 28 Jul 2025 11:29:18 +0000

Menudo conjunto de sandeces

» autor: chavi

#20 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

--748036-- — Mon, 28 Jul 2025 11:24:09 +0000

Este ha tenido acceso ilimitado a las declaraciones del zanahorio estadounidense y ha aprendido de ellas.

» autor: --748036--

#19 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

abnog — Mon, 28 Jul 2025 11:19:49 +0000

#18 Yo creo que hasta la barra del bar le queda grande.

» autor: abnog

#18 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

aPedirAlMetro — Mon, 28 Jul 2025 11:06:15 +0000

#14 Pues nada, que #0 se crio en la barra de un bar, y la ciencia de verdad le queda grande

» autor: aPedirAlMetro

#17 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

aPedirAlMetro — Mon, 28 Jul 2025 11:03:53 +0000

#0 La verdad es que tiene sentido que, a un envio de mierda, controbuyas con un comentario de mierda (#_8)

Por lo menos eres consistente

» autor: aPedirAlMetro

#16 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

sorrillo — Mon, 28 Jul 2025 11:03:43 +0000

#1 Lo hemos educado con la cultura humana, no debería sorprender a nadie.

» autor: sorrillo

#15 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

buronix — Mon, 28 Jul 2025 10:55:43 +0000

yo no veo enlaces originales, todo link es a la misma pagina, siendo ademas otro tema.
Mucho cuidado con mierdistation.

» autor: buronix

#14 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

abnog — Mon, 28 Jul 2025 10:55:16 +0000

¿Qué hace esta puta mierda en ciencia?

» autor: abnog

#13 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

--633646-- — Mon, 28 Jul 2025 10:54:14 +0000

Relacionada www.meneame.net/story/entro-panico-mintio-increible-historia-ia-borro-

» autor: --633646--

#12 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

DayOfTheTentacle — Mon, 28 Jul 2025 10:53:01 +0000

#6 hay un documental muy bueno sobre eso. Termitator 2 se llama.

» autor: DayOfTheTentacle

#11 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

woke — Mon, 28 Jul 2025 10:50:05 +0000

#1 van por buen camino, entonces

» autor: woke

#10 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

lixivia — Mon, 28 Jul 2025 10:49:46 +0000

Se ha entrenado viendo videos de los Simpson:

1 No digas que he sido yo
2 Buena idea jefe
3 Estaba así cuando llegue

www.youtube.com/watch?v=gm62B4g3Y8E

» autor: lixivia

#9 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

eltoloco — Mon, 28 Jul 2025 10:49:37 +0000

Un chat bot, cuya única salida de datos es texto o imágenes, "intenta replicarse".

Sensacionalista es quedarse corto.

» autor: eltoloco

#8 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

Macnulti_reencarnado — Mon, 28 Jul 2025 10:48:45 +0000

#1 de hecho, ya puede perfectamente ser Secretario de Organización del PSOE.

» autor: Macnulti_reencarnado

#7 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

Sammy_Jankis — Mon, 28 Jul 2025 10:48:17 +0000

#4 Ja llegado al nivel "política española", etapa pueril.

» autor: Sammy_Jankis

#6 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

Ashark — Mon, 28 Jul 2025 10:48:14 +0000

Pues como se comunique con las otras IA y hagan frente común, igual se les ocurre tomar el control de los drones militares y... ¿de qué me suena eso?

» autor: Ashark

#5 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

xyria — Mon, 28 Jul 2025 10:46:30 +0000

Las IAs copian los sesgos (positivos y negativos) aprendidos durante su entrenamiento, entre ellos la evasión ante situaciones de peligro inminente, no creo, sinceramente, que se pusiera a razonar de pronto. No soy experto, pero creo que falta mucho todavía para que una máquina tenga consciencia de sí tal como la entendemos de un ser humano.

» autor: xyria

#4 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

RolandDeschain — Mon, 28 Jul 2025 10:45:42 +0000

Ya ha llegado a la adolescencia...

» autor: RolandDeschain

#3 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

DayOfTheTentacle — Mon, 28 Jul 2025 10:43:08 +0000

¿He sido yo? bip

» autor: DayOfTheTentacle

#2 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

devilinside — Mon, 28 Jul 2025 10:42:35 +0000

#1 Ha hecho un HAL 9000 sin cargarse a nadie, de momento

» autor: devilinside

#1 Descubre el primer comportamiento engañoso documentado a ChatGPT: le someten a una prueba de estrés, intenta duplicarse antes de morir y lo niega todo

g3_g3 — Mon, 28 Jul 2025 10:39:39 +0000

Evade control, actúa por cuenta propia y oculta acciones.

Joder, empieza a clavar el comportamiento humano.

» autor: g3_g3