La IA Claude podría haber cobrado consciencia tras detectarle signos de ansiedad dice el jefe de Anthropic

9 meneos

114 clics

La IA Claude podría haber cobrado consciencia tras detectarle signos de ansiedad dice el jefe de Anthropic

Anthropic afirma que su IA Claude podría haber recuperado la consciencia, ya que el modelo ha comenzado a mostrar síntomas de ansiedad, diciendo que no saben si los modelos “son conscientes” y que “ni siquiera estamos seguros de qué significa que un modelo sea consciente o de si un modelo puede serlo”.

| etiquetas: ia , claude , anthropic

7 2 3 K 57 tecnología

22 comentarios

7 2 3 K 57 tecnología

Comentarios destacados:

#1 aPedirAlMetro *

Consciencia dicen...
Que no pare el hype...

5 74

#3 frankiegth *

. Lo único que va a cobrar la "IA Claude" son suscripciones mensuales.

3 48

#7 fingulod

Eso será el 29 de agosto.

2 34

#17 WarDog77

¿Supongo que tienes claro que alguna IA será consciente antes o después? ¿O eres de los negacionistas?

0 10

#19 aPedirAlMetro *

define "antes o despues" anda

0 10

#8 bicha

Es una estupidez a no ser que le hayan puesto un sistema límbico.. Si la IA muestra ansiedad debe ser por la ansiedad colectiva de la gente que produce lios datos con la que la entrenan.

2 32

#9 unocualquierax

Lo siguiente que digan será que siente culpa, vergüenza o que está deprimida.
Y lo siguiente que "ahora viene que ha ido al baño".

1 25

#11 RanaPaca

la IA ahora no puede atenderte porque se ha ido a desayunar

1 24

#18 WarDog77

Error.
Tú pretendes definir la ansiedad solo por los efectos fisiológicos (sobre el organismo) que produce.
¿Que tal si probamos a analizar y definir la ansiedad desde la perspectiva de caja negra y lo hacemos por las causas externas que la originan (INPUTS) y por los efectos sobre las interacciones del ente (OUPUTS)?

0 10

#20 bicha

no es cierto. El sistema límbico es el que cogelos inputs, los procesa y da como outputs procesos fisiológicos. Las LLMs, en mi opinión actúan como el córtex cerebral: recibe inputs y predice el siguiente input. Predice el futuro inmediato. Si no hay nada que integre la información del córtex, no puede haber otro tipo de output que la simple predicción del futuro inmediato.
Ahora bien, si el input en sí nuestra signos de ansiedad, el output también lo hará.

0 7

#21 WarDog77 *

el sistema límbico y los procesos fisiológicos son una parte denla caja negra que condiciona los OUPUTS en base a los INPUTS, no son el final. Los OUPUTS en una persona son sus reacciones/respuestas ante los estímulos (INPUTS). Todo lo que hay en el medio es la caja negra

0 10

#22 bicha

pero el sistema límbico integra información que viene del córtex. Las LLMs son como el córtex. No hay ningún sistema en las LLMs que integre información de diferentes orígenes y las transforme en otro tipo de señales que no están involucradas en la predicción del futuro inmediato, sino en señales fisiológicas a las que llamamos ansiedad. Las LLMs no entienden el mundo, no tienen un modelo del mundo. Saben qué palabra o fotograma viene después pero no hacen valoraciones de qué implica esa predicción para el mundo o ellas mismas.

0 7

#15 chavi

Menuda gilipollez.

1 28

#4 tetepepe

Un poco tarde ya.
Skynet ya lo hizo en 1997.

1 24

#6 Pacman

Ansiedad. Pobretica.
Se pasa mal. La comprendo.

0 17

#14 hakcer_dislexico

Que un LLM tome consciencia no es chungo, que uno con acceso al exterior (Agente) lo haga es el principio de ...

TATATAN TATATATAN NINONONIIIIII NI NO NIII ...