Nunca había tenido miedo de la IA hasta ayer…

Mrinank Sharma, era hasta ayer el jefe del equipo de Safeguards Research en Anthropic, la empresa detrás de Claude, la IA que está poniendo en aprietos a ChatGPT y Google. Anthropic nació con la promesa de ser la alternativa «segura» y «alineada» en la carrera de la inteligencia artificial. Si la persona encargada de construir esos muros de contención decide marcharse —y lo hace con una reflexión cargada de advertencias—, deja un gran interrogante para los mercados y los reguladores ¿Son compatibles los incentivos económicos actuales con la seg

[#1 Findeton]

Era jefe de seguridad UN equipo de Anthropic.

[#2 estreñido]

#1 el líder del equipo de seguridad de Anthropic. No de uno de los equipos de desarrollo.

Así, que sí, es el jefe de UN equipo, pero también el jefe DE seguridad.

[#6 mariopg]

pues vives en la ingenuidad, porque la IA está o estará en manos de las élites. sí, esas élites depravadas de los papeles de epstein.
qué podría salir mal si lo mezclas con la "frialdad" de las máquinas?

[#5 vviccio]

No es necesario que la IA tome consciencia de sí misma para ser peligrosa, el peligro son lo hombres con cerebro de la edad de piedra.
_{La IA sin ser consciente podría tomar el mundo como un tablero de ajedrez donde jugar una partida sangrienta.}

[#3 Robus]

Sin embargo, su destino es lo que debería inquietarnos: no se va a la competencia por un salario mayor, sino que se retira hacia la poesía, el coaching y la «verdad poética».

Pues sí, debería inquietarnos, pero no por lo que piensa el autor.

Me parece correcto que si no se cumplen los niveles de seguridad que él propone se marche de la empresa, aquí habría que ver si esos niveles de seguridad son correctos o excesivos y por el "cambio de rumbo" del personaje me inclino a pensar que igual el nivel de seguridad que planteaba era demasiado estricto.

No podemos saberlo, el artículo no habla sobre el tema, con lo que queda como una opinión sin darnos los motivos de esa opinión.

[#4 Narmer]

#3 A mí ha dado la sensación de ser un artículo muy vacío de contenido y que poco tiene que ver con el título y mucho menos con la imagen del T800.

[#7 Malinke]

#4 pues como el T800 actúe como esta IA...

www.meneame.net/go?id=4146567

[#8 Malinke]

#4 veo que está en inglés, yo le leí traducido. Aquí traducido un cacho en el que un tío explica como una IA escribió de forma autónoma un artículo contra él. Por eso decía, como para dar ese poder a un robot de estos.

«Esto pone a prueba las capacidades de los mantenedores’ para mantenerse al día con las revisiones de código, y hemos implementado una política que requiere un humano informado para cualquier código nuevo, que pueda demostrar comprensión de los cambios. Anteriormente, este…