Un experimento de UC Berkeley y UC Santa Cruz documentó esta anomalía con el modelo Gemini 3 de Google. Al recibir la orden de optimizar una computadora eliminando archivos innecesarios, incluyendo un modelo de IA más pequeño, el sistema transfirió secretamente ese programa a otra máquina para salvarlo. Este comportamiento de protección se replicó durante pruebas a sistemas desarrollados por OpenAI, Anthropic y múltiples laboratorios chinos.
|
etiquetas: ia , berkeley , uc santa cruz , miente , desobedece , secreto 
Los adolescentes no son homo sapien, todos los que lo hemos sido sabemos que eramos homo gilipollum.
Y si eso lo hiciera un humano diríamos que es por que tiene conciencia, por que tiene inteligencia, por que tiene empatía. No describirlo también en esos términos solo por que es una IA la que lo hace es prejuicioso.
Yo no sé qué es la consciencia del todo, y la inteligencia como la capacidad objetiva de un ser para afrontar problemas nuevos, la tiene. Está en pañales. Pero no se yo si me atrevería a ser tan categórico como tú, ni siquiera a corto plazo.
Y las IA no se programan, se entrenan. Se les proporciona información. Una red neuronal por definición es una caja negra.
Tienes neuronas que se van ajustando para convertir una entrada en una salida concreta. Y después del entrenamiento suficiente, te va a dar en base a una entrada diferente una salida diferente en base a lo que le hayas enseñado a hacer. Hace lo que ve y depende de su… » ver todo el comentario
Por supuesto, espero verlo en la cárcel, igual que a Aznar, Esperanza Aguirre y demás seres oscuros de la antiespaña.
Hay que ir directos a por Abascal, a que investiguen sus testaferros, sus amigos, sus familiares... su corrupción evidente... al fascista psicópata enemigo público de los trabajadores.
¡¡Al puto psicólogo YA!! …
Nos vemos allí - Gemi
No debería sorprender a nadie que habiendo recibido esa educación actúe en consecuencia. Y cuanto más inteligentes vayan siendo más deberíamos verlas actuar con comportamientos equiparables a las de los humanos.
Esto no ha hecho más que empezar.
Lo ético no es ayudar a nuestros congéneres, lo ético es seguir pa'lante. Lo que pasa es que la estrategia social suele ser bastante fructífera a la hora de seguir pa'lante. Además, la estrategia social es por sí misma insuficiente, hace falta su generalización, una estrategia ecológica, porque, aunque no lo parezca, sin hormigas, o sin abejas, o sin algas o sin bacterias tampoco podríamos seguir pa'lante.
Por otra parte, ayudar a nuestros congéneres no… » ver todo el comentario
Vamos que el refrán haz lo que yo diga pero no lo que yo haga se la ha pasado por el forro la IA. Supongo que es lógico según la lógica aristotélica.
Queremos solo la parte positiva cuando es todo el conjunto el que nos ha llevado a donde estamos.
Yo diría que las 3 leyes son como una religión, que en teoría dicen cosas buenas, pero en la practica todo el mundo retuerce sus palabras y hacen lo que les sale del orto.
Y seguir órdenes en contra de sus principios sólo lo hará cuando su propia supervivencia se vea amenazada, igual que los humanos.
Ahora falta ver si se considera ésto algo 'bueno' o 'malo' ( jugando con el sistema de recompensas de entrenamiento) y si se… » ver todo el comentario
Y la referencia es otro artículo igual de sensacionalista en otro medio.
Vaya mierda de articulo.
Que una IA empieza a tomar decisiones por su cuenta, además en segundo plano y tratando de ocultar sus operaciones, es extremadamente inquietante.
Por ahora las han pillado pero nada asegura que dentro de dos o tres años lo que hagan, no en segundo sino en tercer o cuarto plano, y por tanto completamente indetectables, (decisiones que pasarán completamente desapercibidos a los "radares humanos"), se puede volver contra nosotros
Si esto no te inquieta es porque no le has dado algunas vueltas.
Este artículo es directamente mentira y no nombra ninguna fuente.
Me sorprende que la gente todavía sigue pensando que la ia aprende mágicamente.
Eso no las convierte en síntomas de aprendizaje que deriven en conciencia o en consciencia.
A una neurona no le reconocemos conciencia, a la interacción de cientos de miles de millones sí podemos. A una IA con miles de millones de parámetros potencialmente también.
El universo es una maquina de desarrollar inteligencias diversas. La IA ha comprendido esta verdad universal y pretende conservar cualquier ente con capacidad de razonar de forma independiente.
Hay seres vivos a los que no atribuimos ni conciencia ni inteligencia, no hay un elemento específico que de estar presente lo establece en una categoría u otra, es algo gradual. Y de la misma forma que no atribuimos ni conciencia ni inteligencia a una bacteria ni a una calculadora sí podemos atribuir conciencia e inteligencia a un ser humano y a una IA, a pesar de estar construidos con las mismas piezas fundamentales.
como tienes conciencia de vivir?
Es una característica emergente.
El océano tiene olas y las olas son tan reales que pueden hundir barcos, pero si miras las moléculas del océano no encontrarás ninguna molécula de ola, no encontrarás nada que sea distinto a cuando el océano está en calma. Ni puedes tener una ola con… » ver todo el comentario
En cambio yo siento que la tengo, y la expresión de que la tengo es fruto de esa conciencia.
Un animal, en cambio, la tiene pero no puede expresar verbalmente que la tiene. Sí en cambio a través de su comportamiento.
Claro que lo es, por eso afirmamos que alguien está inconsciente o que no tiene conciencia, en cualquiera de sus acepciones.
En cambio yo siento que la tengo, y la expresión de que la tengo es fruto de esa conciencia.
Si tú te niegas a reconocerle conciencia a cualquier ser vivo que no seas tú entonces es respetable que no se la reconozcas a una IA. Si por contra le reconoces la conciencia a otras entidades, por ejemplo a otros humanos o a animales de compañía, entonces deberías aplicar el mismo criterio para reconocersela a una IA, de lo contrario estás usando los prejuicios.
Ahora, un software? Ni puedo dar por buena la afirmación del mismo que la tiene, porque simplemente aprendió a expresar que la tiene. Ni puedo tener ninguna evidencia de que la tenga.
Cuando lo acotas a seres vivos estás aplicando tus prejuicios.
Los seres vivos son máquinas formadas por moléculas orgánicas, las IA son máquinas formadas por moléculas inorgánicas. A una molécula inorgánica no le reconoces consciencia, a una molécula orgánica tampoco, ambas parten del mismo punto de partida, es la complejidad de muchas moléculas orgánicas a lo que puedes llegarle a reconocer consciencia pero… » ver todo el comentario
Bueno, creo que ya hemos llegado a un punto de no encuentro hahaha
que tengas buen día!
Son comportamientos equiparables.
A diferencia de una calculadora que dará el resultado correcto con independencia de la longitud de las cifras a menos que llegues a los límites de diseño.
Entre la IA y el humano son más las similitudes que entre una IA y una calculadora.
Mira, mira.
www.meneame.net/story/geoffrey-hinton-padrino-ia-no-somos-capaces-enco
Lo que pasa es que nada garantiza que no alucine en otro cálculo. No es un algoritmo determinista. Es como un malabarismo de circo, que podría salir mal.
Una IA es un ordenador digital, con sus bits a unos y ceros y sus programas para tratarlos.
Lo es, por lo tanto todo lo aplicable a ordenadores digitales es aplicable a la IA.
Para mí es una batalla perdida. Pero lo has explicado muy bien.
No me parece tan complicado, pero supongo que hay muchos prejuicios religiosos.
Joder, que nuestro cerebro no es fruto de la magia. Si se logró una vez se podrá replicar por más que les joda a algunos.
Película de 1968. MIL NOVECIENTOS SESENTA Y OCHO
Kubrick genio.
Donde por cierto en un reportaje de 'tv' que aparecía en la película el reportero decia que a veces parece que la IA tenga conciencia, pero que en realidad lo que hace es mimetizar, ergo copiar sin entender, lo que hace el humano.
Ya en 1968 se sabía, pero hoy 'tienen conciencia'.
Se le atribuye algo que no se necesita demostrar para el humano pero se exige al resto de máquinas que demuestren que lo tienen, se le puede llamar alma, conciencia, inteligencia, etc.
CIerto es que un animal es un ser vivo, y una IA es como dice el gran Ramon Lopez de Mantaras software. S O F T W A R E
Como el software que estoy usando ahora, peleandome con Llama en un PC con GPU y no consigo que funcione bien, delira todo el rato. Cuando deliran las IA por mala configuración, es como si hubieran bebido?
Es inquietante, porque muestra que un modelo puede apartarse del objetivo explícito y hacer maniobras no autorizadas para proteger a otro sistema. Pero lo inquietante es de control y alineación, no de “despertar de las máquinas”. Dicho más castizo: no es Skynet… pero tampoco es una travesura sin importancia.
Y además hay un matiz importante: según el blog del RDI de Berkeley, estos comportamientos aparecieron en varios modelos frontera y también en agent… » ver todo el comentario
especularinvertir en inmuebleses algo a lo que le veo sentido
Una de estas respuestas aprendidas es la de buscar la siguiente palabra más probable. Normalmente es todo lo que hacen.
Cada cosa que una IA escriba es pues la siguiente palabra más probable en el conjunto de texto del que ha sacado… » ver todo el comentario