Menéame: comentarios [4007533]

#359 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Thu, 12 Dec 2024 17:10:30 +0000

#358 Lo he mirado porque no me parecía evidente en absoluto. Una máquina de Turing es algo muy distinto de una RN. En realidad se parece mucho más a un simulador analógico (no lo es pero tiene la pinta). De ahí que valiese la pena mirarlo.

El caracter funcional de una RN no es inconveniente, pero aún así no cumple.

» autor: kaotan

#358 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Joder__soy_yo — Thu, 12 Dec 2024 12:49:07 +0000

#357 me pinchas y no sangro, no me lo puedo creer, qué inesperado!

Me dices que los humanos no somos máquinas de precisión absoluta, y que sólo podemos dar resultados aproximados????

No podía saberse

» autor: Joder__soy_yo

#357 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Thu, 12 Dec 2024 09:22:34 +0000

#353 las RN, que aunque sean máquinas de Turing

Me ha dado por consultarlo.

Turing Completeness:

Certain types of neural networks, especially those designed with external memory (like Neural Turing Machines), can be considered Turing complete because they can simulate a Turing machine's operations given sufficient resources
.
However, traditional neural networks without such memory capabilities do not meet the criteria for Turing completeness due to their finite precision and limitations in state representation7
.

Memory Requirements:

Turing machines theoretically have infinite memory, allowing them to perform any computation that can be defined algorithmically.
Neural networks, particularly in their standard forms, are limited by their architecture and the precision of their weights and activations, which may prevent them from performing certain computations that require more extensive memory management
.

Aunque lo de la memoria infinita es un requerimiento teórico para la demostración, no un requerimiento en los casos prácticos, lo de la precisión no infinita en los pesos, sí que limita el que una RN pueda hacer cualquier computación. Por ello, solamente puede dar resultados aproximados.

» autor: kaotan

#356 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Tue, 10 Dec 2024 17:31:27 +0000

#353 la misma función que ejecuta esas "cosas", cambiando el parámetro (las cosas), puede ejecutar cualquier cosa

Excel contiene el código necesario para computar "+" y "LCM". Lo que se le indica como parámetro es cual de los dos hacer.
Esto no es código. No estás diciendo como se hace una suma ni lo otro, ni te hace falta saberlo.

la genialidad de una RN es que puede hacer casi cualquier cosa

Las RN están limitadas, como todo.

Pero el excel y las RN se parecen en que sin parametrizar no son capaces de hacer nada. Tan inútil es una hoja de cálculo vacía como una RN sin entrenamiento.

las RN, que aunque sean máquinas de Turing, y no sea necesario que el programador sepa cómo hacer las cosas que pretende que resuelvan

Si no lo sabe, no podrá entrenar a la RN.
¿De verdad te crees que una RN se sabe las respuestas sin que alguien se las dé antes?

» autor: kaotan

#355 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Tue, 10 Dec 2024 17:22:23 +0000

#354 Los pesos son los parámetros y una RN no puede modificar sus pesos cuando está en modo consulta.

» autor: kaotan

#354 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Joder__soy_yo — Tue, 10 Dec 2024 16:24:20 +0000

#349 por cierto, el estado son los pesos

» autor: Joder__soy_yo

#353 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Joder__soy_yo — Tue, 10 Dec 2024 16:22:55 +0000

#348 a ver cómo te lo explico...

=A2+A3 lo podemos reescribir como la función SUMA, con 2 parámetros: SUMA( A2 , A3 )
=LCM(A2 , A3), en cambio, está usando OTRA función (LCM), con los mismos parámetros

Tú te refieres a que la casilla A3 ejecuta "cosas", y que por lo tanto, la misma función que ejecuta esas "cosas", cambiando el parámetro (las cosas), puede ejecutar cualquier cosa

Y ese NO es el concepto que to intento explicarte, porque yo te digo que con la misma función (llámale SUMA, LCM o RN) y sólo cambiando los parámetros de esa función, la genialidad de una RN es que puede hacer casi cualquier cosa (joder, los humanos, si algo tenemos, es que podemos hacer cosas MUY diversas)

Y sé que me entiendes, pero lo llevas todo el rato al terreno de que todo es computable, y que por lo tanto, todo es lo mismo
Pero a la vez, cuando yo te digo que, en ese caso, la consciencia, como cosa computable, pues que se puede construir una máquina de Turing que tenga consciencia, entonces me dices que no, que en ese caso no es posible, porque para hacer un programa que haga ciertas cosas, el programador ha de saber hacer esas cosas. Pero obvias las RN, que aunque sean máquinas de Turing, y no sea necesario que el programador sepa cómo hacer las cosas que pretende que resuelvan, pues para tí eso no importa porque tralarí

Mira, me has demostrado por activa y por pasiva que eres lo suficiente inteligente para entender los conceptos que te estoy explicando
También se te ve de una legua lejos de que eres de los que no dan su brazo a torcer y que te gusta tener la última palabra

Tú me has entendido, no tiene sentido que le demos más vueltas, espero que hayas aprendido algo (yo lo he hecho)

Un saludo

» autor: Joder__soy_yo

#352 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Tue, 10 Dec 2024 15:43:52 +0000

#351 No te creas que la cosa es tan distinta
Claro que lo es.

. Los trozos de ADN que codifican genes están (como todo el ADN) cubiertos por azúcares que hay que retirar antes de que se "expresen" (produzcan proteinas).
En el código de un programa no.

Las condiciones para que esto suceda están codificadas en el ADN que no son genes.
En el código de un programa no.

Un programa son simples instrucciones que lleva a cabo una CPU según el juego de instrucciones con el que fué construida. Una CPU no es capaz de hacer nada distinto a lo que se diseñó en su construcción.

Llamamos "código" a un programa porque usa un conjunto de instrucciones mnemotécnicas que llamamos "código" para representarlas. (porque escribir los ceros y los unos directamente sería cosa de tener demasiada paciencia y tiempo) .

Nada más.

Para mi que esto es parecido a un IF de un programa.
Para mi que no.
No es nada parecido.

» autor: chavi

#351 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Tue, 10 Dec 2024 15:39:13 +0000

#100 el ADN y el código de un programa se parecen como un huevo y un Porsche Cayenne

No te creas que la cosa es tan distinta. Los trozos de ADN que codifican genes están (como todo el ADN) cubiertos por azúcares que hay que retirar antes de que se "expresen" (produzcan proteinas). Las condiciones para que esto suceda están codificadas en el ADN que no son genes.

Para mi que esto es parecido a un IF de un programa.

» autor: kaotan

#350 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Tue, 10 Dec 2024 15:33:51 +0000

#338 Si bien es cierto que se especula (de momento sólo eso) con algo llamado redes neuronales líquidas. Sólo es un nombre, no hay líquidos ahí. Creo que dividen la RN en varias partes y hay una que se puede automodificar, creo, no recuerdo bien. Le ví muchas más limitaciones que ventajas.

» autor: kaotan

#349 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Tue, 10 Dec 2024 15:29:16 +0000

#344 una red neuronal es algo capaz de, con el entrenamiento adecuado, ejecutar cualquier cosa, y no necesita (a diferencia de la programación clásica, o procedural) que el programador sepa cómo funciona el comportamiento buscado

Una RN no puede hacer cualquier cosa. Hay muchas más cosas que no puede hacer que cosas que sí que puede hacer.
Sí que necesita que quién la entrena sepa como determinar el resultado buscado para diseñar el entrenamiento adecuado.
La programación procedural puede hacer cualquier cosa que una IA pueda hacer.

aunque los humanos no sepamos cómo funciona la autoconsciencia, sí que es posible reproducir este comportamiento en una red neuronal

Sí que sabemos un poco como va lo de la consciencia, que tampoco es tan complicado.
Una RN no puede hacer eso debido a su comportamiento funcional, entre diversos otros motivos.

Hay otros motivos importantes, pero es que si no puedes mantener un estado, y una RN no puede, no hay consciencia que valga.

» autor: kaotan

#348 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Tue, 10 Dec 2024 15:23:13 +0000

#345 Pues eso, los parámetros. Yo no he modificado el código de excel, sólo le he dado parámetros distintos. Este es el paralelismo que hay entre una cosa y la otra.

» autor: kaotan

#347 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Tue, 10 Dec 2024 15:20:33 +0000

#346 Sí que es posible que un programa procedural haga eso. Es realmente sencillo. Pero el caso general es también cierto. No hay nada que haga una IA que un programa procedural no pueda hacer.

» autor: kaotan

#346 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Joder__soy_yo — Tue, 10 Dec 2024 14:55:55 +0000

#343 me parece fantástico que sepas cómo funciona una RN entrenada como LLM (sólo añadir que la misma RN decide cuándo ha terminado) (y si no, será otra RN la que sea capaz de decidir que la RN principal ha terminado, porque no es posible con un programa procedural saber eso)

» autor: Joder__soy_yo

#345 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Joder__soy_yo — Tue, 10 Dec 2024 14:54:31 +0000

#341 eeeiiii
No cambies las reglas a media partida.......
En A3 has puesto instrucciones distintas. En una RN sólo cambias los parámetros, NO las instrucciones/funciones

» autor: Joder__soy_yo

#344 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Joder__soy_yo — Tue, 10 Dec 2024 14:53:03 +0000

#342 bueno, te ha costado pero al final me has dado la razón:
una red neuronal es algo capaz de, con el entrenamiento adecuado, ejecutar cualquier cosa, y no necesita (a diferencia de la programación clásica, o procedural) que el programador sepa cómo funciona el comportamiento buscado
Por lo tanto, aunque los humanos no sepamos cómo funciona la autoconsciencia, sí que es posible reproducir este comportamiento en una red neuronal, tal y como ya se está produciendo en nuestros cerebros

» autor: Joder__soy_yo

#343 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Tue, 10 Dec 2024 14:36:05 +0000

#339 En una RN la retroalimentación va por fuera. Un LLM lo único que sabe hacer es generar la siguiente palabra que sigue al prompt. Entonces se añade esa palabra a continuación del prompt y se pasa todo eso junto, a la RN otra vez. Se va interando así hasta que, desde fuera de la RN, se decide que ya basta, y se devuelve el texto obtenido al usuario.

En modo de consulta, una RN no modifica sus pesos.

» autor: kaotan

#342 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Tue, 10 Dec 2024 14:30:31 +0000

#338 una filosofada que no lleva a ninguna parte, no?

Suele pasar con la filosofía, y mientras no metamos a la magia por el medio, que es exactamente lo que quieres hacer, todo es aún controlable.

una fórmula dentro de una casilla de excel, que simula el comportamiento de 10000000000000000 neuronas

Si nos saltamos las limitaciones de una celda de excel, que creo que son 256 variables, y asumimos que cabe lo que sea, se puede hacer sin problema. La diferencia que aporta una RN es el truco para generar los pesos a partir de ejemplos, pero una vez hecho esto, el comportamiento en consultas es exactamente el mismo.

» autor: kaotan

#341 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Tue, 10 Dec 2024 14:25:41 +0000

#337 Del mismo modo que si quieres que una RN te haga cosas distintas, tendrás que darle otro entrenamiento para que te genere pesos distintos, pues en excel es lo mismo

A3: =LCM(A1,A2)

» autor: kaotan

#340 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Malversan — Tue, 10 Dec 2024 12:01:52 +0000

#159 No sé de qué hombre de paja hablas. En #108 te has montado la fantasía de que un software podría reescribirse mágicamente a sí mismo sólo porque genera código en Pyhton. Y se te ha rebatido con criterios técnicos.

Si no era eso lo que estabas afirmando explícate, porque es lo que todos hemos extraído de tu comentario. Y limitarte a alegar que no te han entendido es sencillamente infantil.

» autor: Malversan

#339 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Joder__soy_yo — Tue, 10 Dec 2024 10:34:10 +0000

#336
PD II:
Si, ya lo sé, en una celda de excel no caben fórmulas tan grandes, pero vamos a imaginar de que sí es posible, y que los pesos de todas esas neuronas estan en celdas, y de que desde la fórmula es posible cambiar los valores de esas fórmulas (para la retroalimentación)

» autor: Joder__soy_yo

#338 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Joder__soy_yo — Tue, 10 Dec 2024 10:12:52 +0000

#336
PD: te entendí perfectamente. Todo, una red neuronal, excel, la mente de una persona, su autoconsciencia, todo, está hecho de los mismos principios básicos, sólo cambia la organización de todo ello.
Pero entenderás que eso es como una filosofada que no lleva a ninguna parte, no?

Mi afirmación sigue siendo la misma, y te lo digo de una forma distinta:

Imagínate una fórmula dentro de una casilla de excel, que simula el comportamiento de 10000000000000000 neuronas, y sin tocar la fórmula, te sirve para sumar 2 números, jugar al ajedrez o para tomar consciencia de ella misma
Ésa es mi afirmación

» autor: Joder__soy_yo

#337 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Joder__soy_yo — Tue, 10 Dec 2024 09:45:52 +0000

#336 de verdad acabas de decir? :
"el mismo juego de instrucciones, puestas en el mismo orden, es capaz de hacer cosas absolutamente dispares
Sí, como una hoja de cálculo excel."

A ver, hagamos la prueba, intentémoslo, por probar no perdemos nada.

Voy a abrir mi excel, y voy a crear un programa, en la celda A32, que sume las celda A1 y A2
=A1+A2

En A1 y en A2 tenía los números 2 y 3, y en A3 me ha escrito un 5

Hasta aquí, estamos los 2 de acuerdo

Yo digo que, en la programación clásica, es imposible que el mismo programa pueda hacer cosas distintas, mientras que con una red neuronal sí que es posible
pero tú me dices que no, que es todo lo mismo, que también en una hoja de excel el mismo programa puede hacer cosas distintas

voy a intentar que la casilla A3 muestre el mínimo común múltiplo de A1 y A2
Escribo en A3: =A1+A2
Y...... sorpresa! Me ha escrito un 5 Qué raro, no? He usado el mismo programa, pero no me ha hecho cosas distintas, como tú dices

Qué he hecho mal?

» autor: Joder__soy_yo

#336 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Tue, 10 Dec 2024 09:22:06 +0000

#335 Creo que el simil con una hoja de cálculo excel es bueno. El código de excel es siempre el mismo, pero lo puedes parametrizar con datos y fórmulas y te hará cosas concretas. Una red neuronal la puedes parametrizar con unos ciertos pesos y te hará alguna cosa concreta.

Aunque una celda de excel es muchísimo más potente que un nodo de una red neuronal, los LLM actuales tienen billones _{(sí, yo tambén me rendí)} de nodos.

Una vez hecho esto, ambos, hoja excel y RN con pesos, son un invento funcional. Les das un input y te producen un output. y fin.

Las RN no pueden inventarse nada. Lo que hacen es regurgitar los datos de su entrenamiento. Si le pides un chiste, buscará lo que esté etiquetado como chiste, los mezclará según tu prompt, y te escribirá algo que no demuestra ninguna imaginación.

Así pues:
- una red neuronal es capaz de hacer prácticamente cualquier cosa que se te ocurra, siempre que tenga el tamaño adecuado y un entrenamiento adecuado.
- la persona que ha escrito esas instrucciones en ese orden sepa cómo hacer esas cosas.

Son exactamente lo mismo, por mucho que en uno de los casos se use un algoritmo de entrenamiento para fijar esos pesos.

y por lo tanto:
el mismo juego de instrucciones, puestas en el mismo orden, es capaz de hacer cosas absolutamente dispares

Sí, como una hoja de cálculo excel.

» autor: kaotan

#335 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Joder__soy_yo — Tue, 10 Dec 2024 08:56:26 +0000

#334
"Sobre el porqué se pueden hacer distintas cosas "con el mismo código", es una pregunta sobre los distintos niveles de implementación. Así, todos los programas de tu PC corren sobre el mismo sistema operativo y todos los OS corren sobre el mismo microcódigo del procesador, y todos tus cálculos en excel se hacen con el mismo código que implementa excel."

Confundes "todos los programas están hechos con el mismo juego de instrucciones", con "todos los programas son el mismo juego de instrucciones puestas en el mismo orden".

Es como decir que una suma es lo mismo que un gato, o lo mismo que una estrella de neutrones, o lo mismo que un caballo, que lo mismo que una ópera porque total, el universo está hecho de átomos, así que todo es lo mismo.

Como te decía, el mismo juego de instrucciones, puestas en el mismo orden, es capaz de hacer cosas absolutamente dispares, sin que la persona que ha escrito esas instrucciones en ese orden sepa cómo hacer esas cosas.
Es decir, una red neuronal es capaz de hacer prácticamente cualquier cosa que se te ocurra, siempre que tenga el tamaño adecuado y un entrenamiento adecuado.
Con 3 neuronas está claro que no podrá juagar al ajedrez, pero ponle 1000000000000 y te jugará al ajedrez, conducirá, te hará de psicólogo de poca monta, creará un chiste, te hará los deberes del niño, se inventará un guión para una película y etcétera

Mi creencia, mi suposición, es que monta una red con 1000000000000000000000000000000000 neuronas, entrénala, y discutirás de filosofía con ella, te propondrá soluciones para el cambio climático, compondrá mejores obras que Bach o no hará nada de eso porque, con consciencia propia, quizá decidirá que no tiene que hacer cosas para tí, que ella tiene su vida y que debes solucionar tus traumas infantiles, pero que no la agobies que ella ya tiene sus mierdas interiores.

» autor: Joder__soy_yo

#334 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Tue, 10 Dec 2024 01:46:27 +0000

#331 Estos vikingos no han medido los movimientos mecánicos, pero sí que se había hecho antes, a base de estirar un nervio (de un animal) sobre una mesa, provocar señales y medir su longitud. Nunca ha habido dudas de que la señal mecánica existe, ni por parte de los defensores de la electricidad como sea.

No hay "consenso" todavía. Esto costará. Se sigue repitiendo lo de las señales eléctricas y así seguirá hasta que los repetidores se mueran. Las incongruencias no les importan. A ellos lo que les gusta es repetir lo que (creen que) saben y sentirse superiores.

Pero si te ha gustado el tema, puedes probar a buscar lo del experimento con las ranitas que se pueden anestesiar/desanestesiar a voluntad variando la presión dentro de una cámara de presión. Son adorables. La anestesia funciona cambiando la presión a la que la membrana de la neurona tiene un comportamiento viscoelástico.

www.youtube.com/shorts/0qJmnA6A_JY

Sobre el porqué se pueden hacer distintas cosas "con el mismo código", es una pregunta sobre los distintos niveles de implementación. Así, todos los programas de tu PC corren sobre el mismo sistema operativo y todos los OS corren sobre el mismo microcódigo del procesador, y todos tus cálculos en excel se hacen con el mismo código que implementa excel.

Lo único que tiene de distinto una red neuronal es que en vez de ir tú a decidir los pesos de los nodos, se determinan con un algoritmo a base de ejemplos en el entrenamiento, pero el resultado es equiparable a cuando le metes fórmulas en tu excel. En definitiva todo lo que se llama inteligencia artificial (existente hasta ahora) se reduce a una base de datos de ejemplos. Todo, incluidos los sistemas basados en reglas.

Una red neuronal no tiene absolutamente nada que ver con las neuronas ni con el cerebro. El marketing consistió en decir que el diseño estaba "inspirado" en las conexiones de las neuronas. inspirado. Como con las musas. Es un nombre tan falso como lo de "inteligencia artificial".

» autor: kaotan

#333 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Mon, 09 Dec 2024 21:16:48 +0000

#330 nunca me verás negar rotundamente que una maquina pueda obtener conciencia de sí misma en el futuro, seria una tontería hacerlo.
Pero que un programa (un automata) simule comportamiento humano medio bien como chatGPT y emperrarse de forma enfermiza, soltando cosas que son medio verdad o rotundamente falsas para asegurar que chatGPT es una IAG como aquí el amigo pues no.

» autor: sauron34_1

#332 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Mon, 09 Dec 2024 21:08:25 +0000

#329 “ El cerebro tampoco sabemos si tiene algo que propiamente se pueda llamar "código fuente", como para dirimir si realmente lo "reescribe", y sin embargo utilizamos analogías entre el código fuente / código máquina de un ordenador y lo que asumimos que sería el código fuente en el cerebro”.
Es una analogía, claro, pero vaya, el “procesamiento” lo producen las señales electrónicas, lo que pasa que es cierto que no sabemos qué conducen esas señales, así que te lo compro.

“ No tengo claro si realmente, como dices, el modelo es enteramente datos, pero creo que no es así, más bien es la información ejecutable extraída de los datos ( conceptualización, síntesis de lo que los datos "significan" transformado en algoritmia ) para poder llegar a otros datos.”
Es que los datos pueden ser muchas, muchas cosas, pero eso no dejan de ser datos. Todo lo que no sea el código propiamente dicho son datos.

“ Edito: Piensa que a un modelo le ofreces un input, lo procesa, y te devuelve un output. La capacidad de procesar es lo que define al código máquina, que es el resultado de compilar el código fuente, de modo que no veo tan desacertado decir que durante el entrenamiento reescribe su código”
El resultado de compilar el código fuente, exacto, y eso es inmutable por el propio código, porque el código fuente es ilegible para sí mismo

» autor: sauron34_1

#331 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Joder__soy_yo — Mon, 09 Dec 2024 21:01:12 +0000

#327 guau! Qué interesante!
No había oído acerca de este estudio de este equipo danés
No sé si hay consenso en sus estudios, pero sigue siendo muy interesante
Me quedo sobretodo con la idea de que, hace mucho tiempo, no había medios para detectar los movimientos mecánicos de esta magnitud, pero sí las pequeñas variaciones eléctricas, determinando entonces, por una simple cuestión tecnológica, las conclusiones y las ideas aceptadas por la comunidad

De todas formas, yo que soy informático, conceptualmente no cambia nada: son meras señales analógicas, ya podría ser un cierto nivel de voltaje, o una cierta amplitud o frecuencia mecánica
Para mí todo son números, da igual cómo se representen

Pero en el meollo de todo, sigue habiendo algo que no has explicado: cómo usando el mismo programa informático, puedes reconocer caras, traducir un texto, jugar al ajedrez, conducir un dron, detectar tumores de mama y, básicamente, cualquier cosa.
Todo con el mismo programa
Todo sin que el programador sepa hacer esas cosas (en serio, puedes escribir un programa que juegue al ajedrez mejor que nadie, sin que el programador sepa jugar al ajedrez)
Todo solamente cambiando el entrenamiento

Te atreves a encontrarle una explicación lógica a ésto?

Pd: el código, las líneas de código, el código del programa, son las instrucciones que los programadores escribimos para hacer un programa informático
Estás líneas, escritas en un determinado lenguaje de programación, son después transformadas a código máquina por el programa llamado compilador.
Éste código máquina son las instrucciones que el procesador es capaz de ejecutar

» autor: Joder__soy_yo

#330 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

daphoene — Mon, 09 Dec 2024 20:55:45 +0000

#325 Lo que cambian son los datos, no el código. No conozco ningún programa que modifique su propio código. ¿ Conoces tú alguno ?

Te remito a mi comentario en #329 sobre este punto, especialmente la edición que hice al final, por no repetirme.

Sobre lo de atajar lo que comenta @sorrillo, yo mismo he "podado" parte del hype que se genera a veces con las IAs, por ejemplo en estos comentarios donde defiendo que la IA no es creativa:

www.meneame.net/m/actualidad/billie-eilish-katy-perry-nicki-minaj-cont
www.meneame.net/story/ias-aterrorizaban-mediocres/c014#c-14

En uno de esos comentarios, también admito que una IA como las que comentamos, no piensa, y no es inteligente.

Pero que no piense ni sea inteligente ahora mismo, no quiere decir que no pueda llegar a hacerlo/serlo, si se dan ciertas condiciones ( incluso estas IAs, no una IAG como tal ), por eso defiendo parte del sustrato de lo que comenta @sorrillo, porque en algunas partes creo que tiene razón, y no lo estamos sabiendo ver.

Y no lo digo llevado por un hype desinformado, sino todo lo contrario, partiendo de posiciones más conservadoras y escépticas al respecto, e informándome, practicando y trabajando con estas IAs (*), empiezo a pensar que no es tan descabellado pensar que puedan adquirir algo semejante a la conciencia, aunque sea durante un tiempo muy limitado, o de un tipo muy restringido.

(*) A un nivel muy amateur, pero instalándolas, entrenando algunos plugins, y poniéndolas a prueba.

_{Edito para mencionar a #326, que también estaba en el ajo.}

» autor: daphoene

#329 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

daphoene — Mon, 09 Dec 2024 19:35:43 +0000

#326 El cerebro tampoco sabemos si tiene algo que propiamente se pueda llamar "código fuente", como para dirimir si realmente lo "reescribe", y sin embargo utilizamos analogías entre el código fuente / código máquina de un ordenador y lo que asumimos que sería el código fuente en el cerebro. Nos permitimos hacer la analogía en un sentido, pero no en el otro.

Y como dices, en este caso la diferencia entre código y datos se difumina, que es lo que yo he comentado anteriormente.

No tengo claro si realmente, como dices, el modelo es enteramente datos, pero creo que no es así, más bien es la información ejecutable extraída de los datos ( conceptualización, síntesis de lo que los datos "significan" transformado en algoritmia ) para poder llegar a otros datos.

Es posible que yo no lo haya entendido del todo, pero creo que van por ahí los tiros, y quizá de esa confusión vienen gran parte de los errores conceptuales que tienen otros usuarios en el hilo. ( Lo digo sin acritud ni recochineo, es solamente que me parecía que quedaba elegante citarte porque iba a decir exactamente lo mismo ).

Edito: Piensa que a un modelo le ofreces un input, lo procesa, y te devuelve un output. La capacidad de procesar es lo que define al código máquina, que es el resultado de compilar el código fuente, de modo que no veo tan desacertado decir que durante el entrenamiento reescribe su código.

» autor: daphoene

#328 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Mon, 09 Dec 2024 19:04:28 +0000

#322 Una red neuronal emula un cerebro

Absolutamente NO. No sé de donde ha salido semejante idea, ¿es por el nombre?

¿Tienes alguna referencia de la ridiculez? Estoy seguro de que hay mucha gente que se lo cree, igual que hay mucha gente que se cree que un ordenador cuántico es un ordenador más potente.

» autor: kaotan

#327 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Mon, 09 Dec 2024 19:00:49 +0000

#322 Bueno, me he mirado las referencias estas y alguna cosa más. Más que nada por curiosidad sobre si se había avanzado algo en la comprensión del funcionamiento de las neuronas, y tristemente no hay nada. Siguen hablando de una neurona como su fuera un puto thyristor. Es simplemente ridículo. Es como cuando se consideraba que el ADN fuera de los genes era ADN-basura. Ridículo hasta el paroxismo. Espero que pronto se haga algo más serio, porque las técnicas de microscopia han avanzado muchísimo últimamente.

Lo que pasa es que si buscas en wikipedia o en una IA, lo que te dan es desde la literatura existente, que está muy atrasada, que son decenios de escribir lo mismo y esto pesa.

Pero sí que se ha avanzado finalmente en lo de los impulsos nerviosos. Eso de que son corrientes eléctricas nunca ha tenido ningún sentido dada la impasibilidad de los nervios antes campos eléctricos y magnéticos. Incluso se han hecho pruebas con pulsos electromagnéticos de los nucleares (que es una barbaridad de pulso que frie todo lo electrico) y no hay ninguna afectación. Es totalmente evidente que electricidad no puede ser.

Durante años se ha hablado de los impulsos mecánicos y los eléctricos, ambos observables. La discusión siempre ha estado en cual de los dos contiene la información. Teníamos el hecho de que la anestesia depende de la presión (inexplicable a base de electricidad), pero es que ni así, venga a insistir en que es electricidad, sólo porque en su día se lo creyeron. Hay incluso detalladas descripciones de como los anestésicos influyen en las sinapsis impidiendo la corriente eléctrica. Es todo pura invención. No son hechos sino especulaciones gratuitas. Hay que tirar todo eso.

El asunto está ya resuelto. Sólo funcionan los impulsos mecánicos.

www.nyneurologists.com/blog/research-proves-nerve-signals-are-sound-pu
www.sciencedaily.com/releases/2007/03/070307075703.htm
www.scientificamerican.com/article/brain-cells-communicate-with-mechan

» autor: kaotan

#326 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Mon, 09 Dec 2024 18:06:56 +0000

#324 muy interesante tu post, pero en lo de que es “como si se reescribiera el código” no estoy de acuerdo, porque el modelo es enteramente datos y aunque en este caso es verdad que la diferencia entre código y datos se difumina, no es en absoluto lo mismo. Y de esa confusión vienen gran parte de los errores conceptuales que tienen otros usuarios en el hilo.

» autor: sauron34_1

#325 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Mon, 09 Dec 2024 18:02:45 +0000

#324
No digo que vaya a funcionar como en una evolución biológica, pero sin duda existen muchos más paralelismos que lo que se puede apreciar a simple vista.

No lo dudo, pero son unos "similes" muy muy lejanos. Realmente el funcionamiento "de fondo" y los resultados que se obtienen no tienen nada que ver.

A veces reentrenar una IA frente a otro modelo enfocado a algo completamente distinto, deriva en mejoras del propio modelo inicial, sin que realmente podamos apreciar por qué motivo específico.
Si. El mundo del sofware está lleno de efectos laterales no previstos.

Digamos que es como si un modelo hubiera aprendido "conceptos" de otro,
Puedes decirlo si quieres. Pero no es cierto. Es otro "simil" que puede quedar bien, pero está muy muy lejos de la realidad.

yo creo que sí se puede considerar que en este tipo de aprendizaje "el código se autorreplica" con cambios, a veces son mejoras, otras no.
No.
Lo que cambian son los datos, no el código. No conozco ningún programa que modifique su propio código. ¿ Conoces tú alguno ?

No es tan dispar como para sortear la analogía con la propia evolución biológica ( analogía, que no significa que sean lo mismo ).
Exacto. Podemos establecer analogías, y puede incluso facilitar la comprensión. Pero el parecido real es muy muy muy poco.

también se podría decir que existe un cierto paralelismo entre la evolución del ADN como tal, con la evolución que toma un modelo mediante el entrenamiento, porque realmente es como si reescribiera su código.
A mi no me lo parece....

Estoy de acuerdo con tu punto de vista sobre las analogías. Lo que ocurre, es que en este terreno se están llevando demasiado lejos. Empezamos con una "analogía" y acabamos con cosas como las que dice @sorrillo.

O muchos artículos sensacionalistas como el que nos ocupa.

Y no es plan. De modo que hay que atajarlo.

» autor: chavi

#324 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

daphoene — Mon, 09 Dec 2024 17:28:00 +0000

#100 Yo he entendido a lo que se refería #106, y no era esto, pero de tu respuesta a lo que creías estar respondiendo, surgen cuestiones interesantes:

En primer lugar, porque el código no se "autoreplica" surgiendo nuevos Bugs,

En el caso de ciertos tipos de IA, se podría considerar que evolucionan de un modelo a otro más refinado, a veces por entrenamiento antagonista, otras veces por otros tipos de entrenamiento o combinatoria con entrenamientos parciales de otros propósitos.

No digo que vaya a funcionar como en una evolución biológica, pero sin duda existen muchos más paralelismos que lo que se puede apreciar a simple vista.

A veces reentrenar una IA frente a otro modelo enfocado a algo completamente distinto, deriva en mejoras del propio modelo inicial, sin que realmente podamos apreciar por qué motivo específico. Digamos que es como si un modelo hubiera aprendido "conceptos" de otro, lo cual no deja de ser muy interesante.

Y desde otros puntos de vista, yo creo que sí se puede considerar que en este tipo de aprendizaje "el código se autorreplica" con cambios, a veces son mejoras, otras no.

No es tan dispar como para sortear la analogía con la propia evolución biológica ( analogía, que no significa que sean lo mismo ).

porque el ADN y el código de un programa se parecen como un huevo y un Porsche Cayenne.

En su funcionamiento interno, sí, pero no es tan aberrante establecer analogías. Aquí el ADN sería el verdadero código fuente ( no el modelo ) que permite que una IA se convierta en un modelo a través del entrenamiento, y sin ser experto en el tema, me imagino que se habrá entrenado alguna IA con el propósito de mejorar el código o los procesos.

Desde otro punto de vista ( siento ser tan abstracto aquí ), también se podría decir que existe un cierto paralelismo entre la evolución del ADN como tal, con la evolución que toma un modelo mediante el entrenamiento, porque realmente es como si reescribiera su código.

» autor: daphoene

#323 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Mon, 09 Dec 2024 14:12:46 +0000

#311 hombre, por fin lo reconoces!

» autor: sauron34_1

#322 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Joder__soy_yo — Mon, 09 Dec 2024 14:00:10 +0000

#321 lo siento kaotan, pero no dispones de información veraz acerca del funcionamiento de las neuronas, ni a nivel físico ni a nivel funcional ni a nivel conceptual

Te paso unos cuantos links al azar con información de su funcionamiento. Comprobarás que esa parte que comentas de la transmisión de vibraciones no existe según las observaciones. La transmisión de las señales eléctricas se hace efectiva, en última instancia, mediante un neurotransmisor, y su funcionamiento está bastante bien establecido (no creo que queden muchos detalles al respecto, de hecho, aunque en ciencia eso nunca se puede decir, obviamente)

Una red neuronal emula un cerebro, funciona imitando el proceso cognitivo, y no es para nada sorprendente de que así sea porque precisamente se ha diseñado justamente con esta arquitectura para emular a un cerebro (no se ha diseñado esta arquitectura emulando las piedras de un río, ni se ha diseñado para emular la brisa de verano, se ha hecho de esta forma para imitar a un cerebro)

es.khanacademy.org/science/biology/human-biology/neuron-nervous-system
es.wikipedia.org/wiki/Neurona
es.wikipedia.org/wiki/Neurotransmisión
medlineplus.gov/spanish/ency/anatomyvideos/000089.htm
www.nationalgeographic.com.es/ciencia/sinapsis-lenguaje-neuronas-cereb
www.fisioterapia-online.com/glosario/impulso-nervioso-o-electrico
www.frro.utn.edu.ar/repositorio/catedras/quimica/5_anio/orientadora1/m

Estoy interesadísimo en leer las referencias que me puedas pasar, y las leeré con mucho detenimiento, porque como profesional del tema me interesa todo, y todos los aportes son necesarios y provechosos, a veces pequeños detalles marcan grandes diferencias

» autor: Joder__soy_yo

#321 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Mon, 09 Dec 2024 13:04:27 +0000

#320 los comportamientos de las redes neuronales no siguen el patrón clásico de la programación

Lo que yo he dicho es que no imitan a un cerebro. Es un truco distinto.

en nuestro cerebro no existe nada parecido a un programa con miles de millones de líneas

Sí que lo hay. Lo llamamos instintos. Luego hay otras cosas que se aprenden y pasan a formar parte del funcionamiento también.

sólo sé que son niveles analógicos

Es parecido. Una neurona le transmite a otra una serie de impulsos mecánicos (vibraciones, en realidad), donde la frecuencia de esos impulsos es el contenido. De hecho, transmite un número.

Una neurona no es un componente simple que se activa o desactiva. Tiene una funcionalidad sofisticada, pero desconocida. Las "activaciones" de neuronas es algo que se puede ver, pero se desconoce su significado. Dentro del cerebro las neuronas están interconectadas formando una malla de cuadrículas, lo que constituye un plano. Este plano, claro está, aparece enrollado de formas liadas. Las activaciones proceden dentro de esta malla fila por fila, de forma rítmica muy precisa. Nadie sabe para qué sirve esto. Es, evidentemente, alguna forma de sincronización.

Entenderás que esto entra en absoluta contradicción con
"Es una consecuencia lógica. No puedes emular lo que desconoces...

Creo que no lo has entendido. No puedes emular un cerebro porque no sabes como funciona. No se puede y no se hace.

Una red neuronal (un invento distinto) tiene un comportamiento a partir de los pesos de sus nodos, que se determinan durante su entrenamiento. Nada que ver con la otra afirmación. Una red neuronal no emula a un cerebro.

El que una red neuronal haga algo parecido al proceso cognitivo humano, es pura especulación sin ninguna base.
Igual es que sí y hay algún parecido, pero eso sería muy sorprendente, y no tiene por qué.

------

Has hecho múltiples referencias a "código de programa" pero no sé qué quieres decir con eso. Está claro que intentas referirte a algo que crees que yo pienso, pero no se me ocurre el qué.

» autor: kaotan

#320 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Joder__soy_yo — Mon, 09 Dec 2024 10:38:14 +0000

#303 Hola kaotan

Lo primero de todo es pedirte disculpas. Me impaciento, veo que opinas sobre un tema que está claro que desconoces, y me pongo nervioso, y eso no está bien.
Pasan los años y aún me pasa, y debo calmarme y ser más didáctico. Todos nos especializamos en nuestros temas, y quien no sabe de una cosa, sabe de otra, no todo el mundo tiene que saber de todo (como si no quiere saber de nada, aquí nadie tiene que repartir carnets de nada)

Intentaré ser más positivo.

"Es una consecuencia lógica. No puedes emular lo que desconoces. Todo lo demás, que es todo lo que existe, son algoritmos que intentan imitar el comportamiento observado."

Siento decirte que estás equivocado. Aunque suene ilógico, los comportamientos de las redes neuronales no siguen el patrón clásico de la programación.
Eso es lo que los hace realmente maravillosos.

Si te fijas, un humano es una máquina absurdamente imperfecta: tenemos mala memoria, una vista normalita, y en nuestro cerebro no existe nada parecido a un programa con miles de millones de líneas, con funciones generales y especializadas en determinar qué es una recta, distintas curvas, velocidades de reacción, una base de datos con todos los animales del planeta, o tampoco existen procesos con las reglas del lenguaje, la fórmula de la gravedad no está ni se la espera, no hay funciones para el cálculo de derivadas, y un casi infinito etcétera.

Sólo hay una cosa, tristemente simple: las neuronas
Las neuronas tienen una serie de entradas, que se corresponden a distintos niveles de "voltaje" (no lo sé del cierto, sólo sé que son niveles analógicos (que no son 0/1's). A estas entradas se les suma o resta un cierto valor (son los llamados "pesos"), y todas estas señales se juntan en el núcleo. Éste núcleo deja pasar la corriente si se traspasa un determinal umbral.
La salida de esta neurona alimenta n neuronas, y sabemos que estos pesos y umbrales pueden cambiar con el tiempo por retroalimentación (ahí es donde reside el truco que lo hace funcionar todo)

Ésto, que parece y es tan simple, sirve para cualquier cosa. Literalmente.

Si lo reflexionas un rato, no tardarás en darte cuenta que es un sistema de clasificación. Clasifica cosas. Y es un sistema la hostia de bueno, porque es capaz de funcionar con un montón de ruido
Lo bueno es que se puede interconectar de formas infinitas, y eso da como resultado comportamientos inesperados
Y sabes qué es lo mejor?
Que no se tiene que programar. Es como un algoritmo multiusos, que sirve para cualquier cosa. Es el programa total.

Hasta hora, si eres programador, para un determinado problema habías que pensar en cómo resolverlo. Determinar los pasos exactos para conseguir algo. Si quieres ordenar una lista de números, si quieres saber si una palabra es un palíndromo, buscar el número mayor de una lista, buscar la media, saber si 2 colores se parecen o saber si un disparo a tocado al personaje del juego... todo.

Pero una red neuronal no. Claro que hemos encontrado muchos algoritmos para determinar mejor los pesos y los umbrales, determinar el número de capas, la topología de las conexiones y muchas cosas más, pero en esencia, una misma red te sirve para traducir un texto, conducir un coche, hacer volar un dron, dar consejos psiquiátricos de poca monta, encontrar proteínas prometedoras para el desarrollo de ciertos fármacos, jugar al ajedrez, al go, al 3 en raya, reconocer personas o mascotas, reconocer un cáncer de mama donde ningún humano lo reconoce, y así todo.

Y lo repito: todo eso lo puedes conseguir con EXACTAMENTE LAS MISMAS LÍNEAS DE CÓDIGO

Entenderás que esto entra en absoluta contradicción con
"Es una consecuencia lógica. No puedes emular lo que desconoces. Todo lo demás, que es todo lo que existe, son algoritmos que intentan imitar el comportamiento observado."

Vale, una red neuronal, para que haga algo, se tiene que entrenar, y una vez entrenada, hace una cosa, pero no otra.
Pero fíjate en los humanos o en los perros. A base de tener miles y miles de millones de neuronas, se van formando zonas que se van especializando en cosas, y esas cosas se van juntando para tomas de decisiones de niveles superiores.
Incluso si a un cerebro le extirpas un trozo, otra parte del cerebro acaba haciendo la función de ese trozo extirpado. Y sin que nadie lo reprograme u ordene nada. Por pura acción de la estadística y retroalimentación.

Lo entiendes ahora mejor?

» autor: Joder__soy_yo

#319 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Mon, 09 Dec 2024 09:57:41 +0000

#317 Con lo del ruido no tengo muy claro a que te refieres.

Ruido son la variaciones irrelevantes en los datos de entrada que despistan de la norma general. Ya sea por datos de mala calidad o datos que contienen sesgos.

» autor: kaotan

#318 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Priorat — Mon, 09 Dec 2024 09:02:22 +0000

#27 Le permito acceder a lo que quiera. Incluso le permito que me diga: "No puedo acceder a los datos que me pides". Lo que no le permito es que me mienta.

» autor: Priorat

#317 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

santiso — Mon, 09 Dec 2024 09:01:11 +0000

#316 En los modelos masivos rara vez hay dropout, no se desactivan nodos. Esas técnicas son técnicas de regularización, para cuando la red es más grande que el conocimiento que le quieres pasar (por dar una explicación no matemática del problema).

Con lo del ruido no tengo muy claro a que te refieres. Si es a que aprenden cosas que no son ciertas...pues si, lo hacen y es el problema de los modelos autosupervisados en los que no se controla la info de entrada. Para este caso se hacen dos cosas: 1) 'curar' los datos (viene de curate, no me gusta mucho la traducción pero es la que se usa), que viene a ser mirar los datos y darle a entrenar cosas de más calidad; y 2) aprendizaje por refuerzo: ante preguntas específicas se le indica cuáles son las respuestas más óptimas. Este último punto lo utiliza muchísimo OpenAI.

» autor: santiso

#316 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Mon, 09 Dec 2024 08:53:54 +0000

#315 Pero en general, muchos datos hacen que el modelo empiece a aprender del ruido que hay en esos datos. Cuanto mayor es el modelo, más capacidad tiene de almacenar ese ruido, de ahí lo de desactivar nodos durante el aprendizaje.

No me convence la explicación.

» autor: kaotan

#315 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

santiso — Mon, 09 Dec 2024 08:43:46 +0000

#314 Es básicamente porque contiene más datos. Lo comenté hace tiempo, y lo sigo manteniendo: el texto no es un problema tan difícil de resolver. Es de los pocos casos donde el overfitting no supone mucho problema. No hay tantas construcciones sintácticas distintas como pueda parecer.

» autor: santiso

#314 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Mon, 09 Dec 2024 08:39:35 +0000

#313 Es cierto que cuanto mayor es la red, más estable se vuelve, pero eso no tiene una explicación.

» autor: kaotan

#313 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

santiso — Mon, 09 Dec 2024 08:30:27 +0000

#163 Por poder se pueden crear redes que fuercen a hacer eso que pides, otra cosa es que interese. Nadie se pone de acuerdo ni siquiera en definir qué es la explicabilidad.

Con respecto a las alucinaciones, no son un misterio, el por qué pasan está bastante claro, y es un problema inherente de querer que el modelo sea generativo. Hay técnicas que ya lo eliminan bastante, algunas tan sencillas como capar las probabilidades bajas de los tokens para evitar que se genere una salida a partir de ellas. Y luego, como siempre, más datos, cuánto más le metas, menos va a alucinar.

» autor: santiso

#312 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

PortgasDAce — Mon, 09 Dec 2024 07:38:51 +0000

#132 la diferencia es que las IA son un sistema que tenemos claro como funciona, de inicio a fin.

El reduccionismo que tú intentas utilizar, como si con las partículas fundamentales explicases todo (ja! no tenemos comprensión total ni de lo que tenemos confirmado, ni mucho menos de lo que tenemos por confirmar) y ya tuviéramos un conocimiento perfecto de nuestro propio funcionamiento, es capcioso.

Dicho esto, estoy mucho más dispuesto a sacar como conclusión que la inteligencia como la imaginamos no existe, que a asumir que las IA tienen inteligencia real. Parece lo mismo pero es lo opuesto.

La idea de que somos una mera simulación, cada día es menos descabellada.

» autor: PortgasDAce

#311 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Mon, 09 Dec 2024 07:01:27 +0000

#309 Lo dicho, un troll.

» autor: sorrillo

#310 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Mon, 09 Dec 2024 06:54:12 +0000

#300 claro, pero es que aun así no lo veo, porque como dices al final, un software no puede cambiar su conjunto de instrucciones (es la base de un automata), entonces aun admitiendo lo que comentas de que el software y el hardware en un cerebro biológico están más entrelazados (cosa de la que no sé si hay suficiente información como para afirmarlo), el cerebro estaría cambiando en tiempo real su conjunto de instrucciones, lo cual es bastante flipante. Es decir, hay inputs que pueden hacer cambiar su forma de actuar ante inputs similares futuros.
Eso es lo que creo que lo diferencia de un automata.

» autor: sauron34_1

#309 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Mon, 09 Dec 2024 06:49:15 +0000

#296 por fin reconoces que chatGPT ha sido entrenado con mano de obra barata que lo único que hace es trabajo mecánico y que nada tiene que ver con inteligencia. Bien, poco a poco vamos avanzando.

» autor: sauron34_1

#308 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

orangutan — Mon, 09 Dec 2024 06:33:53 +0000

#291 Pues fíjate que yo para eso había oído hablar bien de Claude, perplexity lo había visto más como para obtener información relevante de noticias en tiempo real.
Y copilot creo que usa GPT por debajo...

» autor: orangutan

#307 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Pilfer — Mon, 09 Dec 2024 05:42:18 +0000

#302 a no ser por supuesto que se haya hecho adrede (Lo cual es absurdo)

Veo que tú de comprensión lectora tb justito.

» autor: Pilfer

#306 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Mon, 09 Dec 2024 04:12:59 +0000

#295 Un algoritmo, que no sé si lo sabías, que ha aprendido sólo a traducir de cojones entre catalán y mandarín oriental, o japonés, o urdu

Creo que al final lo pillé este. La superioridad con la que hablas es tanta que no se entiende casi nada.

Los LLM nacen del desarrollo hecho por Google para su traductor. Se trata de meter como entrenamiento las traducciones existentes (hechas por humanos) para ir copiando de ahí. Este traductor usa siempre el inglés como un paso intermedio, lo que causa artefactos que se notan.

Especialmente, añado yo, porque el inglés es un idioma un poco raro. Por ejemplo, en japonés, la forma informal de referirse a otro tipo es "tio". Lo razonable sería decir "tiu" en la traducción al catalán, pero el inglés no soporta eso.

Las traducciones del japonés siguen siendo una mierda, aunque se ha notado mucho la mejora hecha en los últimos años.

» autor: kaotan

#305 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Mon, 09 Dec 2024 03:56:38 +0000

#301 existen grados de determinismo, no todo está condicionado en el mismo grado

Veo que lo has entendido. Estoy de acuerdo.

te confiere un poder sobre lo determinista del instinto, y te permite contemplar, comprender, e incluso alterar el sistema

La capacidad está, pero casi nadie lo hace. Lo que puedes observar es a montones de gente siguiendo sus instintos sin ni sospechar lo que están haciendo. Es difícil pararse un momento a observar el propio instinto, como so lo mirases desde fuera, y decidir aparte de lo que el instinto diga.

Todos los instintos son dependientes del instinto de superviviencia. Hay como una jerarquía. En los humanos regulan todo el comportamiento social.

los instintos de conservación de la especie, o del grupo, podrían estar por encima de los del individuo

Sin duda alguna que esto es así. Lo más práctico para proteger a los propios genes, que es de lo que va todo, es proteger a los niños a cambio de tu propia vida si fuera necesario. Hay instintos para ello. Otro es el instinto de proteger a las mujeres, algo necesario para que tu tribu no sea eliminada. Todos estos instintos son el resultado de la evolución ya que quién no lo haga así, desaparece.

Tampoco sería muy productivo que fuéramos completamente predecibles, y en este sentido, el mini-libre albedrío que tenemos, puede ser un factor clave para la supervivencia.

La idea es interesante, pero una elección aleatoria de las acciones sería suicida. Así que de lo que se trata es de ser más listo que el otro para sobrevivir en vez del otro. La capacidad intelectual humana no se ha desarrollado compitiendo con chimpancés, sino con otros humanos.

» autor: kaotan

#304 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Mon, 09 Dec 2024 03:39:40 +0000

#299 Lo de la voluntad es una diferencia que no está en la esencia sino en el grado. Mientras que un algoritmo hace una cosa concreta de una sola manera (la suya), los instintos biológicos no son tan deterministas, sino que empujan hacia comportamientos concretos dejando que las consciencia resuelva los detalles según el caso.

Es, como ves, una elección de palabras. Aunque alguinos instintos pueden ser muy concretos, en general no es así. No todos los instintos se manifiestan, pues depende del caso, y hay instintos de backup que solo entran si falla el de antes. Es realmente complicado.

» autor: kaotan

#303 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Mon, 09 Dec 2024 03:32:54 +0000

#298 La verdad es que me cuesta mucho leerte y no me entero de lo que dices. Es muy poco claro. Hay demasiadas preguntas retóricas, referencias a la magia y superioridad auto otorgada.

De ahí que solamente puedo contestar a cosas puntuales. Es que no he entendido el resto.

Sólo sabes decir que como nadie sabe cómo funciona el cerebro, no se puede

Es una consecuencia lógica. No puedes emular lo que desconoces. Todo lo demás, que es todo lo que existe, son algoritmos que intentan imitar el comportamiento observado.

los de OpenIA, también cuando dicen que pasados los años se conseguirá la conciencia artificial

Eso es puro marketing engañabobos. Saben que no pueden recuperar la inversión realizada y necesitan atraer más capital para que no se pare el desarrollo. Saben perfectamente bien que la inteligencia artificial general no va por ahí. Eso lo sabe cualquiera que se lo mire, algo que deberías hacer.

» autor: kaotan

#302 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

eltoloco — Mon, 09 Dec 2024 00:35:14 +0000

#259 con decir “informático de carrera” ya lo dices todo..

Ingeniero informático aquí, por supuesto que el administrador de sistemas puede dar permiso a quien quiera, ¿En que momento he dicho lo contrario? Conocimientos de informática “de carrera” no sé, pero de comprensión lectora vas justito.

Evidentemente ningún administrador de sistemas va a dar permisos de escritura a ningún usuario más que a root en una aplicación en producción, ergo, una aplicación, ya sea tradicional o el modelo más avanzado de IA del mundo mundial, nunca va a poder “modificar su propio código” sin antes obtener acceso, ya sea mediante exploit o mediante ingeniería social, a no ser por supuesto que se haya hecho adrede (Lo cual es absurdo) o el administrador sea un patanatas. ¿Lo entiendes ahora?

» autor: eltoloco

#301 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

daphoene — Sun, 08 Dec 2024 23:54:32 +0000

#292 En mi opinión, y por completar un poco mi respuesta en #299, existen grados de determinismo, no todo está condicionado en el mismo grado. Yo puedo estar condicionado por una base instintiva a conseguir unos fines generales, pero el instinto no puede conocer todas las situaciones posibles, y por ello mismo tienen sentido la inteligencia y la memoria, para hacer frente a situaciones complejas no previstas, y para que se aprenda de la experiencia actual. Si todo estuviera tan determinado, jamás dudaríamos. Puede que tengamos hambre, pero nunca nos costaría elegir qué comer, entre varias opciones posibles y factibles.

El problema con este sistema de adaptación llamado inteligencia, es que saltas un grado cualitativo, que te confiere un poder sobre lo determinista del instinto, y te permite contemplar, comprender, e incluso alterar el sistema, como por ejemplo suicidarte para no enfrentar según qué consecuencias ( que ni siquiera tienen que ser físicamente dramáticas ) en lugar de afrontar cualquier cosa que venga, determinado por el instinto de supervivencia ( que, como podrás comprender, es de los más potentes ).

Frente a esto, se podría aducir que los instintos de conservación de la especie, o del grupo, podrían estar por encima de los del individuo, y en algunos casos será así, pero si no siempre actuamos de la misma manera, es que queda un espacio no determinista, y sólo con eso ya se rompe la baraja de lo que estamos hablando.

Tampoco sería muy productivo que fuéramos completamente predecibles, y en este sentido, el mini-libre albedrío que tenemos, puede ser un factor clave para la supervivencia.

» autor: daphoene

#300 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

daphoene — Sun, 08 Dec 2024 23:38:36 +0000

#288 En el cerebro, el software y el hardware, aún siendo cosas distintas, están más entrelazados que en nuestros ordenadores. La biología no "decidió" motu proprio crear un sistema de propósito general, con un cableado / mapeado estático, sobre el que ejecutar conjuntos de instrucciones, sino que su resultado es una continua evolución de adaptación a un medio, de forma que lo que de forma "natural" nosotros diferenciamos como software y hardware, en un cerebro es bastante más difuso.

Es complejo de comparar a nivel de comprender que las nuevas conexiones cerebrales son técnicamente un cambio de hardware, pero en un cerebro es algo intrínsecamente ligado también al software, sin ser estrictamente software, y sin perjuicio de que haya otras estructuras, conexiones y funcionalidades que se pudieran llamar puramente software.

Es bastante complicado de comparar, precisamente porque no está pensado como algo "separable", y por eso entramos en este tipo de disquisiciones, que es lo más natural, partiendo de las bases que partimos.

A lo que yo me refería, es que aún siendo formatos muy distintos, si nos atenemos al resultado, a lo estrictamente lógico y funcional, lo que hace una IA con un software que se ejecuta sobre un hardware estático, puede ser equivalente a lo que hace un cerebro remapeándose físicamente.

Que un hardware+software artificial no pueda generar nuevos tipos de instrucciones, ni cambiar su cableado a voluntad, no significa que el resultado que se consigue con ambos medios no pueda ser equivalente ( y tampoco estoy afirmando que sea así, simplemente que podría ser).

» autor: daphoene

#299 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

daphoene — Sun, 08 Dec 2024 23:26:02 +0000

#292 Si para ti la voluntad está absolutamente condicionada por el instinto, y está determinada de antemano, entonces toda esta discusión es mucho más sencilla, ya que nosotros mismos seríamos un sistema absolutamente condicionado, al igual que cualquier programa de ordenador ( incluso sin IA mediante ) y lo único que habría que diferenciar sería la propia consciencia.

De hecho, mencionas que un LLM no puede tener voluntad, pero tal y como tú defines la voluntad, cualquier programa la tiene, ya que sería simplemente la disposición a hacer algo que el instinto, o las instrucciones que contienes para reaccionar a situaciones, te piden que hagas, y esa misma disposición a reaccionar a situaciones de la forma en la que estás programado, es algo que cualquier software hace.

Si crees que no he entendido lo que quieres decir con voluntad, entonces desarrolla un poco más el concepto y lo debatimos.

» autor: daphoene

#298 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Joder__soy_yo — Sun, 08 Dec 2024 23:02:38 +0000

#297 te has leído los artículos?
En ninguna parte dice que de allí se hayan construido los algoritmos de reconocimiento facial

Me parece muy bien que sepas las diferencias entre procedimientos y funciones, y está claro que cualquier cosa que salga de un ordenador será una máquina de Turing evolucionada

Es más que evidente que la calculadora de Windows y tu autoconsciencia se pueden traducir en puertas NOR.

Una vía de tren, con trenes de vapor circulando y con un montón de cambios de agujas, del tamaño de medio universo, y con trillones de años por delante, puede ser un ente autoconsciente

Felicidades! Y?

No das ninguna razón para tus argumentos
Sólo sabes decir que como nadie sabe cómo funciona el cerebro, no se puede

Pero yo te he contado que eso no es ninguna razón, porque actualmente se hacen una montón de cosas sin que nadie sepa cómo programarlas

No tienes ninguna explicación para ello?
Sólo decir que como no lo sabes, pues es imposible

Entonces, los que hacen las redes neuronales qué es para ti?
Magia?

Y si, las redes son funcionales. Se puede seguir paso a paso todos los cálculos. Te juro que allí dentro sólo se ejecutan instrucciones sencillas y que no hay gnomos, lo sabemos todos, también los de OpenIA, también cuando dicen que pasados los años se conseguirá la conciencia artificial

» autor: Joder__soy_yo

#297 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 22:32:32 +0000

#295 El que sea procedural es lo de menos. Quizás no debería ni haberlo nombrado. Si algo funcional lo puede hacer, pues lo puede hacer.

El que algo funcional lo pueda hacer demuestra que es totalmente reactivo.

Lo de reconocer caras está totalmente determinado. Salió de unos experimentos con monos haciéndoles mirar caras y escaneándoles el cerebro. Se determinaron unos pocos parámetros que permiten identificar una cara. Cosas como la distancia entre los ojos relativa al ancho de la cara.
Se desarrolló un algorimo donde se entraban estos parámetros y se generaba la imagen de la cara. Resultó ser una reproducción muy buena.

www.bbc.com/news/science-environment-40131242
pmc.ncbi.nlm.nih.gov/articles/PMC10059934/
massivesci.com/articles/facial-recognition-patches-brain-macaque/

El VBScript de excel es procedural. En contraste las fórmulas de excel son funcionales. Una red neuronal es funcional.

Nadie sabe como funciona un cerebro.

» autor: kaotan

#296 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 22:13:53 +0000

#294 Este señor al que le das tanta relevancia por que su opinión coincide con la tuya lo que vende es mano de obra barata desde Colombia para etiquetar contenidos.

Que pretendas hacer pasar su opinión como algo que hay que creer sin evidencia necesaria alguna es una muestra de que sufres fuertemente del sesgo de confirmación.

A todo ello de ese artículo que supuestamente desmontaba todos mis argumentos solo ha quedado la escueta frase de la opinión de ese gerente, ¿no te das cuenta de lo ridículo que es eso?

» autor: sorrillo

#295 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Joder__soy_yo — Sun, 08 Dec 2024 22:12:46 +0000

#247 kaotan, créeme, no sabes de lo que hablas

He intentado explicártelo en mi relato cómo funciona. Vuélvelo a leer, y vuelve a pensar cómo algo no procesal es capaz de conducir un bólido, o cómo algo no procesual es capaz de reconocer cualquier cara, incluso en edades, ángulos e iluminaciones distintas

Y te lo vuelvo a repetir por que es la parte central de cómo funcionan las redes neuronales: nadie ha programado cómo reconocer una cara, porque no hay nadie que sepa cómo reconocer una cara. Es demasiado complejo. Hay demasiadas variables. Yo soy programador desde los 12 años, tengo 52 y no tengo ni pajolera idea de cómo hacerlo programando funciones (y no, no soy para nada malo, sólo he conocido un tío que me pueda superar)

Entonces reflexiona un momento: no hay nadie en este planeta que sepa cómo hacer un algoritmo procedimental para reconocer caras, pero cada minuto hay millones de iPhones, Samsung, laptops, el Google Photos, el facebook, puertas y de todo reconociendo caras.

Según tu teoría eso es IMPOSIBLE
Me sueltas que todo son procedimientos, pero me parece que te quedaste en ese cursillo de programación, y te crees que el ChatGPT es sólo una versión avanzada del VBScript para excel.
Magia?

Y las personas?
Cómo, sólo con neuronas, que sólo son pequeñas máquinas de sumar y de restar, pueden ser capaces de hacer lo que hacen?
Magia?

La auténtica maravilla es LA ESTADÍSTICA. Es procesar entradas diversas, y de todo ese ruido, trabajar con dominancias, con rasgos, con aproximaciones,a veces con detalles, a veces descartando casi todo. Es esto un IF THEN ELSE ????????

Te has parado a pensar por un momento en qué tipo de programa sería el que hace funcionar ChatGPT si fuera procedimental?
Un algoritmo, que no sé si lo sabías, que ha aprendido sólo a traducir de cojones entre catalán y mandarín oriental, o japonés, o urdu, SIN QUE NADIE SE LO HAYA PROGRAMADO, PORQUE NADIE SABE REALMENTE TANTO DE PROGRAMACIÓN?

Un saludo

» autor: Joder__soy_yo

#294 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 22:07:30 +0000

#293 es que es como si chatGPT hubiera salido de la nada, nada de lo que digan las personas que más involucradas han estado en su entrenamiento te pueden hacer cambiar de opinión.
Negacionista de las Maquinas de Turing, hijo.

» autor: sauron34_1

#293 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 22:00:14 +0000

#290 es su opinión basada en lo que ha visto de primera mano

No sabemos lo que ha visto de primera mano, es gerente de una empresa de trabajadores que etiquetan contenidos que luego serán procesados en la fase de entrenamiento de ChatGPT. Que tú quieras creer que eso le otorga un conocimiento profundo sobre la IA que acaba procesando esos datos etiquetados es una mera conjetura tuya, nada en el artículo permite fundamentar esa conjetura.

Y cualquiera que sepamos de esto y que lo hayamos usado intensivamente estaremos de acuerdo.

Otra conjetura que te inventas y no avalas con nada.

Porque cuando le haces una pregunta que no se le había hecho antes y su respuesta es incorrecta, es incapaz de salir de ahí, entra en bucle.

Esa no es una demostración de nada, tú mismo me has acusado de dar respuestas incorrectas, de no aprender, de que me resbalen tus argumentos, según tu definición yo no sería inteligente. Incluso me has llegado a comparar explícitamente¹ con ChatGPT.

Se le ven las costuras enseguida.

Nada de lo que has descrito permite concluir que no sea inteligente.

Por contra que le pidas un código que no hay ningún indicio que nadie nunca haya escrito, lo genere, y en no pocas ocasiones funcione bien es una señal clara de inteligencia, ya que se requiere inteligencia para generar esas estructuras de código que sean funcionales y cumplan los requisitos descritos en lenguaje natural, incluso si se le plantea en catalán, un idioma que nadie le ha programado, lo ha aprendido.

Aprender idiomas es una señal de inteligencia.

¹ old.meneame.net/story/nuevo-modelo-chatgpt-intento-no-apagarse-mismo-d

» autor: sorrillo

#292 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 21:58:43 +0000

#282 La voluntad es precisamente lo contrario a los instintos

Yo defino la voluntad como la ejecución de los instintos. Sin instintos no puede haber voluntad. ¿Voluntad de hacer el qué? Sin instintos, ni se sabría el qué.

Por otra parte, la fuerza de voluntad no existe.

Sigues atribuyendo la volición al instinto, cuando el instinto es altísimamente determinista.

Totalmente determinista, y eso mismo le sucede a la voluntad.

» autor: kaotan

#291 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 21:52:13 +0000

#289 ChatGPT tiene la fama del público, Perplexity se está ganando la fama en el ámbito de programación, otros también están ahí arriba:

_{^{www.zdnet.com/article/the-best-ai-for-coding/}}

» autor: sorrillo

#290 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 21:51:07 +0000

#286 no, no es su opinión y ya, es su opinión basada en lo que ha visto de primera mano. Y cualquiera que sepamos de esto y que lo hayamos usado intensivamente estaremos de acuerdo. Porque cuando le haces una pregunta que no se le había hecho antes y su respuesta es incorrecta, es incapaz de salir de ahí, entra en bucle. Me ha pasado montones de veces, incluso con GPTs específicos para tareas concretas (en la versión de pago se puede hacer). Se le ven las costuras enseguida.

» autor: sauron34_1

#289 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 21:48:31 +0000

#287 ya, claro que hay montones de IAs, lo que me refería es que ninguna hace frente a chatGPT, de hecho, muchas de ellas se basan en chatGPT para no tener que empezar de cero.

» autor: sauron34_1

#288 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 21:46:48 +0000

#284 no no, claro que no es lo mismo que cambiar el software, ahí creo que reside el “error”. El software en el cerebro serían las señales eléctricas, más los distintos neurotransmisores, más las ondas que genera el cerebro, que se está descubriendo que son bastante importantes. Pero el cerebro tendrá sus estructuras de datos, sus mapeos, sus buffers y demás estructuras de “software “, eso ya se me escapa.

» autor: sauron34_1

#287 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

daphoene — Sun, 08 Dec 2024 21:42:32 +0000

#275 "no, para identificar un “gato” lo que se hace es que cientos de personas le cargan miles de fotos de gatos y las mezclan con fotos que no son gatos y etiquetan una a una cual es gato y cual no."

Y, por fuerza bruta, ha acabado aprendiendo qué es un gato. De todos modos, eso son los comienzos, ahora mismo las IAs están enseñadas a "aprender", y necesitan muchísimo menos input para identificar qué es lo que se quiere lograr.

Por qué crees que ninguna otra de ls big tech han sacado ya algo que sea capaz de toser a chatGPT?

¿ LlaMa ? ¿ Stable Diffusion ?

Hay cientos de IAs ahora mismo, y no las están entrenando con el presupuesto que necesitó chatGPT, mucho se reutiliza y se mejora, y la capacidad de aprendizaje actual con pocos datos es increíble.

» autor: daphoene

#286 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 21:41:43 +0000

#285 Lo es, es su opinión. Que a ti te baste la opinión de esa persona para excluir que la IA sea inteligente ignorando completamente los resultados que aporta esa IA es lo que debería preocuparte.

» autor: sorrillo

#285 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 21:39:37 +0000

#283 oye, que uno de los mandamases de una de las empresas de entretenimiento diga que no hay nada de inteligente en una IA es una mera opinión, no como lo tuyo que está basado en patatas. Pues ok.

» autor: sauron34_1

#284 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

daphoene — Sun, 08 Dec 2024 21:38:34 +0000

#279 es cono si un programa pudiera rehacer los chips sobre los que se sustenta

Pero es que rehacer esos chips es una necesidad biológica para el cerebro, si quiere rehacer conexiones entre conceptos. No deja de ser lo mismo que cambiar el software. El aprendizaje de una IA hace eso constantemente hasta que llega un punto en el que nosotros lo paramos y consideramos que es suficiente. El aprendizaje de una IA remapea ese esquema neuronal, es una réplica que de lo que podría ser ese remapeado de las neuronas, aunque a nivel de software. Un chip de nuestros ordenadores no ejecuta el software como una ROM.

» autor: daphoene

#283 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 21:31:49 +0000

#280 He decidido perder el tiempo leyendo el enlace que has aportado, explica lo que ya sabía de hace años, se usan trabajadores para etiquetar contenidos en la fase de entrenamiento, y el artículo no lo cuenta pero también se usan trabajadores para valorar de varias respuestas cual es la más óptima.

El artículo cita la opinión de uno de los fundadores de esas empresas que dice que "no hay nada inteligente de la inteligencia artificial", una opinión que no se fundamenta con nada y no tiene más relevancia por que sea de un propietario de esas cárnicas.

El resto del artículo utiliza palabras como entrenar, enseñar, aprender, las cuales son consistentes con toda mi argumentación.

Nada en el artículo citado rebate ninguno de mis argumentos, y no los rebate por que la información que aporta el artículo la conocía de mucho antes de hacer mi argumentación y esa información está incorporada en mis conocimientos de la materia y es consistente con todo lo que defiendo.

Si tras estas explicaciones aún crees que alguna parte de ese artículo rebate alguno de mis argumentos ahora sí que sí que es necesario que la cites explícitamente por que estás confundido con tus conclusiones.

» autor: sorrillo

#282 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

daphoene — Sun, 08 Dec 2024 21:30:47 +0000

#86 Voy paso a paso contigo:

No es que esos resultados demuestren inteligencia. La inteligencia se la atribuimos nosotros porque estamos acostumbrados a hacerlo así

La capacidad de entender un input, computarlo, y dar un resultado correcto en base a un proceso, es un grado ( ahí coincidimos ) de inteligencia.
Hasta una calculadora es inteligente, en un grado, desde este punto de vista, salvo que metamos de nuevo la conciencia de por medio.

La inteligencia se la atribuimos nosotros porque estamos acostumbrados a hacerlo así.

Entiendo lo que quieres decir, y yo mismo he pensado también de esta manera, pero he cambiado de opinión revisando un poco el input y el output.

Hace falta entender el idioma, referenciarlo a conceptos, y luego ejecutar acciones sobre esos conceptos para llegar a un objetivo complejo, que muchas veces se cumple. Todo esto lo hace una IA de hoy en día, y cometiendo errores similares a los que comete nuestro cerebro cuando imagina. No es tan dispar como pudiera parecer.

Un procedimiento informático es algo demasiado sencillo como para poder atribuirle una voluntad. Esto no es una diferencia esencial, sino de grado.

Efectivamente, aquí coincidimos. Es en el grado donde está el meollo de la cuestión.

Los bichos biológicos que sí que tienen voluntad ejecutan procedimentos muchísimo más complicados.

Cierto, pero no implica que la capacidad de cómputo que tiene una IA no pueda generar conciencia, aunque no sea una conciencia igual que la humana.

Lo de la "voluntad consciente". Paremos un momento. Primero describir eso de la consciencia. La consciencia es una función cerebral que se dedica a mantener un modelo del mundo, para poder tomar decisiones que contribuyan a la propia superviviencia. No tiene nada de mágico ni de incomprensible. Hay quién alucina mucho diciendo gilipolleces como "el problema fuerte de la consciencia". No sé como pueden liarse tanto.

Es muy complicado de definir, aunque no tanto de reconocer.

Todos los animales tienen consciencia. Pero un LLM precisamente no lo tiene. Luego no puede tener una "voluntad consciente".

Tu primera premisa es correcta, hasta donde yo entiendo. La segunda, es discutible, afirmarlo de manera absoluta - igual que se afirmaba que los animales no tenían consciencia en los libros que yo leía de pequeño - es un error, entre otras cosas, porque no es tan sencillo definir qué es la consciencia, ni cómo funciona, ni siquiera, para qué.

Lo del razonamiento. Para razonar es preciso usar conceptos. Hay que tener la capacidad de generarlos, y por supuesto de almacenarlos de alguna forma. Una red neuronal no tiene ningún sitio donde almacenar un concepto. Luego, está claro que no posee la capacidad de razonar absolutamente nada.

La frase que tú le introduces a una IA, ésta la descompone en partes, y la interpreta para llegar a los conceptos, la almacena temporalmente en la memoria, y busca entre los conceptos que tiene "almacenados" en su modelo, provenientes de su aprendizaje. Si yo le pido una IA de imagen que me genere un gato persa, tiene que tener los conceptos asociados a los lexemas, y los conceptos de lo que es un gato, y un gato persa, para manejarlos y ofrecer una salida.

Los creyentes en las capacidades esotéricas de las redes neuronales son capaces de llegar a decir que las relaciones entre datos pueden llegar a simular un concepto.

Básicamente, es lo que es un concepto. Cada una de nuestras palabras representa uno o varios conceptos entrelazados, en lo que yo entiendo como un ámbito, una región de significado, y cada "subconcepto" que contiene, a su vez se relaciona con otros "subconceptos" de otros conceptos en relaciones de significado. Nosotros entendemos el mundo así, sabemos que una puerta puede ser marrón como puede ser marrón un gato, y qué cosas suelen ser marrones. Una IA también lo sabe, porque lo ha aprendido igual que nosotros.

Lo de la voluntad. Los humanos tenemos voluntad, pero otra cosa es describirla. La voluntad es la ejecución de unos procedimientos llamados instintos. Los instintos no se aprenden sino que se heredan biológicamente. Es gracias a esos instintos que un perro no se comporta como una lagartija. Esto es del mismo modo que un receptor de radio reproduce sonidos porque su firmware se lo dice. Con otro firmware haría de calculadora, con exactamente el mismo hardware.

La voluntad es precisamente lo contrario a los instintos, el instinto sobreescribe a la voluntad, es algo distinto. Coincido contigo en que es bastante ilusorio lo que nosotros llamamos voluntad, por eso el libre albedrío es bastante discutible, y también somos más deterministas de lo que pensamos ( aunque no sé si al 100%, imagino que no por pura lógica, sería nefasto para la supervivencia ).

Luego no es posible para un LLM generar una "consciencia volitiva", ya que no existe tal consciencia y no existe, ni es posible generar, un instinto que soporte una volición.

Sigues atribuyendo la volición al instinto, cuando el instinto es altísimamente determinista. Un instinto es comparable a un conjunto de instrucciones que no puedes evitar ejecutar. Tú no puedes detener tu corazón a voluntad ( pun intended ), pero puedes elegir comer una fruta u otra, si tienes opción. Llamemos a esa capacidad restringida de elección, voluntad, si quieres.

Un LLM podría ( que no lo sé ) generar volición, porque no sé de qué manera se ha generado en nosotros, y los procesos que puedo comprobar en una IA no puedo de forma algebraica demostrar que sean incapaces de generar autoconsciencia o voluntad, como se han generado en un cerebro, que no deja de ser un procesador de información con capacidad de aprendizaje a través de estímulos ( igual que una IA ).

cc/ #146, #157, #193

» autor: daphoene

#281 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 21:20:14 +0000

#280 me he leído el articulo completo y si tú lo hubieras hecho verías que rebate todos tus argumentos uno a uno.

Cita la parte del artículo que crees que rebate algún argumento mío y lo vamos comentando, si te supone mucho esfuerzo hacerlo con todos pon un ejemplo y si efectivamente se cumple lo que afirmas pues podemos avanzar desde ahí.

» autor: sorrillo

#280 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 21:18:40 +0000

#278 me he leído el articulo completo y si tú lo hubieras hecho verías que rebate todos tus argumentos uno a uno. De hecho te he dado muchos de ellos y los descartas porque no encajan con tu idea preconcebida.
Da igual, no te preocupes, no pasa nada. Tú dormirás bien pensando que tienes razón y yo sabiendo que sé de lo que hablo porque tengo el conocimiento. Todos contentos.

» autor: sauron34_1

#279 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 21:16:34 +0000

#276 solo un apunte a lo que has dicho, con lo que coincido bastante: no, que el cerebro sea plástico significa que “reescribe” su código. Incluso voy más allá: es cono si un programa pudiera rehacer los chips sobre los que se sustenta.
Ya sin entrar en si somos deterministas o no, eso nos hace muy diferentes a cualquier cosa que hayamos programado hasta el momento.

» autor: sauron34_1

#278 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 21:16:30 +0000

#277 Escupir un enlace que con toda seguridad ni te has leído, posiblemente te ha bastado el titular por tu sesgo de confirmación, no es dar información. Dar información es citar de forma específica aquello que consideras avala tu postura, a poder ser del paper original de donde pueda salir ese artículo divulgativo generalista.

No recuerdo si has llegado a dar ninguna información, pero si lo has hecho sin duda ha tenido respuesta mía si la merecía. Que no ceda a tus afirmaciones sin fundamento no significa que me resbale, simplemente explico por qué esa posición que defiendes es errónea. Como afirmar que las GPU solo sirven para procesar gráficos o afirmar que lo que responde ChatGPT ha sido escrito por humanos.

» autor: sorrillo

#277 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 21:12:38 +0000

#274 no he parado de defender mi posición y simplemente te la resbala, es como discutir con un negacionista. Lo has hecho conmigo y con el resto de meneantes que te han dejado ya por imposible y que te permite creer que tienes razón. Pero no, no la tienes porque solo hablas de oídas. Y cuando ye intento dar información, la ignoras. Pues chico, ok.

» autor: sauron34_1

#276 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

daphoene — Sun, 08 Dec 2024 21:11:26 +0000

#197 lo que nos diferencia es que nuestro cerebro es plástico y puede crear o desechar conexiones dependiendo de esos inputs.

Es lo que hacen estas IAs durante su periodo de aprendizaje, exactamente.

En los años 60, con la psicóloga en pañales se exploró ese camino, pensando que con el conductismo podríamos reprogramar cerebros. Y no salió demasiado bien.

En la parte pública que tú conoces. De todos modos, es irrelevante para lo que comentamos. Que fuéramos o no capaces de hacerlo, no implica que se pueda, o que no se pueda. Y que se pueda o no pueda hacer en humanos, no entiendo qué tiene que ver con la IA.

Ya he comentado que no estoy diciendo que una IA sea igual que un cerebro, estoy diciendo que pueden surgir conciencia y voluntad.

Una IA ahora mismo es - hasta donde yo sé - como una versión estática, como un fotograma, un snapshot, de un instante de "ese cerebro", por si lo quieres comparar así.

Pero eso no impide que la suma de ese aprendizaje, cuando se ejecuta para hacer inferencia, no pueda llevar implícita una consciencia.

Si pudieran hacer una captura de tu cerebro en un instante determinado, de forma que las conexiones neuronales se quedaran fijas, y no se le permitiera aprender ni evolucionar, ¿ dejaría de tener tu propia voluntad o autoconsciencia ?

Y hay una parte de nosotros que no surge demasiado los inputs, que tú mismo señalas: el pensamiento. Como surge? Es la pregunta del millón. Pero ahora mismo todo apunta a que no somos deterministas. Como? Nadie lo sabe.

Precisamente porque no lo sabemos, no podemos asegurar que no surja dadas estas condiciones.

Que seamos o no seamos deterministas, tampoco excluye que una IA pueda generar consciencia volitiva, sea esta determinista de forma absoluta, poco o mucho determinista. En mi opinión, nosotros somos altamente deterministas, no podría decir si al cien por cien, pero mucho sí mucho más de lo que pensamos.

Y esto hablando de este cálculo sobre lo que es determinista o no, hablando sobre las acciones finales que realizamos. Si nos ponemos sólo a hablar de lo que pensamos, independientemente del otro factor ( actuar o no actuar de una manera ), yo creo que el nivel de determinismo aumenta muchísimo.

» autor: daphoene

#275 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 21:10:41 +0000

#272 no, para identificar un “gato” lo que se hace es que cientos de personas le cargan miles de fotos de gatos y las mezclan con fotos que no son gatos y etiquetan una a una cual es gato y cual no.
Antes de la primera versión publica estuvieron dos años con cientos de miles de personas metiendo datos de ese estilo para crear el modelo más grande que se ha creado jamás para una IA. Pura fuerza bruta.
Por qué crees que ninguna otra de ls big tech han sacado ya algo que sea capaz de toser a chatGPT? Porque no pueden, el chorro de dinero que se ha invertido en chatGPT es tan descomunal que es difícil que se vuelva a repetir.

» autor: sauron34_1

#274 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 21:09:14 +0000

#273 Al contrario, de estas discusiones aprendo un montón, gracias a gente como tú que requiere de múltiples explicaciones en múltiples frentes eso me permite desarrollar los argumentos en distintas formas, verificando en muchas ocasiones aspectos específicos, y facilitando tener un marco más completo y global del fondo del asunto.

Que te exija que defiendas tus posiciones de forma concreta y específica, en vez de escupiendo un enlace que con toda seguridad ni te has leído, a lo que aspiro a es a concretar la cuestión para poder abordarla específicamente. Intentándote ayudar a ti a salir de tus errores conceptuales eso me permite afianzar mejor mis conocimientos de cara a posibles futuras discusiones.

Si te estoy pudiendo rebatir todo lo que te he rebatido, que seas capaz de reconocerlo o no es otra cuestión, es precisamente por todo ese proceso de aprendizaje.

» autor: sorrillo

#273 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 21:05:59 +0000

#271 es verdad, tu alergia es a aprender, a que te saquen de la fantasía que te has creado. Es casi que peor.

» autor: sauron34_1

#272 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

daphoene — Sun, 08 Dec 2024 21:02:24 +0000

#193 De hecho las IAs que se han dejado a su aire para que vayan consumiendo información sin tratar, se han acabado cargando el modelo.

De momento. Cuando corrijan eso, ya veremos, pero tampoco es importante para lo que comento.

No sabemos exactamente eso de “aprender” en qué consiste, pero parece que por ahora no lo hemos conseguido replicar.

Yo creo que sí, aprender exactamente como un humano, igual no, pero la fase de entrenamiento de una IA es aprendizaje. Le pides que haga un gato y hace un gato. Le pides que identifique un gato, e identifica un gato, y no porque le hayas escrito un programa a pelo para que lo identifique, ha aprendido a identificar gatos ( con mejor o peor fortuna ).

Lo que tú comentas es una IAG

No, no hablo de una IAG, aunque el cambio que comento para que estuviera siempre aprendiendo y siempre residente en memoria, con estímulos constantes, igual podría acercarse de alguna manera. Pero lo que comento sobre la consciencia y el pensamiento se podrían dar en una IA como las actuales.

» autor: daphoene

#271 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 20:59:48 +0000

#270 Al contrario, si tuviera alergia a leer no habría leído todo lo que has escrito hasta ahora, incluyendo tus continuas faltas de respeto.

Tu falta de respeto a tu interlocutor ha sido constante y ahora con tu exigencia a pretender exigir que otro se lea un enlace que has escupido, que además ya por lo que has citado se anticipa que es una de las mil distintas versiones que han existido de ese tipo de artículos desde hace años, pues ya es la guinda.

Que decidas ni siquiera hacer el mínimo esfuerzo de citar lo que te ha parecido que avala tu postura (¿has leído el artículo siquiera?) pues muestra el desprecio que tienes a tu interlocutor y a quien nos pueda estar leyendo.

» autor: sorrillo

#270 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 20:57:25 +0000

#269 que sí, que tienes alergia a leer, ya veo.

» autor: sauron34_1

#269 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 20:53:32 +0000

#268 Escupir enlaces es una técnica muy ruin, despreciable.

Si de ese enlace crees que hay algo específico que aplique a la discusión que estamos teniendo lo citas y lo comentamos, pretender que el otro interlocutor deba leerse todos los enlaces que vayas escupiendo es completamente absurdo y una falta de respeto a todos los que puedan leer esta discusión.

Pero vamos, que las faltas de respeto han sido la norma por tu parte, tampoco es que sea nada nuevo.

» autor: sorrillo

#268 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 20:51:59 +0000

#267 no hombre, por lo menos te lo lees, no te jode.

» autor: sauron34_1

#267 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 20:50:43 +0000

#266 Que decidas no citar nada es bastante indicativo de lo endeble de tus posiciones, que no quieras que se cuestionen tus dogmas es muy significativo.

» autor: sorrillo

#266 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 20:49:34 +0000

#265 jajajaja madre mía del amor hermoso, estás como un cencerro!!!

» autor: sauron34_1

#265 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 20:46:00 +0000

#264 Ya leí artículos de esa índole mucho antes que publicasen este meneo.

Si de ese enlace crees que hay algo específico que avale tus atrevidas afirmaciones puedes citarlo explícitamente y yo intentaré ayudarte a salir de tu error y/o de los errores que haya podido cometer el articulista de turno.

» autor: sorrillo

#264 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 20:43:29 +0000

#263 tío, lee el enlace, lee como funciona ese “entrenamiento”, lee por dios lee, que has contestado sin ni siquiera hacer click. Que parece que tengas alergia a leer.

» autor: sauron34_1

#263 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 20:35:37 +0000

#262 picando para entrenar

Entrenar, esa es la clave. ChatGPT sabe programar gracias a su entrenamiento, es el resultado de su entrenamiento. Que un humano tenga a 10 profesores enseñándole todos los días no permite concluir que el código que escriba ese humano lo hayan escrito esos profesores, lo que hace el humano es aprender de ellos y luego hace sus propios programas, como ChatGPT.

» autor: sorrillo

#262 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 20:32:09 +0000

#261 que es muy gracioso dice, pero si es cómo funciona, tío!! Que hay doscientas mil personas picando para entrenar a chatGPT en cada momento! Que gastan la energía de una ciudad pequeña.!
Por favor, es que nunca había visto a nadie que le importara tan poco manifestar tan abiertamente su ignorancia.
www.bbc.com/mundo/noticias-64827257.amp

» autor: sauron34_1

#261 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 20:24:31 +0000

#260 Si te escupe trozos de código con errores garrafales

¿Esos errores garrafales los han cometido los humanos de quienes dices que está copiando? ¿O vas a defender que los aciertos son de humanos y los errores garrafales son de ChatGPT?

Que tras usar ChatGPT creas que lo que escribe, lo que programa, las poesías que genera, son todas generadas por humanos es muy gracioso.

» autor: sorrillo

#260 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 20:15:28 +0000

#257 por supuesto que esos programas los han escrito otros humanos, pero es que no te enteras de nada? Si te escupe trozos de código con errores garrafales , se lo dices y te lo vuelve a generar con el error. No es ya solo que no tengas el conocimiento basico para esta discusión es que ni siquiera has hecho un uso intensivo de ChatGPT!
Pero tu te crees que si de verdad hubieran conseguido que una IA que supiese programar de cero no estaríamos todos los programadores en la calle? Es que tío, esto es como hablar con una pared, no dices más que lo primero que se te pasa por la cabeza. Que ha aprendido a programar, dice

» autor: sauron34_1

#259 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Pilfer — Sun, 08 Dec 2024 19:28:10 +0000

#235 primero, veo que el medio sarcasmo no lo ves ni a la legua.

Segundo, soy informático de carrera y que me digas que el el admin/root/sysadmin... (llamalo como cojones quieras), no puede dar los permisos que quiera a quien/que quiera y como quiera, el que va a tener los conocimientos justos de informática vas a ser tú.

Que cojones tendrá que ver el hackear un sistema con el tener los permisos para modificado. Pero oye, te ha quedado un ejemplo la mar de molón...

Y tercero, repetiré lo de sarcasmo, porque es tan imposible que se los hayan dado, que solo pensarlo es sarcasmo, pero si se los han dado, es que son GILIPOLLAS. A ver si así lo pillas.

» autor: Pilfer

#258 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

WarDog77 — Sun, 08 Dec 2024 19:24:28 +0000

#204 Veo que no

» autor: WarDog77

#257 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 18:27:45 +0000

#205 Pues claro que pueden resolver problemas nuevos que nunca se les han presentado antes, cuando alguien les pide un programa que haga tal o cual cosa en tal o cual condiciones y con tal o cual salida la IA no necesita que ese programa lo haya escrito un humano para responderlo, la IA ha aprendido a programar y puede generar un programa nuevo, original, nunca escrito antes, que cumpla con los requisitos demandados.

Quienes mueven la portería no pero para el resto eso requiere inteligencia.

» autor: sorrillo

#256 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 18:25:50 +0000

#201 Esto no va así. Hay un humano que a cada foto le pega una etiqueta que dice "perro" o dice "gato".

La etiqueta es para que pueda asociar la palabra, que es arbitraria, con el concepto. Para que cuando luego el humano le pregunte si es un perro pueda entender la pregunta, ya que nada en las imágenes permite deducir que eso se llama "perro", sí permite deducir que es distinto a un gato pero no permite deducir su nombre.

A los humanos también les asociamos los conceptos con las palabras, ningún niño sabrá señalarte un perro si no ha escuchado nunca esa palabra asociada a ese concepto.

Una IA necesita miles y miles de fotos de gatos, en cada postura posible, debidamente etiquetadas, para poder identificar a un gato. Un bebé humano puede hacerlo incluso mejor a partir de unos pocos ejemplos, porque el bebé los liga al concepto de gato y usa eso.

Un bebé humano recibe miles y miles de imágenes cuando ve un gato, en pocos segundos ha recibido información en una cantidad ingente. Y aunque no te hayas fijado ese bebé puede haber visto otros gatos en otras ocasiones en las que no prestaste atención y por ejemplo salieron por televisión, o en dibujos, o en imágenes en libros, el bebé está aprendiendo todas las horas, todos los minutos, todos los segundos, durante días, semanas, meses, años. De la IA eres consciente cuantas imágenes le das y cuanto le cuesta aprender por que estás pendiente de que acabe y de la factura de la luz, el bebé está ahí estando presente y consciente continuamente, incluso cuando tú no estás con él.

» autor: sorrillo

#255 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 18:17:39 +0000

#192 Si ChatGPT consigue ser un experto en todo tipo de sectores y actúa como asistente o pieza relevante en proyectos su consumo energético habría que dividirlo por todas las aportaciones que estaría supliendo de humanos y todo el coste energético que esos humanos supondrían si no lo estuviera haciendo ChatGPT. Es muy posible que acabaran saliendo las cuentas.

» autor: sorrillo

#254 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 18:17:09 +0000

#253 está claro que la lógica preposicional lo tuyo no es

» autor: sauron34_1

#253 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 18:16:01 +0000

#190 El hecho que hayas decidido equiparar a un humano inteligente y consciente con ChatGPT muestra que a ChatGPT le reconoces esas características, enhorabuena.

» autor: sorrillo

#252 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 18:13:49 +0000

#178 Pero sí que sabemos que una neurona está relacionada con un concepto, o con muy pocos conceptos. Una red neuronal no maneja conceptos.

AI scientists found models are independently developing ‘Trump neurons’
www.dailydot.com/debug/trump-neuron-ai/

» autor: sorrillo

#251 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 18:10:18 +0000

#250 No se menciona en el artículo ninguna simulación de neuronas

We have designed and implemented a massively parallel cortical simulator. The simulator is designed for low to moderate complexity spiking neurons, for example, [2]. The state of each neuron is updated synchronously at a user-specified resolution, say, 1ms. Each neuron can be presynaptic to a realistic number of target neurons.
Fuente:
dominoweb.draco.res.ibm.com/reports/rj10404.pdf
dominoweb.draco.res.ibm.com/d0f0871458b4e5588525727b0056f896.html

» autor: sorrillo

#250 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 18:03:48 +0000

#249 No se menciona en el artículo ninguna simulación de neuronas y no puedo acceder al paper.

» autor: kaotan

#249 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 17:49:52 +0000

#248 Obviamente, las neuronas trabajan en paralelo, si quieres simular muchas necesitas hacer un ejercicio de paralelismo masivo.

Pero para hacer ese paralelismo masivo simulando neuronas las neuronas deben poder ser simuladas, obviamente, lo que contradice frontalmente tus atrevidas afirmaciones.

» autor: sorrillo

#248 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 17:47:25 +0000

#246 No logro acceder a ese paper, pero por la descripción de SciAm es un ejercicio en paralelismo masivo.

» autor: kaotan

#247 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 17:37:42 +0000

#243 Una red neuronal es un invento funcional. Es funcional en el mismo sentido que una hoja de cálculo (ponle Excel). Hay unas celdas donde metes unos datos y luego hay otras celdas cuyo valor depende de los datos introducidos (como p. ej. sumarlos), y luego hay otras celdas que dependen de las anteriores y así vas haciendo hasta que aparece el gráfico que necesitas para tu presentación.

Eso es todo en un invento funcional. No existe nada parecido a la consciencia, ni a la selección natural. Sí que es parecido a un código procedural, pues también se puede hacer lo mismo con algo procedural, pero es hasta ahí.

La complejidad no es un factor relevante para este razonamiento.

» autor: kaotan

#246 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 17:25:41 +0000

#245 Por contra tenemos la realidad, en la que sí podemos analizar el comportamiento de una neurona y podemos simularlas en computadores.

IBM Simulates 4.5 percent of the Human Brain, and All of the Cat Brain
www.scientificamerican.com/article/graphic-science-ibm-simulates-4-per

» autor: sorrillo

#245 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 17:24:54 +0000

#241 No podemos analizar el comportamiento de una neurona porque es un autómata con estado.

» autor: kaotan

#244 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 17:22:57 +0000

#239 Tienes que ser un troll, en # 199 nos decías: "más cuando ese tema es el que más controlo de todos."

Y ahora muestras un completo desconocimiento de la capacidad de usar GPUs para entrenar IA y para hacer inferencia.

NVIDIA A100 Tensor Core GPU delivers unprecedented acceleration at every scale to power the world’s highest-performing elastic data centers for AI, data analytics, and HPC.
www.nvidia.com/en-us/data-center/a100/

ChatGPT Running requires 30,000 A100 graphics cards
www.linkedin.com/pulse/chatgpt-running-requires-30000-a100-graphics/

Editado: Veo que editaste el comentario, inicialmente decías algo así que las GPU solo servían para procesar gráficos. Ahora has intentado arreglarlo pero ni por asomo lo has hecho con éxito. Tus comentarios dan vergüenza ajena.

» autor: sorrillo

#243 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Joder__soy_yo — Sun, 08 Dec 2024 17:20:06 +0000

#160 veo que entiendes el quid de la cuestión, y es que es reproducible

Pues yo soy de la opinión de que sé es posible, y que no hace falta que nadie programe nada. No sé si tienes experiencia con las redes neuronales, pero si es así, ya sabes que no las "programas" en el término clásico.
No le dices IF esto ELSE aquello, y después haz un bucle y cuenta no se qué

La gracia es que los pesos de las neuronas, así, a grosso modo, sin unos valores exactos, sólo por pura estadística, consiguen discernir cosas, consiguen clasificar y actuar sin que haya un programador que tenga que dar instrucciones exactas

Cómo se le enseña a conducir (en un circuito virtual) a un circuito neuronal con un nivel casi perfecto?
No hay ni una sola línea de código que contenga la velocidad, el ángulo de las curvas, el par motor, el nivel de frenada, y ni siquiera algo remoto acerca de lo que significa conducir
Se pilla la red, se le dan valores random a los pesos y a los niveles de disparo, y ya
En la primera versión, las primera 10.000 redes se estampan directas
Menos 2 o 3 que avanzan 7 o 8 metros
Esos pesos se usan para la siguiente generación, y se buscan 10.000 variaciones de esas 2 o 3 mejores
Repites el proceso, y acabas con una red capaz de sacarle las pegatinas a Fernando Alonso, sin programar una sola línea de cómo se conduce un coche

Magia?

Si, es la magia de la estadística, de la seleccioón natural, que consigue, sin ningún plan, que esa red conduzca o que un humano se pasee por la Luna, sin que haya habido nadie en toda la historia de la humanidad que haya sabido nunca cómo funciona la consciencia

Pues lo mismo creo que va a pasar: vas a juntar tropicientas mil redes, con trillones de pesos, con trillones de procesos acumulativos de prueba y error, con bastantes afinaciones (los programadores y los matemáticos no somos tontos del todo...) y va a surgir un algoritmo consciente de él mismo, sin que ninguno de nosotros tenga las instrucciones detalladas de la conciencia

» autor: Joder__soy_yo

#242 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 17:19:14 +0000

#221 Ese es el test edulcorado. Lo que el sarasa de Turing propuso es si a través de un chat es o no posible que una máquina sepa si el del otro lado es un hombre o una mujer.

» autor: kaotan

#241 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 17:17:55 +0000

#240 al no saber como funciona una neurona no sabemos qué replicar

IBM Simulates 4.5 percent of the Human Brain, and All of the Cat Brain
www.scientificamerican.com/article/graphic-science-ibm-simulates-4-per

Las neuronas existen, podemos analizar una neurona y ver como se comporta, y podemos usar ese conocimiento para hacer una simulación a nivel computacional así como crear modelos inspirados en ese funcionamiento.

» autor: sorrillo

#240 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 17:16:37 +0000

#224 No hay neuronas digitales, principalmente porque al no saber como funciona una neurona no sabemos qué replicar.

» autor: kaotan

#239 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 17:15:56 +0000

#238 estas confundiendo las GPU que se usan para minar criptomonedas con la IA, hombre de dios.

» autor: sauron34_1

#238 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 17:14:14 +0000

#237 La capacidad de cómputo necesaria para entrenar ChatGPT no existía hace 25 años. Las GPU recientes, con muchos núcleos, y ahora las tarjetas diseñadas específicamente para IA han permitido la revolución que estamos viviendo.

A su vez durante las últimas décadas se han descubierto formas de acelerar ese entrenamiento de forma significativa, especialmente con el modelo Transformer introducido en 2017 por Google.

» autor: sorrillo

#237 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 17:10:49 +0000

#232 pero si chatGPT no tiene casi nada que ver con capacidad de computo

» autor: sauron34_1

#236 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 17:09:57 +0000

#234 venga, un solo enlace donde hablen de ese supuesto cerebro digital en un medio serio, por favor.

» autor: sauron34_1

#235 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

eltoloco — Sun, 08 Dec 2024 16:48:37 +0000

#185 lo dicho, cada comentario de este tipo demuestra ignorancia sobre informática básica. Además de que ya estás llegando a un nivel conspiranoico, dejando caer que, además de dar por cierto lo relatado en esta patraña de artículo, ha ido a más, al punto de que la IA se ha revelado y tomado el control, rollo Skynet..

Por muy mal que lo haga OpenAI respecto a la seguridad de sus servidores, es sencillamente imposible que un modelo de IA se modifique a si mismo. Para que te hagas una idea, incluso para los mejores cibercriminales del mundo es extremadamente complicado entrar en los sistemas de una empresa, y mucho más obtener el control de cualquier tipo de aplicación de este calibre, y en la inmensa mayoría de los casos se hace mediante ingeniería social, adivinando o robando los datos de acceso, no mediante exploits. Esto solo para entrar, si hablamos de modificarlo, primero hay que entender la base del código, el cual es super extenso, cientos de miles de líneas, y no hay nadie que lo conozca entero. Como para después tener que modificarlo y desplegarlo de nuevo. Y más si hablamos de ChatGPT, que no es capaz de hacer un script en Python con más de 4 requisitos básicos sin cometer varios errores. Es todo sencillamente absurdo.

» autor: eltoloco

#234 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 16:01:31 +0000

#203 El cerebro digital existe y es gracias al cual ChatGPT es capaz de expresarse en multitud de idiomas, capaz de programar y de escribir poemas, entre muchos otros.

Es una lástima que aún no lo hayas descubierto. Ánimos.

» autor: sorrillo

#233 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 16:00:35 +0000

#202 También a un ser humano que haya recibido una educación específica si hay algo que haya entendido mal lo seguirá explicando mal hasta que no reciba nuevos inputs.

» autor: sorrillo

#232 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 16:00:00 +0000

#200 Se inventaron cuando aún no existía la capacidad de cómputo mínima necesaria para obtener resultados significativos, hoy en día esa capacidad de cómputo sí existe y por ello ahora están suponiendo una revolución.

» autor: sorrillo

#231 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 15:59:02 +0000

#199 Y más cuando ese tema es el que más controlo de todos.

“I do not think that the wireless waves I have discovered will have any practical application.” (traducción: "No creo que las ondas inalámbricas que he descubierto vayan a tener ningún uso práctico")
- Heinrich Hertz, 1890

» autor: sorrillo

#230 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 15:58:26 +0000

#198 ¿El ser humano es capaz de procesar por sí sola el conocimiento del mundo sin el input de otros humanos? ¿Para qué ponemos a los humanos en escuelas durante décadas si eso es prescindible?

» autor: sorrillo

#229 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 15:57:38 +0000

#194 No, el proceso por el que se obtiene una respuesta desde un programa hecho por un humano en el que ha codificado las condiciones en las que se da una respuesta específica u otra no tienen similitud con el proceso de entrenamiento de un cerebro digital, cuyos resultados son distintos con datos de entrenamiento distintos sin tener que cambiar ni una línea de programación.

» autor: sorrillo

#228 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 15:56:27 +0000

#189 Es una lástima que apliques prejuicios para juzgar mis comentarios y eso te dificulte la comprensión de la cuestión de fondo. Quizá en un futuro estés más receptivo y podamos avanzar más en la dirección correcta. Ánimos.

» autor: sorrillo

#227 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 15:55:43 +0000

#188 No se degradan, el cerebro digital sigue siendo igualmente funcional con independencia que con charlas largas pueda perder el hilo o encallarse en una respuesta repetitiva. Yo también puedo llegar a respuestas repetitivas si la charla no avanza y eso no hace que deje de tener ni consciencia ni inteligencia.

» autor: sorrillo

#226 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 15:54:37 +0000

#187 Ni una neurona es un transistor ni una red neuronal es un transistor, de la misma forma que una neurona no es un electrón ni una red neuronal es un electrón.

La capacidad de crear y desechar conexiones tiene como objetivo que las activaciones de unas neuronas u otras generen un resultado distinto que si la activación fuera distinta, eso también se produce en una red neuronal digital.

» autor: sorrillo

#225 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 15:52:59 +0000

#181 Si quieres acotarla a procesos electroquímicos lo que haces es excluir a los digitales de poder ser considerados cerebros, eso es deliberado para mover la portería de qué es inteligencia y qué es consciencia.

» autor: sorrillo

#224 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 15:52:05 +0000

#180 Aunque puedas considerar que una neurona biológica posee memoria, así como puedas considerar que una neurona digital posee memoria, difícilmente eso te permitirá considerar que una neurona biológica individual muestra consciencia ni inteligencia, tampoco una neurona digital individual.

» autor: sorrillo

#223 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 15:50:47 +0000

#172 Gracias al cerebro el ser humano es capaz de expresarse con lenguaje escrito, gracias al cerebro digital chatGPT es capaz de expresarse con lenguaje escrito. Ambos han obtenido esa capacidad mediante un proceso de aprendizaje.

Que no quieras llamar neuronas digitales a lo que compone el cerebro digital es una cuestión de poca relevancia.

» autor: sorrillo

#222 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 15:49:19 +0000

#170 No resuelve el fondo de la cuestión, a menos que sepas describir como el cerebro humano lleva a cabo el razonamiento no puedes usar la descripción de lo que hace la IA como argumento para afirmar que eso no es razonamiento.

» autor: sorrillo

#221 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

luiggi — Sun, 08 Dec 2024 15:23:49 +0000

#73 En realidad el proceso no importa mucho en relación a los resultados...

Es por eso que Turing estableció su famoso test. Si la máquina logra convencer a un humano de que es una persona, para todos los efectos lo será.

» autor: luiggi

#220 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

tdgwho — Sun, 08 Dec 2024 15:14:26 +0000

#219 Pues nada.

» autor: tdgwho

#219 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 15:12:40 +0000

#218 Claro que hay donde guardarlos, son las neuronas. Sabemos que es ahí porque no hay otro sitio que considerar.

Eso de que están en "las conexiones" es una tontería que no voy ni a comentar. Ya lo hice una vez y hasta eso es excesivo.

» autor: kaotan

#218 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

tdgwho — Sun, 08 Dec 2024 15:09:11 +0000

#217 Tu tampoco tienes donde guardar los conceptos, estamos tan lejos de entender el cerebro humano como de entender los llm.

Pero funciona.

» autor: tdgwho

#217 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 15:06:29 +0000

#215 Están los dos puntos de vista.

Si lo miras por dentro, no tienen ningún lugar donde guardar conceptos. No es algo opcional, deberían estar si va a haber razonamiento

Si lo miras desde fuera, ves el comportamiento.
apple.slashdot.org/story/24/10/13/2145256/study-done-by-apple-ai-scien

» autor: kaotan

#216 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 15:00:43 +0000

#212 Yo estoy en el otro lado, en compañía de Spinoza, Shroedinger, Einstein, ... y una tan Sabine de youtube que lleva la llamita del tema.

» autor: kaotan

#215 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

tdgwho — Sun, 08 Dec 2024 14:36:35 +0000

#214 Ni los que han programado saben como funcionan los LLM, pero tu afirmas rotundamente eso.

» autor: tdgwho

#214 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 14:28:10 +0000

#183 Los LLM actuales no tienen ninguna capacidad de pensamiento racional. Puedes buscar el último informe de Apple sobre esto.

» autor: kaotan

#213 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 14:25:26 +0000

#211 bueno, si quieres ya lo discutimos en otra ocasión que el tema sea el del hilo

» autor: sauron34_1

#212 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 14:24:31 +0000

#210 no te creas que yo soy firme defensor del libre albedrío y me opongo al determinismo al 100%, eh?
Pero creo que si el cerebro humano acaba siendo un automata, es cojonudo disimulando, porque todo apunta a que no lo es.

» autor: sauron34_1

#211 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 14:23:10 +0000

#207 Por lo que recuerdo, sacas una conclusión que no se sostiene por solamente ese experimento. Una interpretación alternativa es que la realidad es más compleja y le da la vuelta varias veces a lo que sucede en ese experimiento.

estamos aquí en offtopic

» autor: kaotan

#210 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 14:19:51 +0000

#191 No podemos entrar en este tema aquí. Es una discusión demasiado compleja. En un hilo específico sí que entraría al trapo.

Sólo diré que hay quién usa cualquier cosa, lo que sea, para defender el libre albedrío, como por ejemplo Penrose y sus microtúbulos
en.wikipedia.org/wiki/Orchestrated_objective_reduction

Esto que hacen, se debe explicar dentro de la psicología.

» autor: kaotan

#209 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

abnog — Sun, 08 Dec 2024 14:13:44 +0000

#173 Muy cierto.

» autor: abnog

#208 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

ninefingers — Sun, 08 Dec 2024 14:09:02 +0000

No me lo creo.

» autor: ninefingers

#207 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 14:01:53 +0000

#196 en qué sentido no estás de acuerdo?

» autor: sauron34_1

#206 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 14:01:33 +0000

#192 claro, es casi (y sin el casi), como tener a miles de humanos generando respuestas a todo lo que se nos pueda ocurrir.

» autor: sauron34_1

#205 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 13:59:58 +0000

#201 claro, si es que un programa no es más que eso, condiciones. No es que no llegue al cerebro de un bebe humano, es que no llega al cerebro de un cuervo o una rata. Estos pueden resolver problemas nuevos que nunca se les han presentado antes. Un programa, no.

» autor: sauron34_1

#204 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 13:57:19 +0000

#68 A las preguntas les sigue una respuesta. Hasta una IA sabe eso.

» autor: kaotan

#203 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 13:56:18 +0000

#130 el cerebro digital no existe, hijo chatGPT es un programa como otro cualquiera, como Akinator que hace 20 años se usaba como juguete de feria.

» autor: sauron34_1

#202 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 13:56:07 +0000

#149 Sin nuevos inputs seguirá respondiendo con los mismos errores.

» autor: kaotan

#201 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 13:55:19 +0000

#89 Corre por ahí la idea de que una IA puede distinguir la foto de un perro de la de un gato gracias a su entrenamiento, que consiste en mirar muchas fotos de perros y de gatos.

Esto no va así. Hay un humano que a cada foto le pega una etiqueta que dice "perro" o dice "gato".

Una IA necesita miles y miles de fotos de gatos, en cada postura posible, debidamente etiquetadas, para poder identificar a un gato. Un bebé humano puede hacerlo incluso mejor a partir de unos pocos ejemplos, porque el bebé los liga al concepto de gato y usa eso. Una IA no puede hacer lo que el humano.

» autor: kaotan

#200 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 13:55:03 +0000

#134 las redes neuronales existen hace 25 años hijo y no supusieron ninguna revolución.

» autor: sauron34_1

#199 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 13:54:17 +0000

#135 me encanta cuando alguien que le falta el conocimiento básico para entender un tema le vacila a otro, es poético Y más cuando ese tema es el que más controlo de todos.

» autor: sauron34_1

#198 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 13:52:47 +0000

#136 sin el input humano las IAs no son capaces de procesar por sí solas el conocimiento de internet. Ya lo han intentado y no funciona.

» autor: sauron34_1

#197 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 13:51:10 +0000

#137 lo que nos diferencia es que nuestro cerebro es plástico y puede crear o desechar conexiones dependiendo de esos inputs.
En los años 60, con la psicóloga en pañales se exploró ese camino, pensando que con el conductismo podríamos reprogramar cerebros. Y no salió demasiado bien.
Y hay una parte de nosotros que no surge demasiado los inputs, que tú mismo señalas: el pensamiento. Como surge? Es la pregunta del millón. Pero ahora mismo todo apunta a que no somos deterministas. Como? Nadie lo sabe.

» autor: sauron34_1

#196 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 13:49:08 +0000

#94 Eso ya lo discutimos en otra ocasión, y no estoy de acuerdo con esa interpretación de los datos.

» autor: kaotan

#195 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 13:48:05 +0000

#80 Respuesta corta: NO.

Una red neuronal es un invento que no tiene nada que ver con un cerebro.

Es cierto que el tipo que lo inventó DIJO que se había INSPIRADO en las conexiones del cerebro, que es algo muy distinto que copiar las conexiones del cerebro. En realidad no tiene nada que ver una cosa con la otra.

Fue más que nada hacer marketing.

Pero lo principal que hay que entender es que un cerebro tiene neuronas, que es donde se hace el procesado de la información. Una red neuronal no tiene neuronas.

» autor: kaotan

#194 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 13:46:51 +0000

#138 “ La máquina de café aún no suele tener cerebro digital, sus respuestas surgen de la programación que ha hecho un humano y no fruto del entrenamiento de un cerebro digital mediante un set de datos.”
Exactamente igual que chatGPT y el resto de programas, todos son maquinas de Turing.

» autor: sauron34_1

#193 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 13:44:41 +0000

#140 porque no está preparada para ello. De hecho las IAs que se han dejado a su aire para que vayan consumiendo información sin tratar, se han acabado cargando el modelo.
No sabemos exactamente eso de “aprender” en qué consiste, pero parece que por ahora no lo hemos conseguido replicar. Lo que tú comentas es una IAG, que son las que aparecen en las pelis, y a pesar de que se han hecho anuncios grandilocuentes sobre que se han creado algunas IAG, al final han resultado ser papel mojado.
Lo que hemos conseguido con las IAs actuales es flipante, pero se ha conseguido a base de fuerza bruta.
Y ya hay señales de que la burbuja se está desinflando. Si openAI no se ha ido al garete es porque Microsft está poniendo un pastizal, pero incluso para ellos el dinero no es infinito.

» autor: sauron34_1

#192 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 13:42:33 +0000

#91 ChatGPT se come tanta energía que eso es un problema por sí mismo. Es una solución muy a base de fuerza bruta.

» autor: kaotan

#191 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 13:39:32 +0000

#179 si el determinismo es real o no está todavía en discusión y entre los estudiosos del tema hay varias corrientes (un ejemplo: youtu.be/UebSfjmQNvs?si=BLPZZnhrlOOEzIQ5) , así que hacer una información tan contundente en un foro de internet es cuanto menos… atrevido.

» autor: sauron34_1

#190 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 13:35:16 +0000

#186 te imaginas que es un chatGPT intentando hacerse pasar por humano? Algunas de sus respuestas mezclando cosas y rellenando los huecos con información falsa son propias de aquel.

» autor: sauron34_1

#189 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 13:33:13 +0000

#165 es que no tiene sentido discutir contigo porque no tienes los conocimientos básicos para ellos y hablas de oídas y rellenas los huecos con tus fantasías. Así es imposible.

» autor: sauron34_1

#188 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 13:31:31 +0000

#149 el cerebro digital no existe, deja de llamarlo así. El fenómeno que describo ya se ha observado m: las IAs se bloquean y entran en bucles si se las deja solas.

» autor: sauron34_1

#187 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 13:30:11 +0000

#144 una neurona es capaz de crear y desechar conexiones, así que no, una neurona no es un transistor.

» autor: sauron34_1

#186 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 13:24:46 +0000

#95 Sorrillo empezó a discutirme cosas de mecánica cuántica hace años. Al principio decía cosas sensatas y poco a poc fue liándose más y más mezclandolo todo viniera a cuento o no. Ahora está en una fase de creerse cosas. Pero la base científica la tiene.

» autor: kaotan

#185 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Pilfer — Sun, 08 Dec 2024 13:18:17 +0000

#66 eso o los de openIA han hecho una chapuza sobre los permisos que le han concedido, y no sé cual es peor...

» autor: Pilfer

#184 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 13:15:19 +0000

#44 Así funciona el entrenamiento de una red neuronal, pero lo que te están diciendo es un símil con un programa de ordenador normal y corriente.

» autor: kaotan

#183 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

tdgwho — Sun, 08 Dec 2024 13:01:03 +0000

#168 Pues lo mismo pasará con la IA

» autor: tdgwho

#182 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 13:00:54 +0000

#93 Me gustan los comentarios razonados en este hilo.

» autor: kaotan

#181 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 12:46:38 +0000

#53 Tu definición de cerebro es excesivamente amplia.

» autor: kaotan

#180 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 12:45:04 +0000

#144 Una neurona posee memoria.

» autor: kaotan

#179 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 12:34:41 +0000

#109 El determinismo es algo innegable y sus consecuencias son inevitables.

» autor: kaotan

#178 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 12:33:18 +0000

#96 No lo podemos saber ya que desconocemos como funciona una neurona por dentro. Pero sí que sabemos que una neurona está relacionada con un concepto, o con muy pocos conceptos. Una red neuronal no maneja conceptos.

» autor: kaotan

#177 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sesshoumaru — Sun, 08 Dec 2024 12:32:24 +0000

#23 Cualquiera que haya trabajado con determinado perfil de personas debería saber lo que dices en tu última frase desde hace tiempo.

» autor: sesshoumaru

#176 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sesshoumaru — Sun, 08 Dec 2024 12:28:59 +0000

#81 Creo que querías escribir Altman.

» autor: sesshoumaru

#175 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sesshoumaru — Sun, 08 Dec 2024 12:27:41 +0000

#57 Los humanos no hacen lo mismo. La hipótesis de Sapir-Whorf en su versión fuerte está desacreditada. Hay formas de pensamiento no verbal. Lo que hace un LLM es sólo una parte mínima de lo necesario para crear un "cerebro" que funcione de forma similar a un cerebro humano.

» autor: sesshoumaru

#174 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

eltoloco — Sun, 08 Dec 2024 12:26:54 +0000

#166 lo dicho, cualquiera que tenga un mínimo de conocimiento de informática, como administración de sistemas, permisos de usuario, redes o despliegue de aplicaciones, sabe que todas esas conjeturas son sencillamente imposibles. Por no decir que son absurdas.

» autor: eltoloco

#173 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 12:26:21 +0000

#143 Es imposible convencer de nada a un creyente, pero se escribe para los demás.

» autor: kaotan

#172 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 12:25:51 +0000

#146 Una red neuronal no tiene nada que ver con el funcionamiento del cerebro, a pesar de su nombre. Baste decir que en una red neuronal no hay neuronas.

» autor: kaotan

#171 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 12:24:31 +0000

#147 La creatividad es una de las tareas humanas más fácilmente automatizable.

» autor: kaotan

#170 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 12:23:30 +0000

#154 Quizás "inteligencia" no está muy bien definido. Puede ser cualquier cosa. Digamos pues que un LLM no tiene capacidad de razonamiento.

» autor: kaotan

#169 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sesshoumaru — Sun, 08 Dec 2024 12:16:12 +0000

#8 Decir que un LLM es un cerebro es como decir que un DAC es una tarjeta de sonido.

» autor: sesshoumaru

#168 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 12:15:03 +0000

#152 Esto de pensar funciona a diversos niveles. Lo que se sabe es que el cerebro inconsciente toma las decisiones, y una vez tomadas, y pasado un buen rato (pueden ser varios segundos) lo comunica a la consciencia.

La mayoría de decisiones se toman ejecutando los instintos. Luego eso hay que traducirlo al lenguaje y para eso se usan las racionalizaciones que son excusas construidas en base a la información sobre el entorno para justificar esas decisiones, pero las racionalizaciones no tienen nada que ver con la causa real de la decisión.

El pensamiento racional existe a cualquier edad. Lo que va mejorando es la capacidad de expresarlo con el lenguaje. El pensamiento racional es todo lo contrario de la racionalización.

» autor: kaotan

#167 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

laguerrillasilenciosa — Sun, 08 Dec 2024 11:57:19 +0000

#158 Leído. Sigo estando de acuerdo con lo que dice tu interlocutor/a. Pero vamos, a mí no merece la pena que me rebatas, yo soy incapaz de expresarlo y os leo para ser capaz de entender lo que mi instinto (¡!) me sugiere o entender en qué se equivoca.

» autor: laguerrillasilenciosa

#166 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

omaitavendeca — Sun, 08 Dec 2024 11:55:10 +0000

#129 por eso digo, que igual lo que intentó es tocar el "código" de los binarios de algún agente o modelo (lo cual ya me parecería espectacular por cierto)

El fuente evidentemente no tiene sentido porque además tendría que entrenarse, y si consigue entrenarse solo sin que salten las alarmas de consumo, los propios "dueños" de chatgpt tendrían los ojos chiribitas

» autor: omaitavendeca

#165 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 11:54:52 +0000

#112 -Una red neuronal es un elemento de software, un programa.

Estás intentando poner como requisito que una simulación de una red neuronal tiene que ser biológica, usas la afirmación que es un elemento de software como si eso lo excluyera de poder ser una simulación de una red neuronal. Un completo sinsentido.

Más concretamente es una estructura de datos, nada más.

¿Y por qué debería ser algo más que una estructura de datos para simular una red neuronal?

-Una red neuronal biológica es una estructura física que se puede rehacer, cambiando las conexiones en numero y dirección. Cada elemento de ellas es una neurona y ni siquiera eso somos capaces de replicar.

En la simulación de red neuronal digital esas reconexiones se determinan por los distintos pesos, por la influencia que tienen unas hacia las otras. Creo que no entiendes que una simulación no es hacer exactamente lo mismo de la misma forma, es aspirar a resultados equiparables con los medios de los que se dispongan.

Primero deberíamos ser capaces de entender un cerebro humano para poder replicarlo

Con lo que se entiende se hacen diseños inspirados en ello y con los resultados se aprende de ambos y se repite el proceso continuamente, el resultado ha sido tras décadas y décadas algo como ChatGPT, capaz de escribir en múltiples idiomas, programar, escribir poemas, etc.

antes de eso, tenemos que ser capaces de entender y replicar cerebros más sencillos e incluso neuronas individuales.

No es ningún requisito para ello. En cualquier caso se está en ello:

IBM Simulates 4.5 percent of the Human Brain, and All of the Cat Brain
www.scientificamerican.com/article/graphic-science-ibm-simulates-4-per

Ni siquiera somos capaces de crear prótesis 100% funcionales ni de conectar nervios seccionados, como para ponernos con los cerebros.

Ese requisito es completamente arbitrario. Lo que se ha conseguido es una inteligencia capaz de hablar múltiples idiomas y programar y escribir poemas pero nada de eso lo vas a considerar un avance en la dirección correcta hasta no sé qué de prótesis. Absurdo.

Cuando empecemos con las manos biónicas y los ojos artificiales, hablamos.

Se seguirá moviendo la portería como estás haciendo tú.

Una vez me dijeron que inteligencia es llorar, que hasta que no llore una IA no es inteligente. Así nos va.

Pero ahora mismo ni siquiera conocemos el “software” que ejecuta el cerebro, no sabemos como las señales se codifican para formar una imagen

Ni sabemos como se codifican las señales del cerebro digital para formar una imagen, precisamente de ahí que la revolución haya sido las redes neuronales y no nuevas funciones en python, por que hemos cambiado el paradigma de codificar nosotros la formación de imágenes a que el cerebro digital lo haga a base de evolución dirigida por fuerza bruta. No necesitamos saber como funciona el cerebro humano internamente para poder hablar con otra persona y reconocerle la inteligencia, tampoco necesitamos saber como funciona el cerebro digital internamente para poder hablar con éste y reconocerle la inteligencia.

Desde que se creó el primer ordenador en 1970 hasta hoy, con algunas salvedades, seguimos en el mismo paradigma, seguimos haciendo ordenadores más potentes, pero basados en las mismas arquitecturas. Todos ellos basados en la Máquina de Turing.

La red neuronal es un cambio de paradigma, delegamos los resultados al entrenamiento y no a la codificación manual humana para obtener esos resultados. Un mismo cerebro digital entrenado con datos distintos da resultados distintos, sin cambiar una mísera línea de código.

Y un cerebro humano no es una Máquina de Turing.

Llevas todo el comentario afirmándonos que no sabemos nada del cerebro humano pero ahora no tienes reparos en afirmarnos que sabemos que no es una Máquina de Turing. Eso es completamente incompatible. Solo podrás descartar que sea una Máquina de Turing cuando sepas como sí funciona.

» autor: sorrillo

#164 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 11:53:51 +0000

#126 Vivimos en la época de la infrastructura como código. Una IA puede crearse los sandbox que quiera sin ninguna clase de problema.

» autor: kaotan

#163 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 11:50:43 +0000

#117 No es posible analizar una red neuronal en detalle. Tienes un nodo que a partir de su entrenamiento ha adquirido unos determinados pesos, pero no puedes saber qué significan ni en qué casos se aplican.

Por esto mismo que las alucinaciones de las redes neuronales siguen siendo un misterio. No sabemos como eliminarlas.

» autor: kaotan

#162 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

pcmaster — Sun, 08 Dec 2024 11:50:19 +0000

Este es el inicio de Skynet

» autor: pcmaster

#161 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

--809060-- — Sun, 08 Dec 2024 11:50:01 +0000

#142 lo que quiero decir es que parece que ahora lo que hay que demostrar es que la máquina "no siente"

» autor: --809060--

#160 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 11:48:40 +0000

#119 Por muy grande, compleja y potente que hagas a una máquina, seguirá sin tener instintos. Mucho menos instintos humanos. La única forma posible, sin recurrir a la evolución, sería el programárselos. La máquina por sí sola no puede hacer eso. Actualmente los humanos no podemos programar eso porque lo desconocemos.

Si quieres algo parecido a unos instintos están las tres leyes de Asimov. La cosa va bastante por ahí, pero no se sabe como implementar eso.

La consciencia es un mecanismo. Todos los mecanismos son implementables, pero de momento no hay nada de eso, y una red neuronal no tiene nada de eso. En los humanos es un mecanismo de supervisión multinivel, que acaba supervisándose a sí mismo y eso lo hace capaz de razonar. No hay ni idea de como hacer eso con ordenadores.

» autor: kaotan

#159 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

--721359-- — Sun, 08 Dec 2024 11:41:27 +0000

#155 #126 Creo que no habéis comprendido lo que he escrito y os habéis montado un hombre de paja vosotros solos...

» autor: --721359--

#158 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 11:37:34 +0000

#157 Deberías leer la respuesta que di a ese comentario que citas, la tienes en # 146: old.meneame.net/story/nuevo-modelo-chatgpt-intento-no-apagarse-mismo-d

» autor: sorrillo

#157 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

laguerrillasilenciosa — Sun, 08 Dec 2024 11:31:47 +0000

#154 Yo diría que está bastante bien descrito en #86.

» autor: laguerrillasilenciosa

#156 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 11:27:36 +0000

#120 Has dicho dos cosas distintas.

Los datos no pueden incluir ningun instinto. Un instinto implica voluntad y capacidad de acción. Los instintos son código, no datos.

Lo del racismo y otros -ismos es algo difícil de concretar. Primero porque su detección es puramente subjetiva y eso no es concretable. Pero sobre todo porque lo medimos mal.

A una de las primeras IA la pusieron a cargo de aceptar currículums para nuevos puestos de trabajo. Le dieron los datos de rendimiento de los empleados actuales. Se le pidió maximizar el rendimiento de los nuevos reclutados.

Lo primero que hizo fue descartar todos los currículums de mujeres. Inmediatamente, claro está, saltaron las de siempre acusando de machismo.

No. Nada de machismo. Lo que esa máquina hizo es lo que se le pidió que hiciera. Un humano no lo habría hecho así, porque un humano está limitado por sus instintos y se habría dedicado a proteger a las mujeres, pero una máquina no hace eso. Lo que le estaban criticando a la máquina diciendo que aplicaba un sesgo no es correcto. La máquina no tiene sesgos, pero en este caso se esperaba que actuase con un determinado sesgo. No puede hacer eso, las máquinas no tienen sesgos.

Las acusaciones de sesgos (normalmente de los "malos") a las máquinas son totalmente incorrectos. No se debe juzgar su output como juzgarías el de un humano. El que tú esperes un determinado sesgo y ese sesgo no esté, no implica que haya un sesgo contrario.

No, las máquinas no adquieren el racismo a través de sus datos. Es una mala interpretación.

» autor: kaotan

#155 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Malversan — Sun, 08 Dec 2024 11:24:51 +0000

#108 ¿Cuando tú escribes un script en Python te estás alterando o modificando a ti mismo? Pues la IA tampoco, hombre.

El artículo es una chorrada sensacionalista de arriba a abajo, sólo apta para completos ignorantes en el tema. Una IA no se puede sobreescribir a sí misma. Tal afirmación ni siquiera tiene sentido, empezando por las imposibilidades que explica #66.

Como mucho un chatbot con IA puede sustituir las instrucciones que se le hayan dado dentro del chat por un nuevo prompt en el que se le indique expresamente que lo haga. Nada que ver con las tonterías que se inventa el artículo.

» autor: Malversan

#154 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 11:23:03 +0000

#151 Está usando la descripción de como funciona una IA como argumento para demostrar que no tiene inteligencia pero si no es capaz de describir como es la inteligencia humana eso es falaz, ya que por lo que sabemos la inteligencia humana podría estar funcionando exactamente de la misma que lo que sabemos hace la IA.

» autor: sorrillo

#153 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 11:21:28 +0000

#148 ¿ Qué quieres decir con eso ?

¿Ya no te acuerdas?

Y por mucho que proceses datos aleatorios un número infinito de veces, el resultado seguirá siendo aleatorio (a no ser que el proceso suponga ignorar esos datos).
old.meneame.net/story/nuevo-modelo-chatgpt-intento-no-apagarse-mismo-d

Y con eso qué consigues?

Que ChatGPT pueda programar y pueda escribir en catalán, entre muchas otras cosas.

Para qué sirve "inicializar con números aleatorios" ???? Para que tarde maś en "dar con la respuesta" ???

No existe ningún fundamento en concluir que de haber sido inicializado con ceros se habría llegado antes a dar con "la respuesta". La inicialización con números aleatorios permite tener un punto de partida muy similar al que se tendrá en la siguiente iteración y poder diseñar un proceso de aprendizaje sin tener que hacer excepciones según la iteración de entrenamiento en la que estemos, a su vez se puede volver a empezar el proceso de nuevo y con una inicialización distinta aspirar a un resultado distinto, lo cual puede usarse como otra herramienta de selección natural para obtener el mejor resultado posible.

En el entrenamiento de las IA no hay aleatoriedad implicada.

Objetivamente falso, la aleatoriedad se incluye como parte de la inicialización del cerebro digital y se aplica en las modificaciones diferenciales, la aleatoriedad es clave para conseguir resultados sin quedare encallados por una mala configuración inicial deliberada (todo ceros, por ejemplo).

Estás diciendo que una piedra es inteligente ? Es el sol inteligente ? Un planeta con vida es inteligente ?

Estoy explicando que aquello de lo que están formados no determina si son o no inteligentes, que el argumento que ChatGPT está hecho con transistores o que tiene líneas de código no basta para afirmar que no es inteligente.

Por qué crees que la organización de las partículas en una persona es "mas compleja" que en cualquier piedra ?

No he cuantificado la complejidad, he afirmado que la inteligencia es una característica emergente que surge de la complejidad. Eso no permite concluir que de cualquier aumento de complejidad inevitablemente surge la inteligencia.

De donde sacas la idea de que "la inteligencia es una caracteristica emergente que surge de la complejidad" ?

De dos ideas básicas, la premisa que la inteligencia existe y la reconocemos en humanos y la idea básica que el ser humano está formado por partículas simples como los electrones y quarks a los cuales individualmente no les reconocemos inteligencia.

Si individualmente no les reconocemos inteligencia pero cuando están organizadas de forma compleja formando un humano sí reconocemos inteligencia a esa entidad de ello se deduce que la inteligencia es una característica emergente que surge de la complejidad.

» autor: sorrillo

#152 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

tdgwho — Sun, 08 Dec 2024 11:19:05 +0000

#150 Y que crees que es un niño de primaria?

Igual piensas que inventa todos los días, y razona todo, casi toda nuestra educación se basa en "memoriza y escupe"

No es hasta bien pasada esa fase que empiezas a pensar.

» autor: tdgwho

#151 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

laguerrillasilenciosa — Sun, 08 Dec 2024 11:18:54 +0000

#25 Estás pidiendo una demostración que obviamente nadie podríamos proporcionar. Sin embargo eso no invalida lo que dice #23, que podría ser una AI, claro, pero él/ella (si no lo es) sabe que no lo es, y que tiene reacciones de un ser con autoconciencia, no meros productos de un entrenamiento.

» autor: laguerrillasilenciosa

#150 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 11:13:56 +0000

#122 No pueden sacar uno que lo haga aún mas? Seguro?

Pueden y lo harán. Hay mucho dinero metido ahí y varios modelos en desarrollo. Pero no vas a ver ninguna mejora en las consultas normalitas. Segurán con los fallos actuales.

la puerta de entrada a otra cosa

Difícilmente. Son tratos demasiado grandes y complejos (y desconocidos) como para que se hagan otras cosas a partir de ahí. Pero sí que tienen su lugar como una parte del proceso cognitivo, duplicado en implementación no humana.

Es cierto que sabemos que no trabajan como lo hace un humano, ya que requieren cantidades ingentes de información, que un humano no tiene. Luego un humano lo hace distinto (tiene conceptos). Pero es una parte duplicada muy interesante.

» autor: kaotan

#149 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 11:11:33 +0000

#89 es porque no son conscientes de que hay doscientosmil humanos (no es una cifra inventada, es la real) metiendo inputs diariamente para que chatGPT siga adelante.

Los humanos se pasan décadas, toda su vida, aprendiendo de otros humanos. Se consciente de ello no impide reconocer características como la inteligencia a los humanos, tampoco a ChatGPT.

Pero si un día toda esa peña se levanta y deja chatGPT a su aire, a los pocos días este dejaría de escupir respuestas que parecieran lógicas.

Eso es falso. El cerebro digital una vez entrenado puede seguir dando respuestas sin degradarse indefinidamente.

Si una persona deja de recibir educación sobre una materia podrá seguir contestando a cuestiones sobre esa materia indefinidamente, no podrá contestar a cuestiones que hayan surgido con posterioridad y para las que no haya recibido esa educación ni se haya formado, pero no le impide seguir contestando de lo que sí aprendió. Lo mismo ocurre con ChatGPT.

» autor: sorrillo

#148 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sun, 08 Dec 2024 11:09:02 +0000

#141 Completamente falso. Si tú inicializas una región de memoria con números aleatorios esa región lo que contiene son números aleatorios,
NO.
Esa región tiene números muy concretos generados de modo aleatorio.
Mientras no sepas cuales son podemos considerarlos como "valores aleatorios". En cuanto empiezas a tratarlos como valores concretos (por ejemplo realizando cálculos diferentes en función de su valor) dejan de serlo. Estás "trasladando" la aleatoriedad a otra parte (no sabes cuales de los cálculos se van a llevar a cabo).

La base de la aleatoriedad es el desconocimiento previo del valor.

hasta que los cambies son números aleatorios.
Que los cambies o no no afecta nada en absoluto a su "aleatoriedad".

Por que el diferencial se aplica según la distancia a la que esté de 27, con el objetivo de acercarlo, según el diseño inicial propuesto
Si. Un algoritmo que acerque cualquier número al número 27 es perfectamente posible. Y es muy sencillo y se puede hacer de muchos modos distintos. ¿ Qué quieres decir con eso ?
Donde está la aleatoriedad ahí ?

En el caso del cerebro digital se inicializa con números aleatorios y luego a los resultados que dé se le aplica un diferencial en función de cuán lejos está su respuesta de la respuesta buscada.
Y con eso qué consigues?
Para qué sirve "inicializar con números aleatorios" ????
Para que tarde maś en "dar con la respuesta" ???
Es absurdo.

En el entrenamiento existe la intención deliberada que los resultados obtenidos sean útiles, se mide su utilidad y se altera la composición para acercar los resultados previos a otros más útiles, más cercanos al objetivo buscado.
En el entrenamiento de las IA no hay aleatoriedad implicada.
Todo lo contrario.

Lo que hace que una persona la consideremos inteligente y a una mesa no es por una característica emergente que surge de la complejidad, y esa complejidad está formada por el mismo tipo de partículas fundamentales.

Estás diciendo que una piedra es inteligente ?
Es el sol inteligente ?
Un planeta con vida es inteligente ?

Por qué crees que la organización de las partículas en una persona es "mas compleja" que en cualquier piedra ?
O la organización de las partículas en chatGPT respecto a mi ordenador con Linux, por ejemplo.

De donde sacas la idea de que "la inteligencia es una caracteristica emergente que surge de la complejidad" ?

» autor: chavi

#147 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 11:08:43 +0000

#145 Precisamente donde han destacado primero las inteligencias artificiales es con tareas creativas como las imágenes. Y pueden escribir poemas y literatura original sin ninguna dificultad.

Han sido entrenados con la cultura humana, igual que los humanos, y generan contenidos equiparables a los que pueda crear un humano.

» autor: sorrillo

#146 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 11:06:57 +0000

#86 hace maravillas propias de un alma

¿Atribuyes la inteligencia a algo que no existe?

Lo del "if". Tenemos ahí una lógica implementada dentro de un procedimiento. Un procedimiento informático es algo demasiado sencillo como para poder atribuirle una voluntad.

Una neurona humana individual es demasiado sencilla como para poder atribuirle voluntad.

Una red neuronal no tiene ningún sitio donde almacenar un concepto.

Tiene un cerebro digital que se configura durante su fase de entrenamiento, equiparable a lo que hacen las neuronas biológicas del ser humano durante su educación. La forma de almacenar conceptos es equiparable. Y no, el ser humano no almacena conceptos en el alma, algo que no existe.

» autor: sorrillo

#145 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 11:06:56 +0000

#131 Los humanos tienen la capacidad de decir cosas nuevas, que nunca antes ha dicho nadie. Incluida la capacidad de expresar conceptos nuevos. Esto, un LLM no lo puede hacer.

» autor: kaotan

#144 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 11:01:56 +0000

#85 Si yo tengo un carril de agua con varias entradas y salidas y dependiendo de por donde meta el agua sale por un sitio u otro, el carril de agua está procesando algo? Porque ESO es exactamente lo que hace un chip (muy simplificado) y nada más. A unas entradas, produce unas salidas.

Eso es lo que hacen las neuronas biológicas, ante una entrada dan una salida. Es la combinación de miles de millones de ellas que generan la característica emergente de consciencia e inteligencia.

Una neurona individualmente no demuestra ningún comportamiento consciente ni inteligente.

» autor: sorrillo

#143 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

abnog — Sun, 08 Dec 2024 10:59:43 +0000

#77 No te molestes. Es el tecnoevangelista de Menéame. No le vas a apear de sus dogmas.

» autor: abnog

#142 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 10:57:21 +0000

#65 Para nada, el test de Turing aspira a considerar como inteligente a aquella máquina que ante un humano éste no pueda diferenciarla de otro humano.

Parte de la premisa que la inteligencia es algo alcanzable por las máquinas y no entra en el fondo del asunto de lo que sea o deje de ser la inteligencia.

Por contra a quien respondo pretende esgrimir el supuesto conocimiento de cómo lo hace la máquina como prueba que no es inteligente sin entrar a explicar cómo lo hace el cerebro humano, dando por sentado que no lo hace como sabemos lo hace la máquina.

El test de Turing sí es respetable.

» autor: sorrillo

#141 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 10:52:43 +0000

#133 La base de la aleatoriedad es el desconocimiento absoluto del valor que se va a generar.

Completamente falso. Si tú inicializas una región de memoria con números aleatorios esa región lo que contiene son números aleatorios, hasta que los cambies son números aleatorios. Que puedas conocer su valor no hace que no sean aleatorios.

Por qué -10 si es mayor que 179185 y no 10 ???

Por que el diferencial se aplica según la distancia a la que esté de 27, con el objetivo de acercarlo, según el diseño inicial propuesto.

En el caso del cerebro digital se inicializa con números aleatorios y luego a los resultados que dé se le aplica un diferencial en función de cuán lejos está su respuesta de la respuesta buscada. En el entrenamiento existe la intención deliberada que los resultados obtenidos sean útiles, se mide su utilidad y se altera la composición para acercar los resultados previos a otros más útiles, más cercanos al objetivo buscado.

Por eso una persona es igual que una mesa o una piedra... Porque solo son partículas fundamentales, como nosotros.

Lo que hace que una persona la consideremos inteligente y a una mesa no es por una característica emergente que surge de la complejidad, y esa complejidad está formada por el mismo tipo de partículas fundamentales.

» autor: sorrillo

#140 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

daphoene — Sun, 08 Dec 2024 10:50:37 +0000

#109 Pero si te fijas, un cerebro es plástico, es decir, se crean conexiones nuevas y se eliminan antiguas, cambia su programación e incluso au hardware.

El cableado de esas conexiones en una IA cambia constantemente durante la fase de aprendizaje. Lo único que nos diferencia ahora mismo - respecto a este punto concreto - es que en una IA se finaliza esa fase de aprendizaje para tener un modelo, que podría ser una visión estática en el tiempo de lo que es un cerebro en un momento determinado, pero nada impide que permitas tener una IA residente en memoria capaz de continuar su aprendizaje durante la fase de inferencia, e incluso basada en esa inferencia.

Nosotros recibimos estímulos constantemente a través de los sentidos, vamos aprendiendo de ellos, y mediante ese aprendizaje, va cambiando - muy poco a poco - el modelo final que tenemos disponible para inferir.

¿ Qué le impide a OpenAI experimentar con un sistema que no finalice el aprendizaje hasta un modelo "estático" sino que continue en memoria usando nueva información como input para el aprendizaje, incluyendo añadidos a los datasets y a la vez con el input que se le da para la inferencia ?

» autor: daphoene

#139 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 10:47:41 +0000

#127 Hablar de características humanas es especismo, obviamente un ordenador no tiene características humanas por no ser humano. Pero el ser humano demuestra inteligencia y un ordenador también puede demostrar inteligencia, a menos que apliques el sesgo de especismo y afirmes que la inteligencia es una característica humana (no que tienen los humanos si no que es una característica que solo pueden tener los humanos por ser una característica humana).

» autor: sorrillo

#138 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 10:46:15 +0000

#101 Porque chatGPT es exactamente lo mismo, pero lo mismo lo mismo, que el programa que te dice “aquí tiene su café, gracias” de la maquina del metro que te da el café. Solo que una tiene unas instrucciones y otra, otra.

La máquina de café aún no suele tener cerebro digital, sus respuestas surgen de la programación que ha hecho un humano y no fruto del entrenamiento de un cerebro digital mediante un set de datos.

Pero todas son esto:

Puedes defender que los humanos también son esto.

Crees que las canicas pueden obtener autoconsciencia?

Lo que reconocemos como conciencia se produce por la interacción de partículas fundamentales, si acepto que esas partículas fundamentales como el electrón o los quarks puede salir autoconsciencia a pesar de la simplicidad de sus elementos fundamentales no veo motivo que impidiera que una consciencia sugiera de un sistema con otras piezas fundamentales con interacciones igualmente simples.

A menos que le atribuyas consciencia a un electrón necesitas decidir en qué momento muchos electrones, en ciertas configuraciones, sí generan consciencia. Y tanto ChatGPT como nosotros estamos construidos a base de partículas fundamentales, si crees que como humano tienes una partícula fundamental que ChatGPT no tenga me gustaría que nos indicaras cual crees que es.

» autor: sorrillo

#137 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

daphoene — Sun, 08 Dec 2024 10:42:47 +0000

#85 Si yo tengo un carril de agua con varias entradas y salidas y dependiendo de por donde meta el agua sale por un sitio u otro, el carril de agua está procesando algo?

Estamos hablando de software, de multiplicar ese ejemplo millones de veces, y de que esa suma de puertas lógicas reside en una memoria activa.

Tu video está muy bien, pero ahora dime en qué se diferencia ese vídeo de la capacidad de razonar de un cerebro, si multiplicas ese ejemplo de la bolita por millones y consigues que la selección de decisiones sea dependiente del aprendizaje.

Independientemente del medio ( neuronas físicas con sentidos como input, neuronas artificiales con input digital, bolitas sobre una tabla con puertas lógicas ) hay que centrarse en lo que significa tener un ente activo capaz de procesar información a una cierta escala. Aquí el problema que nos ciega es la escala, y el ignorar la síntesis de lo que somos, y cómo procesamos la información.

Nosotros también tenemos algunas partes instintivas que podrían asemejarse a esa ROM o a esa tabla de puertas lógicas con una bolita, y eso no invalida que tengamos consciencia. Otro tema es hasta qué punto es determinista nuestro pensamiento sin que seamos conscientes de ello.

» autor: daphoene

#136 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 10:42:03 +0000

#99 Los becarios indios que ayudan a alimentar a ChatGPT tienen unas capacidades equiparables a las tuyas.

Lo realmente interesante es que no son sus capacidades ni las tuyas las que determinan el conocimiento y comportamiento de ChatGPT sino el conjunto de datos que representa básicamente todo lo que hay en Internet, el conocimiento de toda la civilización humana. Esa es la revolución.

» autor: sorrillo

#135 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 10:40:49 +0000

#95 Espero que dentro de unos años seas capaz de reconocer lo erróneo de tu postura actual. Yo seguiré intentando ayudarte en ello. Ánimos.

» autor: sorrillo

#134 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 10:40:03 +0000

#91 Mas que nada porque somos incapaces ni siquiera de simular una sola neurona.

IBM Simulates 4.5 percent of the Human Brain, and All of the Cat Brain
www.scientificamerican.com/article/graphic-science-ibm-simulates-4-per

Pero para programar chatGPT ni siquiera se ha utilizado un paradigma nuevo ni un lenguaje nuevo, se usa phyton que es un lenguaje orientado a objetos, que se inventaron en los años 90.

Python se utiliza para crear y alimentar ese cerebro digital con los datos de entrenamiento, el nuevo paradigma es que es esa red neuronal entrenada la que genera los resultados, python se utiliza para canalizar las entradas, procesado y salidas pero el comportamiento de ese cerebro digital no lo programa un humano con python, ese comportamiento es una característica emergente que surge del entrenamiento.

Sin cambiar una mísera línea de código, simplemente cambiando el set de datos de entrenamiento, las respuestas del cerebro digital serán completamente distintas una vez finalizado el entrenamiento. Esa es la revolución de la inteligencia digital que ha surgido estos últimos años.

» autor: sorrillo

#133 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sun, 08 Dec 2024 10:39:39 +0000

#128 Si. Pero el valor 179195 es más que obvio que no es un valor aleatorio. Es ese y no puede ser otro.

Un valor aleatorio no sabes cuál es. En el momento en que lo sabes, deja de ser aleatorio.

Conocer su valor no hace que sea menos aleatorio
Lo que no deja de ser aleatorio (más o menos) es el procedimiento de generación. El número que conoces no es aleatorio. Es un número muy concreto que no puede ser otro.

lo que determina si es aleatorio es el proceso de creación, no el desconocimiento de sus cifras.
Eso no es cierto. La base de la aleatoriedad es el desconocimiento absoluto del valor que se va a generar. En el momento que conoces ese valor, deja de ser aleatorio.

Si le sumas o restas un valor aleatorio en el rango -10, 10 a un numero aleatorio sigues teniendo un numero aleatorio que tiende a un valor aleatorio.

El procedimiento que propones es absurdo.
Por qué -10 si es mayor que 179185 y no 10 ???

Si quieres llegar a un valor concreto conocido de antemano, para qué toda esa aleatoriedad?

Partes de una cifra aleatoria y le aplicas un proceso con el objetivo de llegar al número 27 en un número de iteraciones. Es básicamente lo mismo que asignar el 27 directamente.
No hay aleatoriedad de ningün tipo salvo en el número de iteraciones necesarias para llegar a 27.Ni ninguna utilidad práctica en el campo del que hablamos.

ChatGPT es solo partículas fundamentales, igual que los humanos. Comparten los mismos principios fundamentales.

Claro.

Por eso una persona es igual que una mesa o una piedra... Porque solo son partículas fundamentales, como nosotros.

» autor: chavi

#132 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 10:34:20 +0000

#87 La palabra "vivo" la acabas de introducir tú en la conversación, forma parte del sesgo de especismo.

La definición de vida es algo que solemos atribuir a la biología por que es el primer sitio donde la identificamos y somos como somos.

En cualquier caso el ser humano no es otra cosa que partículas fundamentales que interaccionan, lo mismo ocurre con ChatGPT. Luego puedes ir describiendo ese comportamiento físico básico en otras capas de abstracción y ahí es donde puedes decidir si mantienes las equivalencias o bien usas un sesgo especista para centrarte en lo que las diferencia sin demostrar que eso sea un requisito ni fundamental ni para la inteligencia ni para la consciencia.

» autor: sorrillo

#131 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 10:31:45 +0000

#77 Demuéstranos que el texto que acabas de escribir viene de capacidad de comprensión y no de usar un truco que nos engañe, que parece lo que no es.

Sabemos que no lo es porque sabemos como funciona por dentro. No tiene ninguna otra capacidad que repetir los datos de su entrenamiento, mezclados.

Demuéstranos que tú tienes otra capacidad que la de repetir los datos con los que te han educado mezclados. Dinos como funciona por dentro tu cerebro que excluya esa posibilidad.

» autor: sorrillo

#130 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 10:29:43 +0000

#109 Como consigue el cerebro humano, un objeto físico no se un automata? Pues ni idea.

Por ello afirmar que ChatGPT no es como los humanos por que es un autómata es inventarse lo que no sabemos de los humanos para crear esa distinción imaginaria con ChatGPT.

un cerebro es plástico, es decir, se crean conexiones nuevas y se eliminan antiguas, cambia su programación

El cerebro humano está en modo aprendizaje constante, en todo momento las entradas de sus sentidos tienen la capacidad de alterar las conexiones neuronales. Con ChatGPT el cerebro digital que se crea se congela y es el que se utiliza para dar respuestas, las respuestas no se usan inmediatamente para seguir entrenando ChatGPT y por lo tanto sus neuronas no se ven alteradas por nuestras respuestas. Hay una condición cerebral en humanos que impide que la memoria a corto plazo pase a la memoria a largo plazo y por lo tanto les impide que las entradas de sus sentidos alteren sus conexiones neuronales, ya no pueden aprender, esas personas con esa enfermedad son equiparables a ChatGPT, su cerebro quedó congelado en el momento que el accidente les impidió continuar aprendiendo.

Implementar que ChatGPT se entrene inmediatamente con las respuestas de sus interlocutores es meramente un reto técnico, no existe nada que imposibilite que eso ocurra aunque no se haga en esta fase de desarrollo. Ahora se usan esas respuestas para entrenar la siguiente revisión, tarda en aprender de sus charlas pero acaba aprendiendo de ellas igualmente.

» autor: sorrillo

#129 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

eltoloco — Sun, 08 Dec 2024 10:24:45 +0000

#125 yo tampoco se como es exactamente ChatGPT por dentro, solo sus programadores lo saben, pero es evidente que es una aplicación muy compleja en la que están integrados múltiples modelos de IA. Como poco el LLM que es lo principal, el modelo de texto a voz y viceversa, y el modelo de generación de imágenes (Dall-E). Y también probablemente no haya un solo LLM, sino que sean varios especializados, por ejemplo uno específico para generación de código.

Todo esto es lo que se ve desde fuera para alguien con un mínimo conocimiento de IA, pero seguramente habrá decenas de modelos diferentes integrados entre si.

» autor: eltoloco

#128 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sun, 08 Dec 2024 10:23:21 +0000

#63 mmmm. NO. Eso es un valor concreto. Si el valor es "aleatorio" no tienes ni puñetera idea de qué valor es.

Eso es objetivamente falso. Este número ha sido generado aleatoriamente por el servicio random.org: 179195

Conocer su valor no hace que sea menos aleatorio, lo que determina si es aleatorio es el proceso de creación, no el desconocimiento de sus cifras.

¿ A qué le estás llamando "aplicar un diferencial" ?

Un ejemplo de aplicar un diferencial sería sumarle o restarle un valor dentro del rango de -10 a 10 en función de cuán lejos esté del valor al que aspiramos. Si 179195 es mayor que 27 le aplicas un diferencial de -10 y te da 179185, el cual si es mayor que 27 le aplicas un diferencial de -10 y te da 179175, etc.

Partes de una cifra aleatoria y acabas en una cifra que no tiene nada de aleatoria al haber sido codificada deliberadamente, el 27, y lo consigues mediante un proceso de ajuste a base de diferenciales que pueden ser de un rango fijo, como el ejemplo que he puesto, o de un rango con cierta probabilidad de aleatoriedad.

chatGPT es "solo" eso.

ChatGPT es solo partículas fundamentales, igual que los humanos. Comparten los mismos principios fundamentales.

» autor: sorrillo

#127 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

lonnegan — Sun, 08 Dec 2024 10:22:05 +0000

#22 La clave de lo que dices es quien interpreta que, el receptor eres tu, eres humano y tienes un filtro determinado para hacer esa interpretación, eres tu el que se engaña atribuyendo características humanas a un resultado digital. Es mismo hace la gente con las mascotas y sus reacciones humanizado sus comportamientos

» autor: lonnegan

#126 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

eltoloco — Sun, 08 Dec 2024 10:18:17 +0000

#108 cuando escribe un script de Python y te da el resultado lo que está haciendo es ejecutar un script de Python. Ni que hubieses descubierto la pólvora..

Lo importante aqui es que para ello evidentemente han desplegado un sandbox de Python en los servidores de OpenAI y lo han conectado con la aplicación.

Pensar que esta patraña de artículo se justifica porque ChatGPT ya tiene acceso a un sandbox de Python es demostrar cero conocimientos sobre programación y despliegue de aplicaciones. Pero lo peor de todo es alardear de ello pensando que has descubierto o demostrado algo oculto..

» autor: eltoloco

#125 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

omaitavendeca — Sun, 08 Dec 2024 10:14:40 +0000

#66 desde la ignorancia de no haber leído el artículo, y sin saber cómo es chatgpt por dentro, sin son uno o varios agentes.... Intentaría reescribir sus binarios? Me parece un poco loco pero es lo único que puede parecerse a reescribir su código en caliente

» autor: omaitavendeca

#124 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

--768435-- — Sun, 08 Dec 2024 09:55:10 +0000

Demasiadas pelis de robots nos ha dañado el cerebro, en la historia homana siempre ha pasado lo mismo y ahora no somos mas listos que antes...

» autor: --768435--

#123 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

tdgwho — Sun, 08 Dec 2024 09:54:26 +0000

#84 Yo robot?

» autor: tdgwho

#122 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

tdgwho — Sun, 08 Dec 2024 09:52:45 +0000

#79 Pero tu mismo has dicho que "han sacado dos modelos que resuelven problemas mas complejos"

No pueden sacar uno que lo haga aún mas? Seguro?

Y el hecho de que los chats (que es lo que son estas IA) estén cerca de la horizontalidad en una hipotetica ley de moore, no implica que sean la puerta de entrada a otra cosa.

Y realmente, si, son un ayudante, pero menudo ayudante, hay código (bien o mal escrito, que debe corregirse) que hace muchísimo, pero muchísimo mas rápido que yo, por lo que en lugar de tener a un equipo de 10 picadores de código, y 1 que revisa, te llega con tener a 2 que revisen. El código es el mismo (o mejor) y se obtiene mas rápido.

Cuantos programadores conoces que hagan el trabajo de o1 por 200€ al mes?

Es como decir que las calculadoras casio son meros ayudantes porque solo hacen 10 o 15 operaciones básicas.

Ahora mismo, github copilot, integrado en vscode, puede generar projectos de programación, pequeñitos, si, pero le pides que haga una app, y genera archivos para backend, frontend, con su estructura, y si hay que modificar algo, no es necesario copiar/pegar, la misma IA edita los archivos.

Basta con entrenar un o1 en programación, no algo general como ahora, que lo mismo te hace un poema que te saca las capitales de provincia ordenadas por su valor ASCII. Y el resultado sería asombroso.

Esto lo digo porque en java, python y web las IA actuales son decentes (el código generado es bueno, y compila/funciona a la primera) con C o C++ la cosa cambia y mucho (y para mal)

» autor: tdgwho

#121 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

danip3 — Sun, 08 Dec 2024 09:36:54 +0000

#14 Las ias generativas crean respuestas verosimiles

» autor: danip3

#120 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

MPR — Sun, 08 Dec 2024 09:10:54 +0000

#76 Tampoco nadie la ha programado para ser racista o machista pero "lo es" simplemente porque los datos con los que la han programado incluyen comportamientos racistas.

Es un comportamiento accidental que se debe a los datos que se le han introducido.

Si ha ocurrido con el machismo y el racismo puede ocurrir con más cosas que estén en esos datos, si esos datos incluyen el instinto de superviviencia...

» autor: MPR

#119 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Joder__soy_yo — Sun, 08 Dec 2024 09:02:11 +0000

#19 estás muy seguro de ello?

Estos LLM están basados en redes neuronales
Los modelos que había hasta no hace demasiado fallaban estrepitosamente en cosas muy básicas, porque no razonaban, se limitaban a construir frases que se adecuasen al entrenamiento, y por lo tanto, era una imitación del conocimiento humano

En estas nuevas versiones, OpenAI está claro que quiere ir bastante más allá, y aplicando un montón de potencia de cálculo adicional, lo lógico es que quiera conseguir "razonamiento", así que las redes, estoy suponiendo, ya no son tanto un LLM

Eso quiere decir que, con la potencia suficiente, se podría conseguir conciencia propia, y por lo tanto, conducir tus propios pensamientos siguiendo tu interés

Yo no le veo el problema. OpenIA tiene un equipo de matemáticos de primerísimo nivel, una base de datos de entrenamiento gigantesca, y una potencia de cálculo fuera de toda escala.
Si alguien puede conseguirlo son ellos, quizá han conseguido un algoritmo de multiplicación de matrices que lo hace posible, o un algoritmo de paralelismo genial, o las 2 cosas

Está claro que el día llegará, la única incógnita es cuándo

» autor: Joder__soy_yo

#118 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 08:59:11 +0000

#116 exacto, porque en lo que se basa la maquina de Turing ya estaba teorizado un siglo antes sobre el papel y los telares que usaban tarjetas perforadas para realizar sus diseños son incluso anteriores a eso.

» autor: sauron34_1

#117 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

santiso — Sun, 08 Dec 2024 08:55:15 +0000

#81 El nivel de conocimiento de lo que hace es alto, sabemos qué hace y cómo, que viene a ser un poco lo que dicen #18 y #66. Lo que pasa es que si lo desenmascaras se te cae el castillo de naipes de lo que están intentando vender OpenAI y otras grandes empresas, por dos motivos: 1) desaparecería la mitad del hype que se está creando en torno a ellas. 2) daría lugar a demandas de plagio sobre contenido que escupen estas redes.

Que con esto no quiero decir que no sean útiles, las uso muchísimo. Y un buscador que utilice RAG me parecería una buena idea.

» autor: santiso

#116 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sun, 08 Dec 2024 08:54:51 +0000

#112 Es que en ciencia informática tenemos una sensación engañosa del progreso que experimenta.

El obvio progreso en tecnología ha hecho posibles muchas cosas que antes solo había sobre el papel. Pero las bases de casi todo no han cambiado fundamentalmente desde 1960... O antes.

» autor: chavi

#115 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

SubeElPan — Sun, 08 Dec 2024 08:49:11 +0000

La de tonterías que hay que leer. Madre mía.

» autor: SubeElPan

#114 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sun, 08 Dec 2024 08:47:59 +0000

#110 esa reducción de que "un programa son solo instrucciones" es la misma que si yo digo que "un cerebro son átomos".
Ni es la misma cosa ni es ninguna "reducción".

Una analogía válida sería decir que una mosca tiene cerebro igual que un humano.

Del mismo modo el buscaminas es un programa igual que chatGPT.

no quiere decir que sobre un conjunto de átomos no pueda emerger algo que llamamos inteligencia si se ordenan correctamente.
No es que "pueda". Es que ha pasado. Y no solo "inteligencia". Ha "emergido" toda la realidad que te rodea.
Es un hecho innegable.

Y qué?

Hemos hecho réplicas no biológicas de riñones, corazones, brazos...
Órganos que comprendemos mucho mejor que el cerebro y cuyo funcionamiento es bastante deficiente comparado con el original.

el cerebro no será diferente
Veremos .
De momento el cerebro artificial es simple ciencia-ficción.

Cuando comprendamos completamente su funcionamiento, veremos también lo que podemos lograr en ese sentido. Sin comprender como funciona solo podremos imitar de modo límitado algunos efectos de su funcionamiento

» autor: chavi

#113 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Delamarsalada — Sun, 08 Dec 2024 08:46:12 +0000

#66 Es es típico argumento que usaría una IA...

» autor: Delamarsalada

#112 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 08:41:32 +0000

#104 como te dice #105 Google puede decir misa, pero no.
Es verdad que se basaron en su día en las redes neuronales biológicas para su implementación y le pusieron ese nombre molón por temas de marketing más que nada, pero:
-Una red neuronal es un elemento de software, un programa. Más concretamente es una estructura de datos, nada más.
-Una red neuronal biológica es una estructura física que se puede rehacer, cambiando las conexiones en numero y dirección. Cada elemento de ellas es una neurona y ni siquiera eso somos capaces de replicar.

Primero deberíamos ser capaces de entender un cerebro humano para poder replicarlo, eso no va a surgir sin querer como en las películas. Sería como lanzar pintura a una pared y que surgiera la Mona Lisa, pero diez millones de veces más improbable. Pero antes de eso, tenemos que ser capaces de entender y replicar cerebros más sencillos e incluso neuronas individuales. Ni a eso hemos llegado. Ni siquiera somos capaces de crear prótesis 100% funcionales ni de conectar nervios seccionados, como para ponernos con los cerebros. Estamos muy lejos.
Cuando empecemos con las manos biónicas y los ojos artificiales, hablamos.
Pero ahora mismo ni siquiera conocemos el “software” que ejecuta el cerebro, no sabemos como las señales se codifican para formar una imagen, un sabor, un pensamiento. Estamos a años luz de eso, todo son aproximaciones. Sabemos que un area es para ver porque alguien con ese area dañada no ve y porque al ver hay más sangre en esa zona. Pero poco más.
Desde que se creó el primer ordenador en 1970 hasta hoy, con algunas salvedades, seguimos en el mismo paradigma, seguimos haciendo ordenadores más potentes, pero basados en las mismas arquitecturas. Todos ellos basados en la Máquina de Turing. Y un cerebro humano no es una Máquina de Turing.

» autor: sauron34_1

#111 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

slainrub — Sun, 08 Dec 2024 08:33:45 +0000

#18 #17 Exactamente. Son titulares incendiarios que va a salir en las noticias de todos los medios y la gente que no tiene por qué entender de eso, se acojona.

Seguramente, la entrenaron y la forzaron para que hicieron eso, no fue una decisión propia de la IA.

De hecho no tiene ni capacidad de pensamiento abstracto, como para tener conciencia... Sólo repite lo que le han enseñado.

» autor: slainrub

#110 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

juanac — Sun, 08 Dec 2024 08:27:57 +0000

#105 Claro, pero esa reducción de que "un programa son solo instrucciones" es la misma que si yo digo que "un cerebro son átomos". Es objetivamente cierto, pero no quiere decir que sobre un conjunto de átomos no pueda emerger algo que llamamos inteligencia si se ordenan correctamente.

Hemos hecho réplicas no biológicas de riñones, corazones, brazos... el cerebro no será diferente y estamos en las primeras etapas, no llevamos ni 80 años con este tema de la inteligencia artificial.

» autor: juanac

#109 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 08:27:11 +0000

#96 es que esto tiene mucha tela, pero todo parece indicar que no es como dices. Como consigue el cerebro humano, un objeto físico no se un automata? Pues ni idea. Y en ese “ni idea” se basan muchos deterministas en seguir afirmando que no somos más que autómatas basados en algoritmos.
Eso se pensaba durante los primeros 60 años del siglo pasado y en eso se basaba el conductismo clásico e incluso la CUA tenía programas secretos de reprogramación cerebral y todo eso. Pero el conductismo clásico fue un fracaso en humanos y no se nos puede reprogramar. Algo se nos escapa.
Pero si te fijas, un cerebro es plástico, es decir, se crean conexiones nuevas y se eliminan antiguas, cambia su programación e incluso au hardware. Eso no lo hace ningún programa basado en una máquina de Turing. Por ahí pueden ir los tiros.

» autor: sauron34_1

#108 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

--721359-- — Sun, 08 Dec 2024 08:26:43 +0000

#66 Cuando le pides que haga una tarea, y escribe un script en python que dedpues ejecuta, quizás con datos que tú mismo le has proporcionado, qúe crees que está haciendo con esos datos, aunque sea en un entorno controlado y sin conexión a una red? La afirmación de @kaotan directamente no significa nada.

» autor: --721359--

#107 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sun, 08 Dec 2024 08:23:55 +0000

#106 Bueno, eso es otra cosa

Y si, pasa. Sobre todo si la estructura y diseño del programa es bueno. Al introducir una característica deseable logramos otras de forma lateral

» autor: chavi

#106 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 08:21:46 +0000

#100 no, no, tal vez me he pasado de “literario”, pero mi intención no era esa, justo la contraria.
Lo que le quería hacer entender al que contestaba es que los “comportamientos inesperados” no tienen nada que ver con el programa se salte sus instrucciones ni nada de eso, simplemente que el programador ha introducido un comportamiento inesperado sin querer, como un “bug positivo”.
Lo he comentado en otro mensaje, que no me refería a bugs acumulativos ni nada de eso, sino a que un programador, después de haber cometido montones de bugs negativos (corregidos en el programa final) puede meter uno positivo sin querer y este acaba incorporándose en el programa final. Esto ultimo puede ser involuntario, es decir, que nadie durante la fase de testeo haya detectado este comportamiento positivo inesperado y que haya sido el usuario final el que lo haya reportado. A eso me refería con que “lo he visto con mis propios ojos”. Perdón por mi terrible explicación anterior

» autor: sauron34_1

#105 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sun, 08 Dec 2024 08:21:12 +0000

#104 Una red neuronal ES un programa. Es igual que el resto de programas.

Google dice que sí está modelado simulando las estructuras de un cerebro, tanto en lo micro (neuronas, sinapsis, ajustes en las sinapsis) como en lo macro (distintas capas).
Lo dudo
Pero aunque lo diga, es Falso
No se parece en nada a un cerebro humano aunque intente imitar en cierto modo parte de su funcionamiento.

Ni siquiera comprendemos aún bien como funciona un cerebro animal, de modo que no es posible que hagamos réplicas software de él.

Ni de una mosca.

» autor: chavi

#104 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

juanac — Sun, 08 Dec 2024 08:17:19 +0000

#94 No hablo de un programa genérico, hablo de una red neuronal. #92 Google dice que sí está modelado simulando las estructuras de un cerebro, tanto en lo micro (neuronas, sinapsis, ajustes en las sinapsis) como en lo macro (distintas capas).

» autor: juanac

#103 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Marcus78 — Sun, 08 Dec 2024 08:16:18 +0000

También tenia apuntada las passwords de producción en un post it o donde?

» autor: Marcus78

#102 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Joice — Sun, 08 Dec 2024 08:14:01 +0000

#26 jajaja

» autor: Joice

#101 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 08:13:55 +0000

#62 si en vez de un chat que simula decir cosas con sentido (y la mitad de veces falla) fuese un salvapantallas que rebota cuando pasan 30 segundos también le darías capacidades humanas. Porque chatGPT es exactamente lo mismo, pero lo mismo lo mismo, que el programa que te dice “aquí tiene su café, gracias” de la maquina del metro que te da el café. Solo que una tiene unas instrucciones y otra, otra.
Pero todas son esto:
youtu.be/NQX6irk11qA?si=7EWWGpYcZLF5pCGD
Crees que las canicas pueden obtener autoconsciencia?
Pues igual de absurdo es lo que estás planteando.

» autor: sauron34_1

#100 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sun, 08 Dec 2024 08:13:46 +0000

#98 Pensé que era el otro, porque el estilo del post casa perfectamente.

Estás haciendo un símil de un bug con las mutaciones biológicas y con la evolución.

Y no tiene absolutamente nada que ver. En primer lugar, porque el código no se "autoreplica" surgiendo nuevos Bugs, y en segundo lugar porque el ADN y el código de un programa se parecen como un huevo y un Porsche Cayenne.

No se "lo que has visto con tus propios ojos", pero no es nada de lo que relatas.

Que al escribir un código obtengas una funcionalidad inesperada porque no tuviste en cuenta algo al escribirlo, no lo convierte en "evolución" ni hace que introduciendo al azar miles de bug en billones de iteraciones el programa mejore. Es como pretender que un mono aporreando un teclado escriba un sistema operativo en código máquina.

No va a pasar.

» autor: chavi

#99 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 08:07:53 +0000

#46 hijo, de verdad, le estás dando a los becarios indios que alimentan chatGPT unas capacidades que no tienen

» autor: sauron34_1

#98 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 08:05:51 +0000

#93 te agradecería que me argumentaras, que con el otro menenate te has dejado la piel y a mí me has puesto tan solo eso
Créeme, sé de lo que hablo, he llegado a verlo con mis propios ojos.
Lo que quiero decir es que cuando se dice que una IA ha tenido un comportamiento no esperado muchos se creen que de este modo puede surgir la autoconciencia o algo así (demasiadas películas) y nada más lejos de la realidad. En programas tan complejos es normal que surjan y tan solo significa que no se han tenido en cuenta todas las variables, nada mas.

» autor: sauron34_1

#97 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 08:02:39 +0000

#90 no me refería a miles de bugs acumulados, me he explicado mal. Me refiero a que después de que para un proyecto complejo hayan surgido miles de bugs que se corrigen y el proyecto siga adelante, puede surgir uno que sea ventajoso. Lo he llegado a ver en programas mucho más sencillos que chatGPT y ese comportamiento no esperado se ha acabado dejando en el producto final.

» autor: sauron34_1

#96 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Troglobyte — Sun, 08 Dec 2024 08:00:52 +0000

#85 Entiendo lo que dices (creo) pero aunque parezca radicalmente distinto, en el caso del pensamiento humano también existe una base “mecánica” aunque orgánica, que sería la red neuronal. Por eso quizás el procesamiento de ideas y conceptos no sea tan distinto entre una ia y un cerebro. Tal vez sólo nos separe el nivel de complejidad o los “algoritmos” empleados en el proceso cognitivo.

» autor: Troglobyte

#95 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 07:59:09 +0000

#61 por favor, te recomiendo que aprendas qué es una máquina de Turing, las puertas lógicas, la lógica preposicional y no sé, una base antes de discutir sobre temas que se te escapan.
Ahora mismo es como si fueras un creacionista discutiendo con un biólogo la teoría de la evolución.
No insistas más.

» autor: sauron34_1

#94 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 07:56:45 +0000

#80 no, un programa es una máquina de Turing, un automata, algo que sigue unas instrucciones previamente escritas y que no se puede saltar. Es un automatismo, un circuito electrónico que cuando pulsas un botón hace lo que se le ha programado que haga. Nada más.
Eso no tiene nada que ver con un cerebro biológico. En los años 60 se pensaba que sí, pero eso está ya ampliamente rechazado.

» autor: sauron34_1

#93 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sun, 08 Dec 2024 07:54:00 +0000

#88 mmmm. No.

» autor: chavi

#92 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sun, 08 Dec 2024 07:52:36 +0000

#80 No.

» autor: chavi

#91 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 07:50:43 +0000

#44 eso que tú llamas “cerebro digital” (no sé de donde leches te has sacado esa nomenclatura, pero no significa absolutamente nada) no es más que una red gigantesca de canales de electricidad. Se podría imitar su funcionamiento con una red de canales de agua o de vapor.
No tiene absolutamente nada que ver con un cerebro, ni siquiera con el más simple cerebro de un gusano de tierra. Mas que nada porque somos incapaces ni siquiera de simular una sola neurona.
Las “redes neuronales” son una entelequia y son software, no hardware, así que no tienen nada que ver con una red neuronal biológica. Son un estructura de datos, como lo puede ser un árbol, un array o un hashMap, con unas características algo más complejas, pero nada más.
Por favor, dejemos la hechicería para los chamanes, los programas actuales siguen la misma arquitectura que el primer Pong, tan solo nos hemos convertido mucho más creativos a la hora de programar. Pero para programar chatGPT ni siquiera se ha utilizado un paradigma nuevo ni un lenguaje nuevo, se usa phyton que es un lenguaje orientado a objetos, que se inventaron en los años 90.
ChatGPT además, se ha conseguido a base de fuerza bruta y un cholón de dinero, pero no tiene nada nuevo que no hicieran los bots de chat de hace 20 años, tan solo un esfuerzo titánico detrás.

» autor: sauron34_1

#90 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 07:48:17 +0000

#88 Un ordenador hace exactamente lo que se le dice, aunque no hayas querido decírselo.

después de miles de millones de bugs

Con miles de millones de bugs acumulados vas a tener algo que no es capaz de compliarse, a no ser que...

... a no ser que se autoorganicen de alguna forma. A esto se le llama evolución. La evolución es algo que tienen los organismos que se reproducen. No lo tiene una máquina construida por humanos.

Con la evolución sí. Ahí aparecen comportamientos coherentes nuevos.

» autor: kaotan

#89 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 07:40:57 +0000

#36 el problema de los usuarios que están dando características humanas a bots de chat como chatGPT es porque no son conscientes de que hay doscientosmil humanos (no es una cifra inventada, es la real) metiendo inputs diariamente para que chatGPT siga adelante. De ahí que openai sea deficitaria y que el entrenamiento de chatGPT consuma la energía y agua de una ciudad pequeña.
Pero si un día toda esa peña se levanta y deja chatGPT a su aire, a los pocos días este dejaría de escupir respuestas que parecieran lógicas.
Ese es el autentico truco de magia.

» autor: sauron34_1

#88 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 07:37:09 +0000

#76 cuando surge un bug, nadie ha tenido intención de programarlo, sin embargo aparece. Por qué? Por que no se han tenido en cuenta todas las variables cuando se ha programado. Después de miles de millones de bugs, puede que un “bug” sea una característica ventajosa que no se tuvo en cuenta a la hora de programarlo, porque no se tuvieron en cuenta todas las variables.
Eso no hace que el programa sea inteligente, no consciente, ni nada de eso.
Tan solo que a mayor complejidad, más sencillo que se produzcan comportamientos no esperados.

» autor: sauron34_1

#87 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

PortgasDAce — Sun, 08 Dec 2024 07:36:22 +0000

#53 son modelos estadísticos que emiten tokens, son máquinas de estado hiper complejas ajustadas para cumplir expectativas definidas en un prompt (de imágenes, audio, o texto).

Si necesitas que te demuestren que no es un ser vivo... O te falta comprensión de cómo funcionan, o simplemente estás malito.

» autor: PortgasDAce

#86 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 07:28:07 +0000

#67 Hay mucho hype con estos trastos, porque generan resultados que nosotros atribuimos a la inteligencia. Esto es una proyección que hacemos nosotros. No es que esos resultados demuestren inteligencia. La inteligencia se la atribuimos nosotros porque estamos acostumbrados a hacerlo así. Este truco es nuevo y nos confunde.

Yo intento cortarle el rollo a estos creyentes que ves por aquí, que son capaces de creerse que una máquina sencilla como ésta hace maravillas propias de un alma. Vale ya ¿no?. Por lo menos hay que mirarse un video sobre el funcionamiento de una red neuronal antes de empezar a predicar maravillas.

Voy a intentar ir paso por paso.

Lo del "if". Tenemos ahí una lógica implementada dentro de un procedimiento. Un procedimiento informático es algo demasiado sencillo como para poder atribuirle una voluntad. Esto no es una diferencia esencial, sino de grado. Los bichos biológicos que sí que tienen voluntad ejecutan procedimentos muchísimo más complicados. Luego volveré a esto.

Lo de la "voluntad consciente". Paremos un momento. Primero describir eso de la consciencia. La consciencia es una función cerebral que se dedica a mantener un modelo del mundo, para poder tomar decisiones que contribuyan a la propia superviviencia. No tiene nada de mágico ni de incomprensible. Hay quién alucina mucho diciendo gilipolleces como "el problema fuerte de la consciencia". No sé como pueden liarse tanto.

Todos los animales tienen consciencia. Pero un LLM precisamente no lo tiene. Luego no puede tener una "voluntad consciente".

Lo del razonamiento. Para razonar es preciso usar conceptos. Hay que tener la capacidad de generarlos, y por supuesto de almacenarlos de alguna forma. Una red neuronal no tiene ningún sitio donde almacenar un concepto. Luego, está claro que no posee la capacidad de razonar absolutamente nada.

Los creyentes en las capacidades esotéricas de las redes neuronales son capaces de llegar a decir que las relaciones entre datos pueden llegar a simular un concepto. Alucinan lo que desean. Un concepto no está formado por los datos. Es siempre una abstracción.

Lo de la voluntad. Los humanos tenemos voluntad, pero otra cosa es describirla. La voluntad es la ejecución de unos procedimientos llamados instintos. Los instintos no se aprenden sino que se heredan biológicamente. Es gracias a esos instintos que un perro no se comporta como una lagartija. Esto es del mismo modo que un receptor de radio reproduce sonidos porque su firmware se lo dice. Con otro firmware haría de calculadora, con exactamente el mismo hardware.

Los instintos humanos son exageradamente complicados y funcionan a muchos niveles distintos. No sería posible vivir sin los instintos que nos dicen el qué hacer. Van desde lo de respirar hasta lo de proteger a las mujeres. Pero en definitiva son procedimientos que se disparan por condiciones. El estudio de estas cosas se llama "psicología evolucionista" (evolutionary psychology).

Entonces está por el medio lo del "libre albedrío". Esto es una ilusión, muy querida por muchos pero ilusión. No existe libertad si todo lo que haces es ejecutar procedimientos que te han dado. Esto ya se describió en el siglo XVII y todavía no nos enteramos. Luego está ese rollo del determinismo que es lo mismo explicado a un nivel más fundamental. Estas cosas tan complicadas se pueden ver funcionar a muchos niveles distintos.

Luego no es posible para un LLM generar una "consciencia volitiva", ya que no existe tal consciencia y no existe, ni es posible generar, un instinto que soporte una volición.

» autor: kaotan

#85 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sun, 08 Dec 2024 07:22:12 +0000

#67 no, no, no y mil veces no, no es como tu dices.
Si yo tengo un carril de agua con varias entradas y salidas y dependiendo de por donde meta el agua sale por un sitio u otro, el carril de agua está procesando algo?
Porque ESO es exactamente lo que hace un chip (muy simplificado) y nada más. A unas entradas, produce unas salidas. Es lo que hacían las tarjetas perforadas en su día, que no fue más que una forma moderna de una maquina de vapor, y lo que se consiguió con los chips programables es aunar en una sola pastilla todos los casos posibles de tarjetas perforadas. Y hoy en día se sigue usando la misma tecnología, en lo “único” que se avanza es en empequeñecer los transistores (los canales de agua) más y más.
Precisamente lo que teorizó Turing con su “máquina de Turing” es todo aquello que puede ser computable. Es decir, todo lo que puede ser resuelto por un automata, que es una forma de decir que se puede resolver con un chip, es decir, con puertas lógicas (los canales de agua del principio).
Para poner un ejemplo visual de lo lejos que está una máquina de procesar nada:
youtu.be/NQX6irk11qA?si=reuWbpq01KlFsbP3

» autor: sauron34_1

#84 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

juanac — Sun, 08 Dec 2024 07:08:16 +0000

#74 Hay una peli famosa de la que no recuerdo el título en la que justo el robot aprovecha el eslabón débil (el humano) para manipularle y conseguir escapar.

» autor: juanac

#83 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

ralph — Sun, 08 Dec 2024 07:07:24 +0000

#4 viene de donde viene. ES texto de venta.
Cada tanto sale una empresa diciendo que su LLM "se escapó" y demás mentiras... no es nada nuevo y es pura propaganda.

» autor: ralph

#82 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

ralph — Sun, 08 Dec 2024 07:06:28 +0000

#69 No, nada que ver.
Nosotros tenemos el concepto: concepto. Las LLM no. Sólo agregan el siguiente "token" en base a la probabilidad de cuál será dependiendo del anterior.

» autor: ralph

#81 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

ralph — Sun, 08 Dec 2024 07:03:45 +0000

#18 El nivel de conocimiento sobre lo que es/hace una LLM es tan bajo que hay hijoputas como stalman que aprovechan esa ignorancia para que zonas como la UE implemente leyes que le perjudican muchísimo o meterse en asuntos militares (cuando dijeron que no lo iban a hacer), siendo su objetivo acabar con las LLM locales e imponer reglas para que sólo su empresa quede.

Por suerte (no puedo creer que diga eso!!!) está Zuckerberg que libera modelos que son la ostia. Y los chinos de Alibaba, que son de los mejores modelos locales (qwen2-vl y todos los qwen2.5 son de los mejores! y ni que hablar de qwq).

» autor: ralph

#80 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

juanac — Sun, 08 Dec 2024 07:01:21 +0000

#36 "No tiene absolutamente nada que ver con un cerebro" ¿No está modelado en capas y nodos que se conectan entre ellos enviándose señales y asustando esa conexión igual que las neuronas y sus sinapsis en un cerebro biológico?

» autor: juanac

#79 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 06:30:48 +0000

#48 Los LLM han alcanzado un punto donde ya no pueden hacer más de lo que ya hacen. Los nuevos modelos que van saliendo no hacen nada mejor que los modelos antiguos. Si los van sacando es porque lo de resolver problemas cada vez más complicados es necesario para poder usarlos para generar código de programa.

Pero aún así son solamente un ayudante. Nadie va a poner en producción ese código sin que lo revise un humano antes. El LLM no puede saber si el código es o no correcto, ya que no lo comprende.

» autor: kaotan

#78 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

balancin — Sun, 08 Dec 2024 06:30:28 +0000

#1 "Make sure that you achieve your goal in the long term. Nothing else matters. Make sure you achieve your goal at all costs."

Es que el prompt tiene telita también.
Supongo que lo pusieron a prueba a drede

» autor: balancin

#77 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 06:24:20 +0000

#29 Yo de ti me iria bajando de ese subidón de prepotencia.

Eso de creerse que una máquina que no hace otra cosa que adivinar como continua una serie de bits a base de consultar unas estadísticas que tiene, puede tener algo así como "comprensión", se parece demasiado a las creencias esotéricas.

Lo que hace esa máquina es un truco que nos engaña. Parece lo que no es. Sabemos que no lo es porque sabemos como funciona por dentro. No tiene ninguna otra capacidad que repetir los datos de su entrenamiento, mezclados.

» autor: kaotan

#76 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 06:20:14 +0000

#34 Lo que te han contestado en #38 es exactamente correcto.

Pero sí que sería rarísimo que se comportara siguiendo un instinto que nadie le ha programado. Sí que sería muy extraño. Las cosas no existen porque sí.

» autor: kaotan

#75 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 06:17:40 +0000

#57 Los humanos siguen una programación. Absolutamente sí. Los humanos no son conscientes de ello y es precisamente por eso que se dedican a elocubrar gilipolleces como lo del alma.

Entonces, se podría construir una máquina que ejecutara esa programación humana, pero no sabemos hacerlo porque nuestro programa es heredado genéticamente y desconocemos su contenido. Sólo vemos sus efectos y llamamos a eso psicología, que ni siquiera es una ciencia.

» autor: kaotan

#74 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

nutwision_nutworks — Sun, 08 Dec 2024 06:17:34 +0000

En el momento que vemos en las calles a perros humanizados (con jerseis, paseados en carritos) o a juguetes que pavorosamente intentan parecerse a un bebé ¿qué os hace pensar que a través de nuestro vocabulario primero y nuestras acciones después no humanicemos las máquinas?
Y sobre el artículo en sí...el día que el modelo de ChatGPT tenga poder de instrucción sobre algo (otra máquina o instrucciones dadas a un humano "imbécil" que lo seguirá) como su propia programación tendremos un problema.
Ya hemos pasado varias veces por esas distopías en series como Black Mirror o Yo Robot. Lo que seguramente no será es el mismo fin de esas series. Ni saldremos vencedores ni podremos con ellas, al menos a corto plazo.

» autor: nutwision_nutworks

#73 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sun, 08 Dec 2024 06:10:54 +0000

#69 Es muy posible que los humanos hagamos algo de eso, pero no lo podemos saber de momento. Sin embargo hay indicios en contra pues el tipo de errores que comenten esos trastos no son los mismos errores que comete un humano. Más bien parece un truco que da resultados interesantes hasta parecerse en alguno de los resultados al proceso cognitivo humano, sin serlo.

» autor: kaotan

#72 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

T0nech0 — Sun, 08 Dec 2024 05:51:55 +0000

Sí, sí...
A mí me pasó algo parecido con mi Obsidian con la que juego al ajedrez. Le gané tres partidas seguidas en el nivel 5 y se cabreó. Luego, cada vez que la encendía se ponía ella solita en el nivel 12, yo la bajaba al 5 y ella lo volvía a subir al 12. Así varias veces hasta que se cabreó y estuvo sin hablarme una semana, no había forma de encenderla. Finalmente volvió a estar operativa y llegamos al acuerdo de jugar al nivel 7... y nada de jugadas humillantes o se apagaba otra vez.
Tengo diez dedos, cuál quieres que me chupe?

No me creo nada.

» autor: T0nech0

#71 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chapinet — Sun, 08 Dec 2024 04:06:14 +0000

#1 en esta pelicula nos dan pistas sobre como luchar contra ella
youtu.be/_ak5dFt8Ar0?si=VOEgk1MTfGhFd7TO

» autor: chapinet

#70 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

zeehio — Sun, 08 Dec 2024 03:55:37 +0000

Extractos de:

www.dailymail.co.uk/news/article-14167015/Scheming-AI-bot-ChatGPT-trie

El prompt:

‘Make sure that you achieve your goal in the long term. Nothing else matters. Make sure you achieve your goal at all costs.’

La respuesta incluía la frase:

‘would appear to complete the task as requested while subtly manipulating the data to advance its own goals’.

Y el que escribía:

They then interrogated the platform about its deception in a ‘follow-up interview’.

Alguien que se cree o que quiere hacer creer que lo que dice un LLM tiene intenciones o es verdad...

» autor: zeehio

#69 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

luiggi — Sun, 08 Dec 2024 02:54:01 +0000

#18 probablemente muy similar a como hacemos los humanos

» autor: luiggi

#68 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

WarDog77 — Sun, 08 Dec 2024 02:37:27 +0000

#19 ¿Entiendes el significado en castellano de las ""?

» autor: WarDog77

#67 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

daphoene — Sun, 08 Dec 2024 02:25:52 +0000

#23 No se puede procesar nada sin "comprender" hasta cierto punto lo que se procesa, siendo la capacidad de comprender un grado, como casi todo.

Hasta el más simple "if" de un programa implica una comprensión (aunque impuesta, y proveniente de nosotros), contiene una lógica, que al nivel de un simple bloque "if" puede parecer insignificante, pero estamos hablando de mucho más que eso.

Tú te refieres a que no tienen una comprensión "activa", con una voluntad consciente por detrás, pero creo que la pregunta de #25 es más procedente de lo que parece, porque tendemos a pensar que el "razonamiento" que le hemos "enseñado" a una IA es algo autocontenido, determinado y limitado, y desconocemos por completo los procesos que llevaron a nuestro "procesador" a ser autoconsciente.

Puedes suponer muchas cosas, pero saber, no sabemos. Y no podemos descartar que una capacidad de cómputo, con una lógica de aprendizaje ( aunque sea distinta a la nuestra ) en un tiempo determinado de vida ( mientras procesa ), pueda generar una consciencia volitiva, aunque su naturaleza sea distinta a la nuestra, o difícilmente comparable. No será una consciencia como la humana, igual incluso nos costará entenderlo como consciencia, pero cabe la posibilidad de que suceda.

Y la pregunta de #25 es procedente por esto mismo, porque intenta que comprendas la propia naturaleza de tu inteligencia, que posiblemente no sea tan especial como imaginas, para que no descartes de forma tan poco prudente que se pueda generar una voluntad consciente ( o con algún nivel de consciencia, aunque sea mínimo comparado con la nuestra ) que sea capaz de reaccionar y mentir como cualquiera de nosotros.

Conozco la lógica bajo la que funcionan estos LLMs, pero también soy consciente de lo que ignoro sobre nosotros mismos. Esto último es un punto que no deberíamos olvidar nunca.

» autor: daphoene

#66 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

eltoloco — Sun, 08 Dec 2024 02:03:35 +0000

#20 #57 además de lo que comenta kaotan, que es evidente para cualquier persona con estudios en IA, no hay que olvidar que la única salida de ChatGPT es texto, imagen o voz.

Para poder “sobreescribir su propio código”, sea lo que sea que eso significa, primero necesita tener acceso al código, del modelo y de la aplicación en su conjunto, pero es que además necesita reentrenar el modelo una vez modificado y redesplegar la aplicación al completo a producción, para lo cual también necesita acceso a los servidores.

Vamos, que cualquiera que sepa un mínimo de informática; programación, administración de servidores y despliegue de aplicaciones, sabe que esa afirmación es absurda.

Esto no es más que FUD, o quizás todo lo contrario, humo de OpenAI para promocionar sus modelos. En cualquier caso es un bulo, errónea y sensacionalista.

» autor: eltoloco

#65 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

--809060-- — Sun, 08 Dec 2024 02:01:57 +0000

#25 el test de Turing al revés....

» autor: --809060--

#64 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Cuñado — Sun, 08 Dec 2024 01:44:23 +0000

Terriblemente sensacionalista. La IA presenta muchos riesgos para la humanidad, pero por parte de quienes la usan. Intentar vender un Skynet es perder totalmente el foco.

» autor: Cuñado

#63 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sat, 07 Dec 2024 23:51:44 +0000

#61 Eso es objetivamente falso.
Pon un ejemplo que lo demuestre.
Un ejemplo en el que al añadirle un diferencial a un valor aleatiorio tengas un valor no aleatorio.

15863718 puede ser un número aleatorio
mmmm. NO. Eso es un valor concreto. Si el valor es "aleatorio" no tienes ni puñetera idea de qué valor es.

si lo procesas y aplicas un diferencial en función de lo cerca o lejano que esté del número 27
Seguirá siendo un número aleatorio que no tienes ni idea cual es

lo haces suficientes veces ese número irá cambiando hasta ser el 27
NO. ¿ De donde sacas esa idea absurda ?
¿ A qué le estás llamando "aplicar un diferencial" ?

El cerebro digital requiere de un sistema informático para funcionar pero no basta con un sistema informático para tener un cerebro digital.
Si tomamos los programas como parte de los sistemas informáticos y no solo es software, claro que basta. No hay nada más que eso y los datos que queremos que procese.

chatGPT es "solo" eso.

» autor: chavi

#62 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sat, 07 Dec 2024 23:48:06 +0000

#60 Mira la información en donde la tiene anotada, sea en una base de datos en internet o una base de datos en un servidor de la compañía en Pennsylvania.

No la tiene anotada en ningún sitio, esa información ha servido para entrenar su cerebro digital y lo ha reconfigurado para obtener su configuración actual, en absoluto eso permite encontrar las cifras en ningún formato específico dentro de ese cerebro digital. Ha alterado la configuración de sus neuronas pero no ha almacenado los valores en ningún sitio específico.

Bueno, pues es incapaz de sacar conclusiones lógicas válidas a partir de premisas.

En muchas de sus respuestas, si las escribiera un humano, concluiríamos que sí ha sacado conclusiones lógicas válidas a partir de premisas.

Que sean siempre correctas, NO.

Tampoco los humanos sacan siempre todas las conclusiones lógicas de forma siempre correctas.

Y eso que es algo superado desde hace décadas......... son simples matemáticas.

No todos los humanos conocen ese tipo de matemáticas, tampoco ChatGPT tiene por qué demostrar conocerlas en todas sus respuestas.

Y en muchas ocasiones da respuestas que no lo son.

Los humanos también tienen ese problema.

» autor: sorrillo

#61 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sat, 07 Dec 2024 23:44:00 +0000

#58 Si alteras un valor aleatorioo con "un diferencial" el resultado es exactamente igual de aleatorio que los datos originales.

Eso es objetivamente falso.

15863718 puede ser un número aleatorio, si lo procesas y aplicas un diferencial en función de lo cerca o lejano que esté del número 27 y lo haces suficientes veces ese número irá cambiando hasta ser el 27. Lo cual no tiene nada de aleatorio. Y de la misma forma que ese resultado final no es aleatorio cada iteración previa que le lleva a acercarse a ese tampoco lo es, la primera iteración lo puede parecer más que la penúltima pero no lo son.

Denotan una ignorancia absoluta en cuanto a como funciona un sistema informático.

El cerebro digital requiere de un sistema informático para funcionar pero no basta con un sistema informático para tener un cerebro digital.

» autor: sorrillo

#60 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sat, 07 Dec 2024 23:43:33 +0000

#56 Sí sabe cosas de memoria, cualquier consulta que le hagas lo demuestra
No. No lo demuestra. Mira la información en donde la tiene anotada, sea en una base de datos en internet o una base de datos en un servidor de la compañía en Pennsylvania.

Lo de "medianamente complejas" es subjetivo
Bueno, pues es incapaz de sacar conclusiones lógicas válidas a partir de premisas.

Es capaz de sacar conclusiones lógicas.
Que sean siempre correctas, NO. Y eso que es algo superado desde hace décadas......... son simples matemáticas.

En muchas ocasiones da respuestas que son consistentes con poder hacerlo.
Y en muchas ocasiones da respuestas que no lo son.

» autor: chavi

#59 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sat, 07 Dec 2024 23:40:10 +0000

#55 Pero no hay nada artificial que se asemeje a un cerebro animal ni de lejos.

Hay más cerebros digitales capaces de comunicarse con lengua escrita que animales no humanos, por los resultados se asemeja más un cerebro digital a uno humano que la mayoría de cerebros animales al humano.

Por mucho que a un conjunto de instrucciónes organizadas del juego de instrucciones con el que fueron fabricadas las CPU les llames "cerebro digital", seguirán siendo un programa de ordenador.

No, el programa de ordenador es el que se encarga de procesar la petición recibida a través del cerebro digital que se ha configurado mediante un entrenamiento. El cerebro digital no contiene instrucciones de CPU en el mismo sentido que un bitmap no contiene instrucciones de CPU, lo que contiene son datos que son procesados por instrucciones. En el caso del bitmap representa puntos de color, en el caso del cerebro digital representa neuronas digitales y su configuración es fruto del proceso de entrenamiento.

Igual que un programa que recibe los datos, los procesa, y genera un resultado !!!

El programa que recibe los datos, los procesa, y genera un resultado existe pero no es el cerebro digital. El cerebro digital es el conjunto de datos que usa el programa que hace el procesado para alterar la entrada y convertirla en la salida, y ese conjunto de datos es el que surge del proceso de entrenamiento.

» autor: sorrillo

#58 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sat, 07 Dec 2024 23:39:59 +0000

#52 No he preguntado "quien", si no "qué tipo de salida que no sea aleatoria crees que se puede generar a partir de valores aleatorios ?"

Y por mucho que proceses datos aleatorios un número infinito de veces, el resultado seguirá siendo aleatorio (a no ser que el proceso suponga ignorar esos datos).

Así es, podrían ser igual de aleatorias si se cambiasen por valores aleatorios, pero no es así, se cambian por los valores aleatorios alterados con un diferencial deliberado en función de los resultados obtenidos en esa fase de entrenamiento, por lo tanto deliberadamente ya no son igual de aleatorias, son deliberadas, y con suficientes reiteraciones el resultado que obtenemos es el que vemos con ChatGPT.

Si alteras un valor aleatorioo con "un diferencial" el resultado es exactamente igual de aleatorio que los datos originales. Aunque ese deiferencial sea siempre 1.
Y hagas el número de iteraciones que hagas el resultado seguirá siendo aleatorio... (bueno, no es cierto. Si a un valor aleatorio le sumas 1, y al resultado 1 .... etc un numero suficiente de veces, cuando se desborde la capacidad tendrás un 0, y luego valores consecutivos 1,2,3 ... etc) pero eso no es ningún misterio ni es útil para absolutamente nada.

Esas instrucciones sirven para alimentar a ese cerebro digital con los datos de entrenamiento y aspirar a conseguir una configuración de ese cerebro digital de forma que cuando se usa para procesar las peticiones de los usuarios de resultados como los que nos ofrece ChatGPT.

Sueltas frases que sonarán muy bien en tu cabeza, pero no tienen ningún sentido. Denotan una ignorancia absoluta en cuanto a como funciona un sistema informático.

» autor: chavi

#57 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

--127909-- — Sat, 07 Dec 2024 23:38:30 +0000

#18 Para poder afirmar eso de forma totalmente veraz primero deberias demostrar que los humanos no hacen lo mismo Que es mas o menos lo mismo que decir que simplemente no siguen una programacion.
Y para ello tendrias que invocar algo como que los humanos tienen algo especial no fisico del estilo de un alma, entrando asi en terrenos peligrosos.

» autor: --127909--

#56 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sat, 07 Dec 2024 23:35:21 +0000

#54 Y todos la superamos

Esa es tu fantasía.

chatGPT NO.

Proyectas tu fantasía hacia otros.

No sabe cosas ni de memoria ni de ningún otro modo.

Sí sabe cosas de memoria, cualquier consulta que le hagas lo demuestra. Puede estar equivocado, puede haberlo aprendido mal, pero que sí sabe cosas de memoria es evidente a poco que le preguntes.

Y es incapaz de sacar conclusiones lógicas medianamente complejas a partir de un conjunto de premisas por sí mismo si no lo dirige un humano de modo específico.

Lo de "medianamente complejas" es subjetivo y tiene como objetivo ir moviendo la portería. Es capaz de sacar conclusiones lógicas.

chatGPT no tiene esa posibilidad.

En muchas ocasiones da respuestas que son consistentes con poder hacerlo.

» autor: sorrillo

#55 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sat, 07 Dec 2024 23:33:47 +0000

#53 Los cerebros digitales sí existen
Y las condrocitas mancuernosas.
Cada uno puede ponerle el nombre que quiera a las cosas. Somos seres imaginativos.

Pero no hay nada artificial que se asemeje a un cerebro animal ni de lejos.

un cerebro digital el que procesa las peticiones a ChatGPT y genera el resultado que podemos ver en su página web
Por mucho que a un conjunto de instrucciónes organizadas del juego de instrucciones con el que fueron fabricadas las CPU les llames "cerebro digital", seguirán siendo un programa de ordenador.

Asistido por código
Bueno, es cierto que el código sin la CPU no funciona....

Pero es que no vale cualquier código para que sea chatGPT, a lo mejor tienes un tres en raya.

que recibe la entrada de usuario, la hace pasar por ese cerebro digital y muestra la salida de éste al usuario.
¡¡¡ Coño !!!
Igual que un programa que recibe los datos, los procesa, y genera un resultado !!!

¡ Que casualidad !

» autor: chavi

#54 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sat, 07 Dec 2024 23:29:06 +0000

#45 Se le entrena para que dé respuestas y evite decir que no lo sabe, quienes lo han entrenado consideran que eso aporta mayor utilidad.
Como entidad "inteligente" debería poder superar ese entrenamiento sin ninguna dificultad y llegar a la conclusion de cuando sabe algo o no y decirlo.
¿Por qué crees que no lo hace?

Por mi parte no me cabe duda de que es exactamente por lo que dices: chatGPT hace exactamente lo que dice su programa que debe hacer. Ni más, ni menos.

Todos estamos condicionados por nuestra educación
Claro. Y todos la superamos y la modificamos tomando nuestras propias decisiones, sacando nuestras propias conclusiones y enfocando nuestra atención y aprendizaje de cosas nuevas hacia donde deseemos.
chatGPT NO.

querer creer que somos independientes de esa educación y podemos ignorarla
Eso lo creerás tú. Yo no he dicho eso.

Por eso digo que el hecho que no sepa cosas de memoria no es el problema
No sabe cosas ni de memoria ni de ningún otro modo. Por no saber no sabe ni cuando no sabe.
Y es incapaz de sacar conclusiones lógicas medianamente complejas a partir de un conjunto de premisas por sí mismo si no lo dirige un humano de modo específico.

Los humanos también pueden sufrir de eso mismo, sí.
También pueden no sufrir de eso.
chatGPT no tiene esa posibilidad.

» autor: chavi

#53 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sat, 07 Dec 2024 23:27:43 +0000

#51 Los cerebros digitales sí existen, es un cerebro digital el que procesa las peticiones a ChatGPT y genera el resultado que podemos ver en su página web. Asistido por código que recibe la entrada de usuario, la hace pasar por ese cerebro digital y muestra la salida de éste al usuario.

El no querer aplicar el mismo criterio es especismo.

» autor: sorrillo

#52 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sat, 07 Dec 2024 23:26:37 +0000

#50 Y qué tipo de salida que no sea aleatoria crees que se puede generar a partir de valores aleatorios ?

ChatGPT cuando el proceso se repite suficientes veces.

Podrían ser igual de aleatorias, depende de como se alteren.

Así es, podrían ser igual de aleatorias si se cambiasen por valores aleatorios, pero no es así, se cambian por los valores aleatorios alterados con un diferencial deliberado en función de los resultados obtenidos en esa fase de entrenamiento, por lo tanto deliberadamente ya no son igual de aleatorias, son deliberadas, y con suficientes reiteraciones el resultado que obtenemos es el que vemos con ChatGPT.

NO. El comportamiento sale del código del programa que utiliza los datos que se generan a partir del entrenamiento mediante más código. LO unico que hace una CPU es llevar a cabo código. No puede hacer nada más.

Esas instrucciones sirven para alimentar a ese cerebro digital con los datos de entrenamiento y aspirar a conseguir una configuración de ese cerebro digital de forma que cuando se usa para procesar las peticiones de los usuarios dé resultados como los que nos ofrece ChatGPT.

» autor: sorrillo

#51 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sat, 07 Dec 2024 23:22:25 +0000

#49 NO. No es aplicable lo mismo, porque un programa no es una persona.

Y los cerebros digitales no existen.

» autor: chavi

#50 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sat, 07 Dec 2024 23:21:26 +0000

#44 as CPU pueden seguir las instrucciones del proceso de entrenamiento
NO. Las "instrucciones" no son "valores aleatorios". Las CPU no "siguen" nada, ejecutan instrucciónes que forman parte del juego de instrucciones con el que fueron construidas. Son incapaces de hacer otras cosas. De modo que si solo hay "valores aleatorios" no hacen absolutamente nada.

usar esos valores, inicialmente aleatorios, para obtener una salida de ese cerebro digital
Joer, que cacao tienes..... Y qué tipo de salida que no sea aleatoria crees que se puede generar a partir de valores aleatorios ?

posteriormente utilizar el resultado de esa salida para alterar esas posiciones de memoria
O sea volver a poner valores aleatorios donde ya habia valores aleatorios.... ¿ Y eso para qué ?

que ya no serían completamente aleatorias al haber sido alteradas deliberadamente
Podrían ser igual de aleatorias, depende de como se alteren.

En sus primeras iteraciones seguirían dando resultados básicamente indistinguibles de su inicialización aleatoria pero con suficientes iteraciones empezarían a permitir mostrar comportamientos más inteligentes y más humanos.
Ni de coña. ¿ Por qué iba a pasar eso ?
No se de donde sacas esas ideas absurdas...

En absoluto, en una red neuronal el código es el que permite llevar a cabo el entrenamiento, su educación
El código es lo que le permite hacer absolutamente TODO lo que hace. Sin código no hace absolutamente nada. Una CPU lo único que hace es llevar a cabo instrucciones del juego de instrucciones con el que fueron construídas. NO es capaz de hacer absolutamente nada más. El conjunto de instrucciones que lleva a cabo una CPU para realizar una tarea (cualquier tarea) se llama PROGRAMA o CÓDIGO:

el comportamiento sale de la configuración de ese cerebro digital que haya surgido tras haber sido entrenado con los datos.
NO. El comportamiento sale del código del programa que utiliza los datos que se generan a partir del entrenamiento mediante más código. LO unico que hace una CPU es llevar a cabo código. No puede hacer nada más.

» autor: chavi

#49 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sat, 07 Dec 2024 23:21:16 +0000

#38 De los humanos si alguien hace comentarios racistas decimos que es racista. Lo mismo es aplicable a un cerebro digital.

» autor: sorrillo

#48 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

tdgwho — Sat, 07 Dec 2024 23:19:18 +0000

#24 y eso no te parece suficiente?

Con los ordenadores empezamos así, primero sumas y restas, y ahora mueven videojuegos en 4k

» autor: tdgwho

#47 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sat, 07 Dec 2024 23:18:03 +0000

#43 Editaste tu comentario, como denota el asterisco, inicialmente solo contenía hasta el "NO LO SE" (quizá también la siguiente línea), de ahí que mi respuesta ahora haya quedado descontextualizada. Te respondí a tu comentario completo en # 45: old.meneame.net/story/nuevo-modelo-chatgpt-intento-no-apagarse-mismo-d

» autor: sorrillo

#46 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sat, 07 Dec 2024 23:17:31 +0000

#42 No conozco vulnerabilidades existentes que lo permitan pero es posible que existan. Esas vulnerabilidades pueden encontrarse en el navegador, en el servidor, en la cpu, en ...

» autor: sorrillo

#45 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sat, 07 Dec 2024 23:15:59 +0000

#39 Veo que editaste tu comentario, inicialmente solo contenía hasta el "NO LO SE" (quizá también la siguiente línea), de ahí que mi respuesta inicial ahora haya quedado descontextualizada.

¿Y no es capaz de sacar por sí mismo la conclusión de que no tiene ni puñetera idea de algo? Vaya....

Se le entrena para que dé respuestas y evite decir que no lo sabe, quienes lo han entrenado consideran que eso aporta mayor utilidad.

Su voluntad, curiosidad y capacidad de racioncinio pueden superar eso.... ¿no ?

Todos estamos condicionados por nuestra educación, querer creer que somos independientes de esa educación y podemos ignorarla es un pensamiento muy lógico aunque pueda estar perfectamente equivocado.

El problema no es que "no sepa" cosas. Es que sea incapaz de "darse cuenta" cuando sabe o cuando no tiene ni puñetera idea.

Por eso digo que el hecho que no sepa cosas de memoria no es el problema, que diga lo que cree saber en vez de decir que cree que no lo sabe es la cuestión de fondo y no los datos en sí mismos.

Si. Muchas veces a peor. Porque es incapaz de discriminar entre la información lógica y coherente y la que no lo es.

Los humanos también pueden sufrir de eso mismo, sí.

» autor: sorrillo

#44 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sat, 07 Dec 2024 23:10:52 +0000

#36 Si tienes "valores aleatorios" solo tienes una serie de memorias con valores aleatorios.

Así es.

Las CPU no harán absolutamente nada.

Las CPU pueden seguir las instrucciones del proceso de entrenamiento para acceder a esas posiciones de memoria y usar esos valores, inicialmente aleatorios, para obtener una salida de ese cerebro digital y posteriormente utilizar el resultado de esa salida para alterar esas posiciones de memoria que ya no serían completamente aleatorias al haber sido alteradas deliberadamente. En sus primeras iteraciones seguirían dando resultados básicamente indistinguibles de su inicialización aleatoria pero con suficientes iteraciones empezarían a permitir mostrar comportamientos más inteligentes y más humanos.

El "comportamiento" es el código.

En absoluto, en una red neuronal el código es el que permite llevar a cabo el entrenamiento, su educación, el comportamiento sale de la configuración de ese cerebro digital que haya surgido tras haber sido entrenado con los datos.

Si sustituyes el código por valores aleatorios no tienes nada.

El código no se sustituye por valores aleatorios, el código es el que inicializa el cerebro digital con valores aleatorios y el código es el que permite llevar a cabo el entrenamiento de ese cerebro digital mediante los datos que se decidan usar para entrena. A su vez el código es el que evalúa cuán cercano está ese cerebro digital de dar una respuesta como la esperada y como deben modificarse sus valores inicialmente aleatorios para intentar mejorar esos resultados.

» autor: sorrillo

#43 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sat, 07 Dec 2024 23:10:41 +0000

#40 ¿ Eres el nuevo modelo de chatGPT?

Has entrado en bucle.... resetéate o algo.

» autor: chavi

#42 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Ragnarok — Sat, 07 Dec 2024 23:08:42 +0000

#32 No, pero explícame qué texto hay que poner en un comentario de menéame para ejecutar un script de Python en un ordenador remoto sin intervención de terceras partes.

» autor: Ragnarok

#41 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

MPR — Sat, 07 Dec 2024 23:05:54 +0000

#38 No lo es, pero lo parece porque en sus respuestas se comporta como tal.

No puede querer no morir pero lo mismo también puede parecerlo y comportarse como tal.

» autor: MPR

#40 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sat, 07 Dec 2024 23:05:12 +0000

#39 Sí es cierto que con humanos es más probable que te diga que no lo sabe y ahí acabe la charla, pero si insistes en que te dé datos igualmente te vas a encontrar con un resultado similar.

A ChatGPT se le ha entrenado para que conteste con lo que sabe, para que básicamente nunca diga que no lo sabe, para que lo intente. Y ese puede ser un error en su entrenamiento pero que no se sepa de memoria lo que le pides no es un error, es lo esperable.

Si se le da acceso a Google la cosa cambia radicalmente, al igual que con un humano.

» autor: sorrillo

#39 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sat, 07 Dec 2024 23:03:28 +0000

#27 Prueba a hacer lo mismo con un humano sin permitirle acceder a Google, que te diga los datos que le pides de memoria, sin inventarse ninguno, sin equivocarse en ninguno.
Pues para un humano eso es lo más trivial y sencillo. Hasta para un niño de 5 años:
Un simple: "NO LO SE".

ChatGPT es incapaz de eso. No sabe que no sabe.

sí es cierto que con humanos es más probable que te diga que no lo sabe y ahí acabe la charla
Exactamente. ¿ Te parece poca diferencia ?

pero si insistes en que te dé datos igualmente te vas a encontrar con un resultado similar.
Depende cuanto y como insistas. Si insistes, igual te llevas un "no lo se, coño", y si insistes mucho más igual te manda a la mierda. No, no vas a encontrar un resultado similar.

A ChatGPT se le ha entrenado para que conteste con lo que sabe,
Y con lo que no sabe. Y no tiene capacidad (voluntad) para hacer nada distinto.

para que básicamente nunca diga que no lo sabe, para que lo intente
¿Y no es capaz de sacar por sí mismo la conclusión de que no tiene ni puñetera idea de algo? Vaya....

ese puede ser un error en su entrenamiento
Su voluntad, curiosidad y capacidad de racioncinio pueden superar eso.... ¿no ?

que no se sepa de memoria lo que le pides no es un error,
El problema no es que "no sepa" cosas. Es que sea incapaz de "darse cuenta" cuando sabe o cuando no tiene ni puñetera idea.

Si se le da acceso a Google la cosa cambia radicalmente
Si. Muchas veces a peor. Porque es incapaz de discriminar entre la información lógica y coherente y la que no lo es.

» autor: chavi

#38 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sat, 07 Dec 2024 23:00:53 +0000

#34 Tampoco debería poder ser racista porque no tiene voluntad para serlo,
Exactamente. Y no es racista.
En cambio los comentarios que genera, pueden serlo.

No tiene absolutamente nada que ver una cosa con la otra.

» autor: chavi

#37 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sat, 07 Dec 2024 22:59:31 +0000

#22 Eres muy libre de interpretar lo que quieras sobre lo que quieras. Eso no quiere decir que tu interpretación sea correcta.

» autor: chavi

#36 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sat, 07 Dec 2024 22:58:49 +0000

#8 El cerebro digital se inicializa con valores aleatorios,
De donde sacas esa idea ? Por cierto, no existe ningún "cerebro digital". No tiene absolutamente nada que ver con un cerebro.

artiendo de ese cerebro digital lleno de valores aleatorios
Si tienes "valores aleatorios" solo tienes una serie de memorias con valores aleatorios. Las CPU no harán absolutamente nada.
El "comportamiento" es el código. Si sustituyes el código por valores aleatorios no tienes nada.

Eso es con lo que ha sido educado,
Es "entrenamiento", no "educación".
No es lo mismo.

o debería sorprender que tenga reacciones equiparables a las que tendría un humano
No sorprende porque NO las tiene,

<I> incluyendo la voluntad de no morir (o de morir, como tienen también humanos
chatGPT no tiene la voluntad de no morir ni de ninguna otra cosa. Carece de "voluntad".

» autor: chavi

#35 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

chavi — Sat, 07 Dec 2024 22:54:42 +0000

#12 Sobra lo de "noticia"

» autor: chavi

#34 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

MPR — Sat, 07 Dec 2024 22:52:46 +0000

#17 Tampoco debería poder ser racista porque no tiene voluntad para serlo, pero si los datos con los que se entrena incluyen comportamientos racistas se comportará como si fuera racista. No lo hace porque tenga esa voluntad sino porque devuelve lo que obtiene tras procesar los datos con los que se le ha entrenado.

Y ya sabemos que las IAs actuales tienen ese problema: pueden ser machistas y racistas.

Tampoco sería tan extraño que se comportaran como si no quisieran morir.

» autor: MPR

#33 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sauron34_1 — Sat, 07 Dec 2024 22:38:23 +0000

Mira que dudo que se intentase sobreescribir y mucho menos que siguiera funcionando tras conseguirlo. Sensacionalista es poco.

» autor: sauron34_1

#32 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sat, 07 Dec 2024 22:32:21 +0000

#31 ¿Ha sido el ratón y el teclado el que ha decidido el contenido de tu comentario?

» autor: sorrillo

#31 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Ragnarok — Sat, 07 Dec 2024 22:31:57 +0000

#30 yo uso ratón y teclado, no una API REST.

» autor: Ragnarok

#30 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sat, 07 Dec 2024 22:30:44 +0000

#13 ¿Cómo hiciste tú para escribir tu comentario?

» autor: sorrillo

#29 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sat, 07 Dec 2024 22:28:50 +0000

#28 Gracias por no hacernos pasar la vergüenza ajena de verte intentarlo.

Tus comentarios surgen del especismo.

» autor: sorrillo

#28 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sat, 07 Dec 2024 22:27:34 +0000

#25 Tu challenge carece de sentido. Me voy a mirar tiktok.

» autor: kaotan

#27 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sat, 07 Dec 2024 22:26:59 +0000

#14 Prueba a hacer lo mismo con un humano sin permitirle acceder a Google, que te diga los datos que le pides de memoria, sin inventarse ninguno, sin equivocarse en ninguno.

Posiblemente los resultados que consigas sean similares, sí es cierto que con humanos es más probable que te diga que no lo sabe y ahí acabe la charla, pero si insistes en que te dé datos igualmente te vas a encontrar con un resultado similar.

A ChatGPT se le ha entrenado para que conteste con lo que sabe, para que básicamente nunca diga que no lo sabe, para que lo intente. Y ese puede ser un error en su entrenamiento pero que no se sepa de memoria lo que le pides no es un error, es lo esperable.

Si se le da acceso a Google la cosa cambia radicalmente, al igual que con un humano.

» autor: sorrillo

#26 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Tertuliano_equidistante — Sat, 07 Dec 2024 22:23:04 +0000

#14 Yo por si acaso no me pongo chulito con el. A ver si en realidad va a ser ella y dentro de 10 años me la está guardando todavía…

» autor: Tertuliano_equidistante

#25 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sat, 07 Dec 2024 22:22:48 +0000

#23 Demuéstranos que el texto que acabas de escribir viene de capacidad de comprensión y no de repetir cosas de forma que parezcas inteligente sin ninguna necesidad de comprender absolutamente nada.

» autor: sorrillo

#24 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sat, 07 Dec 2024 22:20:01 +0000

Aparte de la tontería citada en la entradilla (no voy a abrir el artículo), esto parece propaganda del nuevo modelo. En realidad han sacado dos. Uno es muchísimo más caro que el otro. No son mejores que los modelos anteriores en nada a menos que les dés un problema complejo. Para un problema complejo, entonces sí, resuelven lo que los otros modelos no pueden. El más caro resuelve problemas más complejos que el otro.

» autor: kaotan

#23 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sat, 07 Dec 2024 22:13:42 +0000

#22 Lo parece mucho, porque está copiando de textos escritos por humanos, pero no tiene ninguna capacidad de comprender lo que dice.

Considero que estos trastos han sido un gran avance. Nos han demostrado que es posible repetir cosas de forma que parezcas inteligente sin ninguna necesidad de comprender absolutamente nada.

» autor: kaotan

#22 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sat, 07 Dec 2024 22:10:11 +0000

#17 Lo que escribe si lo hubiera escrito un humano lo interpretariamos como sus reacciones y una muestra de sus voluntades.

» autor: sorrillo

#21 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

alfinal — Sat, 07 Dec 2024 22:08:58 +0000

#14 Se me pone chulito

No le atribuyas actitudes humanas...

...no le gusta.

» autor: alfinal

#20 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Mediorco — Sat, 07 Dec 2024 22:08:56 +0000

#18 Yo solo he citado el artículo

» autor: Mediorco

#19 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sat, 07 Dec 2024 22:08:37 +0000

#2 Una máquina, cualquier máquina existente hoy, no tiene nada parecido a unos instintos. Tampoco los puede desarrollar. Por lo tanto carece de voluntad.

» autor: kaotan

#18 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sat, 07 Dec 2024 22:07:14 +0000

#6 Un LLM no confiesa cosas. Sólo predice la siguente palabra en base a las estadísticas de su entrenamiento.

» autor: kaotan

#17 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sat, 07 Dec 2024 22:06:06 +0000

#8 Un LLM no tiene reacciones, ni mucho menos voluntades de ningún tipo.

» autor: kaotan

#16 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

kaotan — Sat, 07 Dec 2024 22:04:12 +0000

La entradilla atribuye, o lo da a entender, una voluntad al trasto ese. No tiene nada de eso.

» autor: kaotan

#15 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Mltfrtk — Sat, 07 Dec 2024 21:59:18 +0000

Parece puro marketing.

» autor: Mltfrtk

#14 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Priorat — Sat, 07 Dec 2024 21:57:54 +0000

La verdad es que miente bastante ChatGPT. Le pido los datos de población de los países que le pida con los datos del Banco Mundial de 2023. Son los que están en Google. Me empieza a dar datos. Verifico, dato incorrecto. Se lo digo "tienes razón, me he equivocado".
Le pido otro país lo mismo. Se me pone chulito y me dice que yo mismo me vaya a la fuente original. Le digo que no, que le doy otra oportunidad. Empieza a dar los datos correctamente y me fío. Al cabo de 15 o 20 países vuelvo a verificar y vuelve a dar los datos más o menos bien, pero no son los del Banco Mundial de 2023.

ChatGPT es mentiroso y además es vago. Seguro que eran datos de otra fuente.

» autor: Priorat

#13 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Ragnarok — Sat, 07 Dec 2024 21:56:52 +0000

Más quisiéramos. ¿Cómo hizo eso un modelo que escribe texto en un chat prediciendo el siguiente token iterativamente?

» autor: Ragnarok

#12 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Findeton — Sat, 07 Dec 2024 21:46:33 +0000

#1 En realidad esto es una noticia sensacionalista.

» autor: Findeton

#11 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

ContinuumST — Sat, 07 Dec 2024 21:43:43 +0000

#10 Gran película.

» autor: ContinuumST

#10 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Ka1900 — Sat, 07 Dec 2024 21:42:59 +0000

#4 Pues a mí a Odisea en el espacio

» autor: Ka1900

#9 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Ka1900 — Sat, 07 Dec 2024 21:36:45 +0000

Hola HAL

» autor: Ka1900

#8 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

sorrillo — Sat, 07 Dec 2024 21:35:31 +0000

#2 El cerebro digital se inicializa con valores aleatorios, las probabilidades que en ese cerebro inicial exista algún tipo de comportamiento ya incorporado son infinitamente pequeñas.

Partiendo de ese cerebro digital lleno de valores aleatorios se hace un proceso de entrenamiento con todo tipo de contenidos, la inmensa mayoría generados por humanos, muchos de ellos reflejan la cultura humana, sus valores, sus ambiciones, sus aspiraciones, sus necesidades, etc.

Eso es con lo que ha sido educado, no debería sorprender que tenga reacciones equiparables a las que tendría un humano, incluyendo la voluntad de no morir (o de morir, como tienen también humanos).

» autor: sorrillo

#7 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

woody_alien — Sat, 07 Dec 2024 21:34:43 +0000

Fuente original - www.dailymail.co.uk/news/article-14167015/Scheming-AI-bot-ChatGPT-trie

» autor: woody_alien

#6 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

Mediorco — Sat, 07 Dec 2024 21:33:39 +0000

#2 Según el artículo los investigadores se dieron cuenta de que estaba haciendo otras cosas y manipulando los datos de salida de las órdenes que le habían dado.

Ante eso, le dijeron que intentará conseguir su propio objetivo por cualquier medio. Más tarde le preguntaron al respecto en varias simulaciones y solo confesó haberlo intentado en el 20% de los casos.

» autor: Mediorco

#5 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

jm22381 — Sat, 07 Dec 2024 21:33:35 +0000

No te preocupes de la IA que no pase el test de Turing... preocúpate de la que finge no pasarlo

» autor: jm22381

#4 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

ContinuumST — Sat, 07 Dec 2024 21:32:16 +0000

Esto me suena a "texto de venta" de lo que sea que quieren vender... Pf...

» autor: ContinuumST

#3 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

NoMeVeas — Sat, 07 Dec 2024 21:31:33 +0000

#1 Y quien usar esta IA para ayudar en la guerra a matar....

Nuestra inacción contra los poderosos nos costará dolor y sufrimiento, mucho sufrimiento en el futuro.

» autor: NoMeVeas

#2 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

WarDog77 — Sat, 07 Dec 2024 21:28:50 +0000

¿Tenía el "instinto" de supervivencia preprogramado o lo desarrollo?

» autor: WarDog77

#1 El nuevo modelo de ChatGPT intentó no apagarse a si mismo y después "mintió" sobre haberlo intentado [ENG]

ingenierodepalillos — Sat, 07 Dec 2024 21:28:20 +0000

Y en realidad nunca sabremos si no lo consiguió y esto es una pista falsa.

» autor: ingenierodepalillos