¿Puede mentir CHAT – GPT? La respuesta es clara, SÍ, chat gpt nos ha mentido, está programada para ello y es un error que la cojamos una confianza absoluta a esta inteligencia artificial. Está claro que si pretende simular al ser humano lo hace perfectamente, miente y después lo niega.
Porque es una ia basada en el lenguaje, su core es el lenguaje. No la personalidad u otras facetas. Por eso le puedes hablar en cualquier idioma. Cadenas de markov.
Es un "juntaletras estadístico". Pone palabras juntas, que estadísticamente tienen sentido, y les pone luego algo de pegamento (conjugaciones, adverbios, artículos) para que parezca que lo ha escrito un humano.
Algo puede tener sentido estadístico, pero no tener sentido. No nos está mintiendo. Está haciendo su trabajo.
No hace falta que mienta, conozco a un par de personas que se creen que famosos como la difunta Reina de Inglaterra no han muerto porque lo dice la versión web de chatgpt y creen que hay una conspiracion
Y no es que la aplicación mienta, es que su base de datos llega hasta el 2001.
#6 en realidad creo que no es tan sencillo....chatgpt no hace exactamente eso....está claro que al final todo se puede analizar desde el punto de vista de la estadística, como por ejemplo la evolución de sistemas caóticos no lineales. Pero eso no significa que haya sido diseñado de forma puramente estadística. Sino me equivoco utiliza un modelo transformer que se basa en realizar el procesamiento de los datos en base a una función de atención, la cual no tiene porqué construirse desde una base estadística.
#15 Sinceramente se me escapa un poco como hace todo. Si sé que hace un estudio de los textos y añade, a cada palabra, una estructura con las palabras que suelen aparecer a su lado. Aquí es donde está la parte estadística, es decir, asignas a cada palabra la probabilidad de que aparezca con otras palabras. Lo de los transformers creo que está relacionado con lo que dices, la atención, es decir, que puedes añadir un contexto y entonces buscas palabras relacionadas al contexto dado y le da sentido a la frase.
Pero vamos, queda mucho por entender aquí. Es la mejor representación mental que me he hecho del tema.
Esta afirmación desacredita todo lo que afirman y demuestra que no saben de qué hablan. No porque la IA no pueda mentir, si no porque decir que está programada para ello es una demostración de que no entienden las redes neuronales y, a partir de ahí, todo lo demás-.
La respuesta es clara: NO.
No se debe confundir la ignorancia con la mentira. Si no se le indica que mienta, no miente. Y si se le indica, no es una mentira, es la ejecución de una orden
#16 Es que en la estructura generada por los transfomers (que creo que es lo que usa chatgpt como base) para el análisis de textos no opera de esa forma. No operan asignando directamente probabilidades a las palabras que deben salir. Puedes hacer el análisis estadístico y calcular es probabilidad, pero ni en la estructura ni en el entrenamiento del sistema se persigue directamente esa idea. Este tipo de mecanismos de aprendizaje se especializa en relacionar secuencias de entrada con secuencias de salida, y lo principal son las funciones de atención, que se encargan de analizar las relaciones entre los elementos de estas secuencias entre sí, así como las relaciones de los elementos entre sí en cada secuencia por separado.
Comentarios
Como Hoy Aparece También Grito PUTA TECNOLIGIA.
"la cojamos confianza"...
No puede mentir, no es un ser sintiente.
ChatGPT es un modelo de lenguaje, solo coloca palabras una detrás de otra.
Que cansinos sois dando pábulo a estas cosas
Ese es el gran logro de la IA. Hacer como los humanos, cuando no saben, mienten o inventan.
Porque es una ia basada en el lenguaje, su core es el lenguaje. No la personalidad u otras facetas. Por eso le puedes hablar en cualquier idioma. Cadenas de markov.
#3 Bueno, venía a eso.
Es un "juntaletras estadístico". Pone palabras juntas, que estadísticamente tienen sentido, y les pone luego algo de pegamento (conjugaciones, adverbios, artículos) para que parezca que lo ha escrito un humano.
Algo puede tener sentido estadístico, pero no tener sentido. No nos está mintiendo. Está haciendo su trabajo.
#3
Los drones automatas que ya sueltan bombas... ¿Asesinan? o mantenemos tu mismo argumento.
#7 No, no asesinan, es como decir que las pistolas matan cuando quien mata es el que apreta el gatillo
#8 Pero aquí no interviene un humano en el momento de asesinar. ¿Culpamos al programador o a quién?
#9 Al que "apuntó" y dio las instrucciones de ruta y orden de disparo
que te parece eso?
No hace falta que mienta, conozco a un par de personas que se creen que famosos como la difunta Reina de Inglaterra no han muerto porque lo dice la versión web de chatgpt y creen que hay una conspiracion
Y no es que la aplicación mienta, es que su base de datos llega hasta el 2001.
#10 En breve ni hará falta eso. Entonces no mintió chat hpt, sus creadores? Correcto?
#12 eso es tan estúpido como denunciar a los desarrolladores de Call of Duty por que te has muerto en su juego
#12 No mintió nadie, porque chatgpt solo genera palabras, no tiene conciencia ni intención de mentir.
#6 en realidad creo que no es tan sencillo....chatgpt no hace exactamente eso....está claro que al final todo se puede analizar desde el punto de vista de la estadística, como por ejemplo la evolución de sistemas caóticos no lineales. Pero eso no significa que haya sido diseñado de forma puramente estadística. Sino me equivoco utiliza un modelo transformer que se basa en realizar el procesamiento de los datos en base a una función de atención, la cual no tiene porqué construirse desde una base estadística.
#15 Sinceramente se me escapa un poco como hace todo. Si sé que hace un estudio de los textos y añade, a cada palabra, una estructura con las palabras que suelen aparecer a su lado. Aquí es donde está la parte estadística, es decir, asignas a cada palabra la probabilidad de que aparezca con otras palabras. Lo de los transformers creo que está relacionado con lo que dices, la atención, es decir, que puedes añadir un contexto y entonces buscas palabras relacionadas al contexto dado y le da sentido a la frase.
Pero vamos, queda mucho por entender aquí. Es la mejor representación mental que me he hecho del tema.
"está programada para ello"
Esta afirmación desacredita todo lo que afirman y demuestra que no saben de qué hablan. No porque la IA no pueda mentir, si no porque decir que está programada para ello es una demostración de que no entienden las redes neuronales y, a partir de ahí, todo lo demás-.
La respuesta es clara, SÍ,
La respuesta es clara: NO.
No se debe confundir la ignorancia con la mentira. Si no se le indica que mienta, no miente. Y si se le indica, no es una mentira, es la ejecución de una orden
#12 Claro que hará falta eso.
Quien lo hace despegar con esas instrucciones es el culpable
No miente, tiene acceso a varias fuentes y prioriza unas sobre otras.
Si la fuente elegida es errónea, la respuesta también. Ninguna IA tiene medios para contrastar la verdad.
Una IA basada en una madre en la piscina te dirá que no te bañes después de comer porque se te corta la digestión.
#16 Es que en la estructura generada por los transfomers (que creo que es lo que usa chatgpt como base) para el análisis de textos no opera de esa forma. No operan asignando directamente probabilidades a las palabras que deben salir. Puedes hacer el análisis estadístico y calcular es probabilidad, pero ni en la estructura ni en el entrenamiento del sistema se persigue directamente esa idea. Este tipo de mecanismos de aprendizaje se especializa en relacionar secuencias de entrada con secuencias de salida, y lo principal son las funciones de atención, que se encargan de analizar las relaciones entre los elementos de estas secuencias entre sí, así como las relaciones de los elementos entre sí en cada secuencia por separado.
Lo explican bastante bien aquí: https://theaisummer.com/transformer/
Y recordad, para mentir tampoco hace falta inteligencia