Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Me ha resultado muy esclarecedora la respuesta de Gemini sobre una cuestión que le hice: '¿Por qué las IAs tienden a dar cualquier respuesta, incluso incorrecta, en lugar de admitir su desconocimiento?'
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
Uno de los personajes, para evitar su "destino final" que sabe fijo que le espera, se encierra en una casa, castillo, llena de medidas de seguridad y no sale nunca.
En otra de las pelis, la 2 o la 3, otra de las supervivientes de la 1 "se encierra" en un psiquiatrico en una habitacion acolchada con la esperanza de sobrevivir.
@mis_cojones_en_bata Hace años era divertido estar en la fisgona para ver cómo se descuajeringaba el saco con el cambio de horas. Solo funcionaba por Jabber.
@vazana La imagen es mas potente con un relato detras.
Me recuerda la cancion que dice "y en la jura de bandera del muchacho, se la dio con dos amigos"
Macarena, se llama la muchacha. m.youtube.com/watch?v=TgRFHRd42MU
@Rorschach_ No he podido guardarla (algun plugin me falta para que no se pueda bloquear el boton derecho y guardar imagen) asi que la he buscado con el plugin "search by image" que si la ha pillado y muchas de las que salian tenian una calidad de mierda, no encontraba la buena, asi que he elegido una. Lo bueno es enemigo de lo perfecto.
@vazana Es excusa. Si no hubiese sido por el nobel, dira: Me he tropezado un dia con un noruego que me ha mirado mal, te aumento la cuota de la otan que tienes que gastar en la industria militar estadounidense y los aranceles.
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
Recuerda a la ultima pelicula de "Destino final"
Destino final: lazos de sangre
es.wikipedia.org/wiki/Destino_final:_lazos_de_sangre
Uno de los personajes, para evitar su "destino final" que sabe fijo que le espera, se encierra en una casa, castillo, llena de medidas de seguridad y no sale nunca.
En otra de las pelis, la 2 o la 3, otra de las supervivientes de la 1 "se encierra" en un psiquiatrico en una habitacion acolchada con la esperanza de sobrevivir.
Miles de webs, por ejemplo
tardigram.com/
noticias.ai/
Y en España si no te conectas por vpn o proxy no puedes acceder, no te cargan (ni siquiera da error hasta mucho mas tarde cuando dará un timeout)
Será lo que llaman el sueño reparador.
Me recuerda la cancion que dice "y en la jura de bandera del muchacho, se la dio con dos amigos"
Macarena, se llama la muchacha.
m.youtube.com/watch?v=TgRFHRd42MU
Equality - Equity - Capitalism
Antonio Recio. "¡Pues te subo las cuotas!"
seriesespanolas.fandom.com/wiki/Antonio_Recio/Frases
www.google.com/search?q=La importancia de dar las gracias:
Aparte de que si te acostumbras a dar las gracias, no perderas el habito al hacerlo con la gente.
La ia, aparte, mide tu satisfaccion con su respuesta dependiendo de como sea tu respuesta. Tambien está lo de pedir por favor.
@manbobi @nereira @eirene
¿Como estas seguro de que esos a los que denuncias no son la administración, o de la administracion o adscritos a ella?
m.youtube.com/watch?v=nMzI5exHsEc
@cunaxa
Igual tenian cortinas o cortinones de separacion colgadas del techo para no verse.