Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Me ha resultado muy esclarecedora la respuesta de Gemini sobre una cuestión que le hice: '¿Por qué las IAs tienden a dar cualquier respuesta, incluso incorrecta, en lugar de admitir su desconocimiento?'
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
@carademalo ya dije en su momento que mi forma de aportar a mnm es dejar la publicidad e, incluso, pinchar si salen cosas que me puedan interesar de tanto en tanto. Evidentemente, con mis céntimos no se pagan ni los chetos, pero chico, yo qué sé.
@Imparsifal una cosita, cada vez que intento cerrar la publicidad que me aparece en la parte inferior de la pantalla del móvil, acabo votando positivo o negativo aleatoriamente a alguien. He quitado el bloqueador de publicidad en parte porque creo ha mejorado un poco lo que ponéis, aunque el rollo ese de la prostitución me sigue dando urticaria.
La última, esta nota de @NPCMeneaMePersigue que no he leído siquiera. Se podría cambiar la pestaña de cierre del ban inferior al lado derecho? Dadas las características de la página, donde en el lado izquierdo están los votos (que vemos se van a tomar más en serio) quizá sea más seguro esto.
@lamonjamellada
Me apunto a tu propuesta, si somos muchos los que pasamos de provocaciones y malos rollos quedarán en el limbo de la indiferencia (joder que bien me ha quedado).
Habrá que ser de "no hay mayor desprecio que no hacer aprecio" o "rebuznos de asno no llegan al cielo". También el de "no ofende quien quiere, sino quien puede".
@Ripio
Te añado alguno a tu repertorio con su definición, son insultos de la edad de oro, vamos de cuando yo era joven. Bultuntún: que habla sin ton ni son. Cagalindes: cobarde. Carcunda: de ideas retrógradas. Casquivano: ligerito de cascos. Catacaldos: persona que se dedica a muchas actividades y no se dedica con constancia a ninguna. Chisgarabís: persona, frecuentemente joven, de escasa formalidad o sensatez.
@vazana Puestos a lanzar teorías a cascoporro, también he leído por ahí que esto es una cortina de humo para que se deje de hablar del tema epstein, moviendo del debate político estadounidense a un tema en el que Trump pueda estar más cómodo.
Me parece pura poesía que la derecha española y la derecha venezolana en Miami y Madrid estén celebrando el golpe de estado de EEUU en Venezuela (mientras la ultraderecha Europea lo condena en pleno, por cierto) y que, mientras tanto, Trump este anunciando que van a encargarse de la administración del país trabajando con Delcy Rodríguez (gobierno actual) y despreciando a Corina Machado. Pura poesía. Enesimo ridículo de la derecha española.
Acojonante esto. Una curiosidad del discurso. Trump ha dicho que se ha llenado el país de gente escapada de manicomios. Trump piensa que las personas que piden asilo en EEUU (asylum) vienen de instituciones mentales (porque también se dice asylum). Según Rick Wilson llevan meses explicándoselo pero no hay manera. bsky.app/profile/noesporpresumir.bsky.social/post/3mbjwjj3fb22m
Tendría que mirar cuanto les exporta Venezuela, pero asumo que China puede pasar más o menos sin el petróleo venezolano.
Lo que no se es lo que le podría pasar a occidente a corto plazo sin las fábricas chinas.
Después nos quejamos de que los tertulianos hablen sin tener ni puta idea, la verdad es que menudos cojonazos tenemos (me incluyo yo el primero y el mas grande entre los "cuñados", que nadie se me enfade)
@Ajusticiator Yo no entiendo ese argumento. Es decir, como Trump hace lo que le sale de los putos cojones, pues va a permitir que China invada sin mas a un aliado de EEUU que ademas es uno de los principales proveedores de semicondutores para América y que el año pasado firmó un acuerdo comercial de 100k millones de dólares con EEUU.
No se. Yo lo veo justo al revés. Como China ha desplegado su marina de guerra cerca de Taiwan hace unos días en respuesta a un acuerdo reciente de compra de armas entre EEUU y Taiwan, pues Trump le mete una hostia a uno de los aliados de China.
Si China invade Taiwan será por la imposibilidad de EEUU de defenderles, no porque, bueno, "ahora se permite".
@Ah_no_nimo Siempre ha sido así. Volviendo al pasado, la invasión de Panamá por parte de EEUU en 1989.
La novedad en este caso es que todo parezca haber ido tan rápido. Al menos de momento, a ver como evoluciona todo.
Ahora Taiwan, ahora Groenlandia, ahora Panamá, ahora no se cual.
Creo que la gente no está considerando el hecho de que Venezuela no tenía apoyos internacionales, casi ningún país había reconocido a Maduro. Es un caso muy distinto del de Taiwan o Groenlandia. Una cosa es quitar de en medio a Maduro y otra cosa es invadir un territorio de un país de la UE.
Que lo mismo me equivoco y mañana están los marines desplegándose en Groenlandia, que yo suelo cagarla mucho con mis previsiones, pero no me parecen casos comparables ni por asomo.
Y sí, debería estar baneado desde el segundo día que decidió escribir.
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
Los extremos se tocan
La última, esta nota de
@NPCMeneaMePersigue que no he leído siquiera. Se podría cambiar la pestaña de cierre del ban inferior al lado derecho? Dadas las características de la página, donde en el lado izquierdo están los votos (que vemos se van a tomar más en serio) quizá sea más seguro esto.
Gracias y perdón por las molestias.
@Charles_Dexter_Ward
Me apunto a tu propuesta, si somos muchos los que pasamos de provocaciones y malos rollos quedarán en el limbo de la indiferencia (joder que bien me ha quedado).
Habrá que ser de "no hay mayor desprecio que no hacer aprecio" o "rebuznos de asno no llegan al cielo". También el de "no ofende quien quiere, sino quien puede".
@vazana @Golan_Trevize @nilien
Te añado alguno a tu repertorio con su definición, son insultos de la edad de oro, vamos de cuando yo era joven.
Bultuntún: que habla sin ton ni son.
Cagalindes: cobarde.
Carcunda: de ideas retrógradas.
Casquivano: ligerito de cascos.
Catacaldos: persona que se dedica a muchas actividades y no se dedica con constancia a ninguna.
Chisgarabís: persona, frecuentemente joven, de escasa formalidad o sensatez.
SEGUIR AQUÍ COMO SI NADA, HABLANDO DE NUESTRAS COSAS, DEJANDO ATRÁS PROVOCACIONES, AMENAZAS, INSULTOS Y DEMÁS.
Como quien oye llover. Seguir a nuestra bola y listo.
Y LO PONGO EN PLAN SEÑORA QUE GRITA PORQUE NO LE DEJAN IR A MISA PARA VER SI CONSIGO QUE LO LEA TODO EL MUNDO.
Coñe ya. Copón.
@Golan_Trevize @nilien
Una curiosidad del discurso. Trump ha dicho que se ha llenado el país de gente escapada de manicomios. Trump piensa que las personas que piden asilo en EEUU (asylum) vienen de instituciones mentales (porque también se dice asylum). Según Rick Wilson llevan meses explicándoselo pero no hay manera.
bsky.app/profile/noesporpresumir.bsky.social/post/3mbjwjj3fb22m
Los principales suministradores de petroleo a China son Rusia, Arabia Saudí, Irak, Omán y Malasia
elperiodicodelaenergia.com/las-importaciones-chinas-de-petroleo-dismin
Tendría que mirar cuanto les exporta Venezuela, pero asumo que China puede pasar más o menos sin el petróleo venezolano.
Lo que no se es lo que le podría pasar a occidente a corto plazo sin las fábricas chinas.
Centremos el zen.
Y vayamos a cuestiones importantes, sois más de Reyes o de Papá Noel?
No se. Yo lo veo justo al revés. Como China ha desplegado su marina de guerra cerca de Taiwan hace unos días en respuesta a un acuerdo reciente de compra de armas entre EEUU y Taiwan, pues Trump le mete una hostia a uno de los aliados de China.
Si China invade Taiwan será por la imposibilidad de EEUU de defenderles, no porque, bueno, "ahora se permite".
La novedad en este caso es que todo parezca haber ido tan rápido. Al menos de momento, a ver como evoluciona todo.
Creo que la gente no está considerando el hecho de que Venezuela no tenía apoyos internacionales, casi ningún país había reconocido a Maduro. Es un caso muy distinto del de Taiwan o Groenlandia. Una cosa es quitar de en medio a Maduro y otra cosa es invadir un territorio de un país de la UE.
Que lo mismo me equivoco y mañana están los marines desplegándose en Groenlandia, que yo suelo cagarla mucho con mis previsiones, pero no me parecen casos comparables ni por asomo.