Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Me ha resultado muy esclarecedora la respuesta de Gemini sobre una cuestión que le hice: '¿Por qué las IAs tienden a dar cualquier respuesta, incluso incorrecta, en lugar de admitir su desconocimiento?'
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
Cosas extraordinarias que pasan en mi país: Acabo de escuchar en la radio (yo ya estoy muy viejo y escucho las noticias en la radio... cosas de una persona que ya ha caducado)... en fin... que un individuo (sicario) condenado por un asesinato le pidió el favor al abogado (que lo defiende) que si le podía cobrar a los que lo mandaron a matar a la victima... que necita el dinero. Por si no me creen: www.wradio.com.co/2025/07/02/asesino-de-periodista-presiona-a-defensor
Qué lista y fiable es la IA. Pregunto por el tamaño comparado de África y Eurasia y me contesta que "Aunque Eurasia es más grande que África, la suma de Norteamérica y Eurasia es menor que la superficie de África".
@imparsifal entiendo que desde tu punto de vista solo te fijes en los números, los euros, las visitas, etc.
Pero desde nuestro lado el tema se ve diferente.
Insisto, entiendo que tu posición y objetivos sean distintos.
@imparsifal yo sólo veo toxicidad en el Nótame, propaganda de casas de apuestas en portada, dueños que amenazan con expulsar a usuarios por motivos ideológicos,...
@Leclercia_adecarboxylata Supongo que es una zona para publicidad en la que no hay publicidad. Hace que los enlaces debajo queden inutilizables y desperdicia una buena parte de la ventana para nada.
O, viendo cómo anda esto, es 'niebla de guerra'.
¿Bots, IAS, Martín?
¿En eso quieres convertir Menéame? ¿En un Discover automatizado lleno de clickbaits con scroll infinito? ¿Con un botoncito de comentar escondido tras toda la publicidad? Haz login antes con tu cuenta de google para regalarnos tus datos. Pincha aquí para saber más. No digas follar, di f*llar, a los bots no les gustan las palabrotas. No nombres a quien no queremos que se asustan los anunciantes. No tenemos más ideología que el dinero. No la tengas tú tampoco, eso es de extremistas. Los negros son malos, los moros son peores, los rusos según sople, las mujeres son arpías, los pobres unos aprovechados. Ya te digo yo a quién odiar.
No te vayas, quédate que te daré tu ración diaria de sensacionalismo. Muéstrame qué te gusta y tendrás hasta vomitar. ¿Quieres chicas bailando? Tenemos montones, y si no la IA genera más. ¿Gatitos? Mira cómo juegan, son adorables. ¿Odio? Estamos hasta reventar de eso. ¿Crees en pseudociencias? Mira esta pulserita que te hace crecer tu amiguito. No opinamos si es verdad mientras compres. ¿Negativos? De eso no, quién eres tú para decidir qué basura come la gente.
Come y calla. Ya piensa la IA por ti.
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
ellosnosotros.El presidente de Correos reúne a 200 directivos y les dice que la situación es de extrema gravedad.
Si se paran un poco a pensar igual podrían unir los puntos.
Pero desde nuestro lado el tema se ve diferente.
Insisto, entiendo que tu posición y objetivos sean distintos.
O, viendo cómo anda esto, es 'niebla de guerra'.
¿En eso quieres convertir Menéame? ¿En un Discover automatizado lleno de clickbaits con scroll infinito? ¿Con un botoncito de comentar escondido tras toda la publicidad? Haz login antes con tu cuenta de google para regalarnos tus datos. Pincha aquí para saber más. No digas follar, di f*llar, a los bots no les gustan las palabrotas. No nombres a quien no queremos que se asustan los anunciantes. No tenemos más ideología que el dinero. No la tengas tú tampoco, eso es de extremistas. Los negros son malos, los moros son peores, los rusos según sople, las mujeres son arpías, los pobres unos aprovechados. Ya te digo yo a quién odiar.
No te vayas, quédate que te daré tu ración diaria de sensacionalismo. Muéstrame qué te gusta y tendrás hasta vomitar. ¿Quieres chicas bailando? Tenemos montones, y si no la IA genera más. ¿Gatitos? Mira cómo juegan, son adorables. ¿Odio? Estamos hasta reventar de eso. ¿Crees en pseudociencias? Mira esta pulserita que te hace crecer tu amiguito. No opinamos si es verdad mientras compres. ¿Negativos? De eso no, quién eres tú para decidir qué basura come la gente.
Come y calla. Ya piensa la IA por ti.