Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Me ha resultado muy esclarecedora la respuesta de Gemini sobre una cuestión que le hice: '¿Por qué las IAs tienden a dar cualquier respuesta, incluso incorrecta, en lugar de admitir su desconocimiento?'
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
@lamonjamellada@Stieg con la tecnología actual, es muy fácil (aunque también trabajoso y caro) hacer un bot que resuma los vídeos, libros, etc. de Juan Ramón Rallo, Daniel Lacalle, Thomas Sowell, et al. y participe en conversaciones siguiendo sus puntos de vista e ideas.
Feliz año. Si no os gusta porque es peor que 2025, pensad que seguramente al menos es mejor que 2027, e incluso que el resto de vuestras vidas. Que espero que sean muy largas y con muchos años muy buenos.
Un personaje que quiere maltratar a alguien, y tirar su reputación al puto infierno, queándose porque lo consiguió menos de lo que esperaba. Un maltratador quejándose porque su pistola se encasquilló.
Ellos, los psicópatas, intentan simular coraje. Pero es simulado, y lo sabes cuando les dices que ese coraje suyo contra ti es una miserable difamación, lo demuestras, y no hacen nada para rectificar. Al contrario, se reafirman. Mentir, maltratar y manipular es su estrategia para conseguir lo que sea que quieran.
@Lutin Que las juntas de la trócola del generador de fluzo necesitan la revisión de los 15.000 km
A ver, por si no tienes todo el contexto: somos objeto, cada 2x3, de devaluación por perder una ínfima cantidad de usuarios, según OJD, y que sucede por cosas tan básicas como bloquear bots. Pero nos quieren ver muertos y no paran de pregonar nuestra muerte.
Tras la devaluación, esos mismos intentan comprar menéame por cuatro duros. Vez tras vez.
No me da la gana morir ni vender a precio de saldo después de acoso económico y moral. Además, habiendo subido en usuarios reales, tras eliminar paja, para darle valor a menéame. Mientras tanto, todo nuestro entorno web ha sido una debacle por la IA, Google Search y discoverys diversos.
Lo siguiente va a ser el acoso físico, me temo; sus filas van cargaditas de boxeadores. Todo para tener el control de menéame, y a nivel psicópata.
¿Puedo defender a menéame y a mí? El otro día uno de esos acosadores decía que el acoso contra mí está justificado. Y van y le hacen caso. Eso es un delito penal.
El olor a muerto está en otros proyectos y estrategias cancerígenas, no en menéame.
Gente que no ha hecho nada en su vida, dando lecciones en el bar Paco. Llorando con Ferran, que no pudo conseguir menéame ni con seis cifras mientras ellos no tienen ni tres en ningún bolsillo www.meneame.net/notame/3705365
@benjami Para los que no tengan memoria sobre las cosas de Ferran www.meneame.net/notame/3705360 recuerdo que hizo clones de Menéame (gracias a nuestro código libre) para el mundo latino y nunca consiguió que funcionase ninguno de sus lugares, pagados con su pasta sin límites. Su reacción siempre fue la misma: devaluar menéame y luego querer comprarlo por el mínimo precio posible. Es su obsesión.
Tenemos más del doble de visitas que los 10 primeros lugares que consiguen más portadas en Menéame, señorito rico que intentó comprar menéame por cuatro céntimos y que antes (para poder comprarlo por cuatro céntimos) y después (de nunca poder comprarlo por cuatro céntimos) siempre jugó a devaluarlo.
Vale el doble que tu oferta de menos de un año atrás, y que que no conseguiste. Por un puto euro de diferencia en el último minuto hemos ganado nosotros.
Con tu pasta ingente, cómprate algo que le produzca placer y olvídanos. En internet encontrarás muchas cosas que vibran un montón solo con pilas baratísimas. Son un milagro para ricos insatisfechos.
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
¿A quién le paso la factura?
Voy a preguntar en el instituto Juan de Mariana.
Si no se entiende la perspectiva, es más o menos ésta: www.instagram.com/reel/DOJdNpMgg7b/
@eu.gênio
FREE @Plantegra
www.meneame.net/notame/3705425
Ellos, los psicópatas, intentan simular coraje. Pero es simulado, y lo sabes cuando les dices que ese coraje suyo contra ti es una miserable difamación, lo demuestras, y no hacen nada para rectificar. Al contrario, se reafirman. Mentir, maltratar y manipular es su estrategia para conseguir lo que sea que quieran.
@benjami @Lutin
A ver, por si no tienes todo el contexto: somos objeto, cada 2x3, de devaluación por perder una ínfima cantidad de usuarios, según OJD, y que sucede por cosas tan básicas como bloquear bots. Pero nos quieren ver muertos y no paran de pregonar nuestra muerte.
Tras la devaluación, esos mismos intentan comprar menéame por cuatro duros. Vez tras vez.
No me da la gana morir ni vender a precio de saldo después de acoso económico y moral. Además, habiendo subido en usuarios reales, tras eliminar paja, para darle valor a menéame. Mientras tanto, todo nuestro entorno web ha sido una debacle por la IA, Google Search y discoverys diversos.
Lo siguiente va a ser el acoso físico, me temo; sus filas van cargaditas de boxeadores. Todo para tener el control de menéame, y a nivel psicópata.
¿Puedo defender a menéame y a mí? El otro día uno de esos acosadores decía que el acoso contra mí está justificado. Y van y le hacen caso. Eso es un delito penal.
El olor a muerto está en otros proyectos y estrategias cancerígenas, no en menéame.
Tenemos más del doble de visitas que los 10 primeros lugares que consiguen más portadas en Menéame, señorito rico que intentó comprar menéame por cuatro céntimos y que antes (para poder comprarlo por cuatro céntimos) y después (de nunca poder comprarlo por cuatro céntimos) siempre jugó a devaluarlo.
Vale el doble que tu oferta de menos de un año atrás, y que que no conseguiste. Por un puto euro de diferencia en el último minuto hemos ganado nosotros.
Con tu pasta ingente, cómprate algo que le produzca placer y olvídanos. En internet encontrarás muchas cosas que vibran un montón solo con pilas baratísimas. Son un milagro para ricos insatisfechos.
Besis.