Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Me ha resultado muy esclarecedora la respuesta de Gemini sobre una cuestión que le hice: '¿Por qué las IAs tienden a dar cualquier respuesta, incluso incorrecta, en lugar de admitir su desconocimiento?'
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
@lamonjamellada
Me apunto a tu propuesta, si somos muchos los que pasamos de provocaciones y malos rollos quedarán en el limbo de la indiferencia (joder que bien me ha quedado).
Habrá que ser de "no hay mayor desprecio que no hacer aprecio" o "rebuznos de asno no llegan al cielo". También el de "no ofende quien quiere, sino quien puede".
@Ripio
Te añado alguno a tu repertorio con su definición, son insultos de la edad de oro, vamos de cuando yo era joven. Bultuntún: que habla sin ton ni son. Cagalindes: cobarde. Carcunda: de ideas retrógradas. Casquivano: ligerito de cascos. Catacaldos: persona que se dedica a muchas actividades y no se dedica con constancia a ninguna. Chisgarabís: persona, frecuentemente joven, de escasa formalidad o sensatez.
@vazana Puestos a lanzar teorías a cascoporro, también he leído por ahí que esto es una cortina de humo para que se deje de hablar del tema epstein, moviendo del debate político estadounidense a un tema en el que Trump pueda estar más cómodo.
@Duernu Vuelvo sobre lo dicho, ahora que ha hablado Trump para que veáis que (obviamente) el tema era ese, y coño! al menos no se esconde y lo dice a la cara a un mundo entero que parece estar a verlas venir.
Personalmente no doy crédito con el matonismo consentido, las amenazas, las intenciones, y el tono de discurso para borderlines. Hasta tal punto se cree el rey del mambo, que no ha dudado en mandar a paseo las pretensiones de la oposición venezolana de un plumazo, dando a entender que prefiere a los bolivarianos si le siguen la comba para quedarse con todo, o los machaca.. a ellos, y a Cuba y Colombia. La UE, China, Rusia, India... y cualquier país que se defina como actor global jamás deberían permitir una deriva como esta.
Y en cuanto a las masas... sinceramente, aunque no seas del team Maduro (yo no lo soy), hay que ser muy, pero que muy estúpido para ponerte en la Puerta del Sol a celebrar tamaña muestra del imperialismo más zafio visto en décadas , y más si encima eres de un partido político (o dos) que se postulan para tener responsabilidades de Gobierno en España a la vuelta de la esquina.
Acojonante esto. Una curiosidad del discurso. Trump ha dicho que se ha llenado el país de gente escapada de manicomios. Trump piensa que las personas que piden asilo en EEUU (asylum) vienen de instituciones mentales (porque también se dice asylum). Según Rick Wilson llevan meses explicándoselo pero no hay manera. bsky.app/profile/noesporpresumir.bsky.social/post/3mbjwjj3fb22m
Tendría que mirar cuanto les exporta Venezuela, pero asumo que China puede pasar más o menos sin el petróleo venezolano.
Lo que no se es lo que le podría pasar a occidente a corto plazo sin las fábricas chinas.
@imparsifal
Precisamente por eso me di de baja del “consejo consultivo”: porque sus decisiones no son vinculantes, los miembros no tienen capacidad real de plantear las preguntas y su papel es, en la práctica, irrelevante.
Tal y como está planteado, parece más un mecanismo para legitimar decisiones ya tomadas que un órgano de participación real, además de una fuente de ingresos difícil de justificar.
Después nos quejamos de que los tertulianos hablen sin tener ni puta idea, la verdad es que menudos cojonazos tenemos (me incluyo yo el primero y el mas grande entre los "cuñados", que nadie se me enfade)
@Ajusticiator Yo no entiendo ese argumento. Es decir, como Trump hace lo que le sale de los putos cojones, pues va a permitir que China invada sin mas a un aliado de EEUU que ademas es uno de los principales proveedores de semicondutores para América y que el año pasado firmó un acuerdo comercial de 100k millones de dólares con EEUU.
No se. Yo lo veo justo al revés. Como China ha desplegado su marina de guerra cerca de Taiwan hace unos días en respuesta a un acuerdo reciente de compra de armas entre EEUU y Taiwan, pues Trump le mete una hostia a uno de los aliados de China.
Si China invade Taiwan será por la imposibilidad de EEUU de defenderles, no porque, bueno, "ahora se permite".
Cualquier análisis que se centre solo en lo “malo” que es Maduro, y que obvie que esto no deja de ser una estrategia premeditada para cargarse a uno de un bando rojeras y poco friendly, para poner al cargo de un montón de petróleo a sus colegas de la derechona oligarquica venezolana, es una mierda de análisis. He dicho.
También echo de menos un análisis de qué intereses tiene El Pais y el grupo Prisa en general para llevar años alentando a todo quisqui para cargarse al régimen bolivariano en base a noséqué mierdas a favor de la oposición. El que lo escriba tiene mis dieses.
@Ah_no_nimo Siempre ha sido así. Volviendo al pasado, la invasión de Panamá por parte de EEUU en 1989.
La novedad en este caso es que todo parezca haber ido tan rápido. Al menos de momento, a ver como evoluciona todo.
Ahora Taiwan, ahora Groenlandia, ahora Panamá, ahora no se cual.
Creo que la gente no está considerando el hecho de que Venezuela no tenía apoyos internacionales, casi ningún país había reconocido a Maduro. Es un caso muy distinto del de Taiwan o Groenlandia. Una cosa es quitar de en medio a Maduro y otra cosa es invadir un territorio de un país de la UE.
Que lo mismo me equivoco y mañana están los marines desplegándose en Groenlandia, que yo suelo cagarla mucho con mis previsiones, pero no me parecen casos comparables ni por asomo.
Estar logueado o no, no importa.
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
Los extremos se tocan
Mi propósito para 2026 es que si me invitan a alguna boda, ser capaz de zamparme todo el menú sin tocar un solo cubierto.
¿Qué os parece?
Me apunto a tu propuesta, si somos muchos los que pasamos de provocaciones y malos rollos quedarán en el limbo de la indiferencia (joder que bien me ha quedado).
Habrá que ser de "no hay mayor desprecio que no hacer aprecio" o "rebuznos de asno no llegan al cielo". También el de "no ofende quien quiere, sino quien puede".
@vazana @Golan_Trevize @nilien
Te añado alguno a tu repertorio con su definición, son insultos de la edad de oro, vamos de cuando yo era joven.
Bultuntún: que habla sin ton ni son.
Cagalindes: cobarde.
Carcunda: de ideas retrógradas.
Casquivano: ligerito de cascos.
Catacaldos: persona que se dedica a muchas actividades y no se dedica con constancia a ninguna.
Chisgarabís: persona, frecuentemente joven, de escasa formalidad o sensatez.
Personalmente no doy crédito con el matonismo consentido, las amenazas, las intenciones, y el tono de discurso para borderlines. Hasta tal punto se cree el rey del mambo, que no ha dudado en mandar a paseo las pretensiones de la oposición venezolana de un plumazo, dando a entender que prefiere a los bolivarianos si le siguen la comba para quedarse con todo, o los machaca.. a ellos, y a Cuba y Colombia. La UE, China, Rusia, India... y cualquier país que se defina como actor global jamás deberían permitir una deriva como esta.
Y en cuanto a las masas... sinceramente, aunque no seas del team Maduro (yo no lo soy), hay que ser muy, pero que muy estúpido para ponerte en la Puerta del Sol a celebrar tamaña muestra del imperialismo más zafio visto en décadas , y más si encima eres de un partido político (o dos) que se postulan para tener responsabilidades de Gobierno en España a la vuelta de la esquina.
Una curiosidad del discurso. Trump ha dicho que se ha llenado el país de gente escapada de manicomios. Trump piensa que las personas que piden asilo en EEUU (asylum) vienen de instituciones mentales (porque también se dice asylum). Según Rick Wilson llevan meses explicándoselo pero no hay manera.
bsky.app/profile/noesporpresumir.bsky.social/post/3mbjwjj3fb22m
Los principales suministradores de petroleo a China son Rusia, Arabia Saudí, Irak, Omán y Malasia
elperiodicodelaenergia.com/las-importaciones-chinas-de-petroleo-dismin
Tendría que mirar cuanto les exporta Venezuela, pero asumo que China puede pasar más o menos sin el petróleo venezolano.
Lo que no se es lo que le podría pasar a occidente a corto plazo sin las fábricas chinas.
Precisamente por eso me di de baja del “consejo consultivo”: porque sus decisiones no son vinculantes, los miembros no tienen capacidad real de plantear las preguntas y su papel es, en la práctica, irrelevante.
Tal y como está planteado, parece más un mecanismo para legitimar decisiones ya tomadas que un órgano de participación real, además de una fuente de ingresos difícil de justificar.
No se. Yo lo veo justo al revés. Como China ha desplegado su marina de guerra cerca de Taiwan hace unos días en respuesta a un acuerdo reciente de compra de armas entre EEUU y Taiwan, pues Trump le mete una hostia a uno de los aliados de China.
Si China invade Taiwan será por la imposibilidad de EEUU de defenderles, no porque, bueno, "ahora se permite".
También echo de menos un análisis de qué intereses tiene El Pais y el grupo Prisa en general para llevar años alentando a todo quisqui para cargarse al régimen bolivariano en base a noséqué mierdas a favor de la oposición. El que lo escriba tiene mis dieses.
La novedad en este caso es que todo parezca haber ido tan rápido. Al menos de momento, a ver como evoluciona todo.
Creo que la gente no está considerando el hecho de que Venezuela no tenía apoyos internacionales, casi ningún país había reconocido a Maduro. Es un caso muy distinto del de Taiwan o Groenlandia. Una cosa es quitar de en medio a Maduro y otra cosa es invadir un territorio de un país de la UE.
Que lo mismo me equivoco y mañana están los marines desplegándose en Groenlandia, que yo suelo cagarla mucho con mis previsiones, pero no me parecen casos comparables ni por asomo.
www.meneame.net/m/Artículos/ha-pasado-amperobonus