Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Me ha resultado muy esclarecedora la respuesta de Gemini sobre una cuestión que le hice: '¿Por qué las IAs tienden a dar cualquier respuesta, incluso incorrecta, en lugar de admitir su desconocimiento?'
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
@angelitoMagno Estarán esperando a que pongan de presidenta títere a esa nobel de la paz que pedía este bombardeo y que empresas estadounidenses """gestionen""" el petróleo. Previa invasión militar, claro. Pero primero tocará pagar a los militares venezolanos para hacer esto tranquilos.
Guaidó seguirá dándose la vida padre sin complicaciones, que ya hizo lo suyo en su día.
@Zoidborg La pena es que cuando se borra un usuario también se borran sus notas. Se deberían quedar aunque fuesen anonimizadas, que esa """funcionalidad""" ha dejado la hemeroteca del Nótame totalmente rota. Yo veo muchas de las conversaciones antiguas totalmente huérfanas porque faltan respuestas y referencias.
@vazana Por algún oscuro motivo Grok no busca sus fuentes periodísticas en ElDiario.es, CTXT, etc... pero sí se fía ciegamente de LibertadDigital, TheObjetive, ElMundo.es, el ABC... No sé, Rick, parece muy escorado.
@mis_cojones_en_bata Especial mención a cómo ha subido la abstención en casi todos los municipios. Excelente la campaña de bulos, acusaciones-metralleta, lawfare, ruido mediático, barro por doquier, etc... de la ultraderecha. El que pueda hacer que haga... y han ido a destajo.
Y luego la gente se descojona del meme, pero acierta de lleno.
@Stieg La gente demanda privatización de servicios públicos, contratos opacos, políticos ladrones y tráfico de sobres que acaban pagando ellos con su estado de bienestar.
Y luego a quejarse de que tardan meses en tener una cita con el médico de Atención Primaria como si esta ultraderecha a la que votan no fuese el principal responsable. A ver cómo en pocos años ponen el grito en el cielo en cuanto, después de pagar su seguro sanitario privado, les cobren "sólo" 25€ por pedir la cita, más lo que les cobre el médico, más las chorrocientas pruebas de todo para facturarles, más lo que paguen de medicamentos, etc... Claro que con esos precios bajarán las listas de espera, a ver quién se puede permitir una sanidad decente
"The GNU Affero General Public License is a free, copyleft license for software and other kinds of works, specifically designed to ensure cooperation with the community in the case of network server software."
A veces es bueno dejar volar la imaginación y pensar "y si..." para imaginar futuros alternativos. Por ejemplo, ¿Y SI... la pareja del Marqués de Quirón fuese Irene Montero en lugar de IDA?
¿Que hubiese pasado entonces?
0%Él llevaría años encarcelado.
0%La ultraderecha hubiese echado a Fresenius (dueños de Quirón) de España.
0%Tendrían un 20% de tiempo de los informativos.
0%Ella hubiese ido a la cárcel también.
100%Todas las anteriores y lo que se le ocurra a la judicatura que padecemos.
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
Guaidó seguirá dándose la vida padre sin complicaciones, que ya hizo lo suyo en su día.
@Orange_Noticias @Ripio @Charles_Dexter_Ward
@cosmonauta @Ripio @tnt80
No hables de un hipotético futuro; hace tiempo que es una realidad: www.eldiario.es/illes-balears/politica/pp-archiva-deja-caducar-500-exp
@cosmonauta @Ripio @tnt80
@DrToxic
@PasaPollo
@paumal
Y luego la gente se descojona del meme, pero acierta de lleno.
Y luego a quejarse de que tardan meses en tener una cita con el médico de Atención Primaria como si esta ultraderecha a la que votan no fuese el principal responsable. A ver cómo en pocos años ponen el grito en el cielo en cuanto, después de pagar su seguro sanitario privado, les cobren "sólo" 25€ por pedir la cita, más lo que les cobre el médico, más las chorrocientas pruebas de todo para facturarles, más lo que paguen de medicamentos, etc... Claro que con esos precios bajarán las listas de espera, a ver quién se puede permitir una sanidad decente
@mis_cojones_en_bata
Edit: alguno he pagado, pero los cuento con los dedos de las manos.
@dogday
@angelitoMagno
"The GNU Affero General Public License is a free, copyleft license for software and other kinds of works, specifically designed to ensure cooperation with the community in the case of network server software."
www.meneame.net/COPYING
@imparsifal dijo antes del verano que iba a abrir el código en cuanto tuviese un rato, y este lunes ya es invierno. Se ve que está MUY ocupado
Menudo susto tienes que tener todavía en el cuerpo
@cosmonauta @Charles_Dexter_Ward
¿Que hubiese pasado entonces?
Con 2 paquetes al día casi que pagas una hipoteca de las de hace 11 años.
@mariKarmo
Es el vecino más común
¡Qué puto asco!
@antiboise @sacaelwhisky @DrToxic @mariKarmo
@dunachio