Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Me ha resultado muy esclarecedora la respuesta de Gemini sobre una cuestión que le hice: '¿Por qué las IAs tienden a dar cualquier respuesta, incluso incorrecta, en lugar de admitir su desconocimiento?'
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
@dunachio Acabo de hablar con una consultoría de Valencia. De las grandes. Al responsable comercial sólo le falta llorar. Están en la mierda más profunda, con contratos e implementaciones en el aire pendientes de si el cliente ahora paga e implementa o no paga y se espera otro año. COn todo el trabajo hecho. Seguridad Jurídica, en este país.
@PasaPollo@PasaPollo@angelitoMagno Pues disculpas por enlazar un título erróneo, pero creo que confirmas mi comentario, más allá de que elmtuit indique motivos erróneos. Y gracias, como siempre, por tus aclaraciones.
@angelitoMagno La redacción de la sentencia es posterior al fallo. Lo que es menos normal (pero en los últimos años se da a menudo en casos de especial relevancia) es que se anuncie el fallo antes de redactar la sentencia, se está haciendo para evitar que se filtre el fallo antes de la comunicación a las partes.
"El art. 193 de la LEC permite adelantar el fallo (mediante "nota" o providencia) en casos de especial interés o urgencia, para que las partes conozcan el sentido del pronunciamiento y puedan preparar recursos, mientras se termina de redactar la motivación".
@PasaPollo la sentencia le importa un carajo a todos. Ya estamos convencidos de qué este hombre es inocente, o culpable -según depende-. ¿Para qué molestarse en leer una sentencia e intentar entenderla? ¿Para qué escuchar a los que, de verdad, saben de derecho e intentarán explicarla? País. @Golan_Trevize
@mis_cojones_en_bata Hace años era divertido estar en la fisgona para ver cómo se descuajeringaba el saco con el cambio de horas. Solo funcionaba por Jabber.
@angelitoMagno En los planes urbanísticos de los ayuntamientos se fijan los usos del suelo, residencial, dotacional, servicios(esas oficinas), viales, zonas verdes, industrial, etc. Cambiar el uso de un solar es muuuuuy complicado
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
"El art. 193 de la LEC permite adelantar el fallo (mediante "nota" o providencia) en casos de especial interés o urgencia, para que las partes conozcan el sentido del pronunciamiento y puedan preparar recursos, mientras se termina de redactar la motivación".
x.com/rim202008/status/1991645592544768170?s=20