"En el tablero la mentira y la hipocresía no sobreviven por mucho tiempo. La combinación creativa desenmascara la presunción de la mentira; el acto despiadado que culmina en el mate contradice al hipócrita."
Tengo que mandar una carta urgente a unos Reyes de Oriente. ¿Alguien sabe a cómo está el franqueo? El año pasado puse uno de franqueo A y la carta no llegó.
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Me ha resultado muy esclarecedora la respuesta de Gemini sobre una cuestión que le hice: '¿Por qué las IAs tienden a dar cualquier respuesta, incluso incorrecta, en lugar de admitir su desconocimiento?'
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
Vecino de arriba montando algo y dejando caer herramientas y tornillos cada puta vez. Los conozco, no son mala gente, pero, parece, jodidamente idiotas.
@javierchiclana Y la gente lo conoce, y es algo que se ha discutido mil veces. Y en un contexto como el actual hay usuarios que lo pueden interpretar como un tocamiento de narices innecesario. Sobre todo, si no se aporta nada más o nada nuevo al respecto.
Porque, de nuevo, de cara a condenar el ataque, da igual o debería de qué régimen estamos hablando. No hay ataque de este tipo que esté justificado y ya.
Y creo que ya somos mayorinos para saber las implicaciones de jugar a lo de tirar la piedra y esconder la mano.
Y ya he dicho todo lo que quería decir al respecto...
@javierchiclana También pusiste el mismo enlace en 6 comentarios, y en un caso, dos veces en el mismo hilo. Lo cual a veces es penalizado de por sí por los usuarios, sea el enlace que sea.
Además, y como te respondí en un momento dado, no parecías distinguir entre lo que implica condenar una intervención bélica contraria al derecho internacional y el apoyo al régimen venezolano. Aunque no se apoye a un regimen, o incluso aunque se condene a un régimen, se puede condenar una intervención militar en su contra. Lo uno no quita lo otro...
@kosako@Torrezzno No os dejéis engañar. Lo de Trump y Venezuela ha sido una artimaña, una cortina de humo para que no se hable de lo verdaderamente importante en este país, QUÉ PASA CON EL NÓTAME.
A mi lo de Venezuela me parece que es como alguien avanzando por un laaaargo túnel, y que cuando ya no puede más, aparece una luz a lo lejos ..... y resulta que no es el final del túnel, es un tren a toda pastilla
@lamonjamellada
Me apunto a tu propuesta, si somos muchos los que pasamos de provocaciones y malos rollos quedarán en el limbo de la indiferencia (joder que bien me ha quedado).
Habrá que ser de "no hay mayor desprecio que no hacer aprecio" o "rebuznos de asno no llegan al cielo". También el de "no ofende quien quiere, sino quien puede".
@Ripio
Te añado alguno a tu repertorio con su definición, son insultos de la edad de oro, vamos de cuando yo era joven. Bultuntún: que habla sin ton ni son. Cagalindes: cobarde. Carcunda: de ideas retrógradas. Casquivano: ligerito de cascos. Catacaldos: persona que se dedica a muchas actividades y no se dedica con constancia a ninguna. Chisgarabís: persona, frecuentemente joven, de escasa formalidad o sensatez.
Y sí, debería estar baneado desde el segundo día que decidió escribir.
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
Si te hubieras ahorrado el último párrafo, no te habrían estriqueado, y yo no podría estar más de acuerdo contigo.
cc @Imparsifal
Los extremos se tocan
Porque, de nuevo, de cara a condenar el ataque, da igual o debería de qué régimen estamos hablando. No hay ataque de este tipo que esté justificado y ya.
Y creo que ya somos mayorinos para saber las implicaciones de jugar a lo de tirar la piedra y esconder la mano.
Y ya he dicho todo lo que quería decir al respecto...
Además, y como te respondí en un momento dado, no parecías distinguir entre lo que implica condenar una intervención bélica contraria al derecho internacional y el apoyo al régimen venezolano. Aunque no se apoye a un regimen, o incluso aunque se condene a un régimen, se puede condenar una intervención militar en su contra. Lo uno no quita lo otro...
Me apunto a tu propuesta, si somos muchos los que pasamos de provocaciones y malos rollos quedarán en el limbo de la indiferencia (joder que bien me ha quedado).
Habrá que ser de "no hay mayor desprecio que no hacer aprecio" o "rebuznos de asno no llegan al cielo". También el de "no ofende quien quiere, sino quien puede".
@vazana @Golan_Trevize @nilien
Te añado alguno a tu repertorio con su definición, son insultos de la edad de oro, vamos de cuando yo era joven.
Bultuntún: que habla sin ton ni son.
Cagalindes: cobarde.
Carcunda: de ideas retrógradas.
Casquivano: ligerito de cascos.
Catacaldos: persona que se dedica a muchas actividades y no se dedica con constancia a ninguna.
Chisgarabís: persona, frecuentemente joven, de escasa formalidad o sensatez.