Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Me ha resultado muy esclarecedora la respuesta de Gemini sobre una cuestión que le hice: '¿Por qué las IAs tienden a dar cualquier respuesta, incluso incorrecta, en lugar de admitir su desconocimiento?'
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
@lamonjamellada No sé cuánto tiempo lleva el de la prostitución, diría que meses ya... y sí, me sumo yo también a la petición, normalmente no suelo cerrarlo justamente por no dar donde no debo. Me pasa parecido con las estrellitas, que voy scrolleando y favoriteo algún comentario sin querer, está justo donde pongo el pulgar @Imparsifal
@javierchiclana También pusiste el mismo enlace en 6 comentarios, y en un caso, dos veces en el mismo hilo. Lo cual a veces es penalizado de por sí por los usuarios, sea el enlace que sea.
Además, y como te respondí en un momento dado, no parecías distinguir entre lo que implica condenar una intervención bélica contraria al derecho internacional y el apoyo al régimen venezolano. Aunque no se apoye a un regimen, o incluso aunque se condene a un régimen, se puede condenar una intervención militar en su contra. Lo uno no quita lo otro...
@javierchiclana Y la gente lo conoce, y es algo que se ha discutido mil veces. Y en un contexto como el actual hay usuarios que lo pueden interpretar como un tocamiento de narices innecesario. Sobre todo, si no se aporta nada más o nada nuevo al respecto.
Porque, de nuevo, de cara a condenar el ataque, da igual o debería de qué régimen estamos hablando. No hay ataque de este tipo que esté justificado y ya.
Y creo que ya somos mayorinos para saber las implicaciones de jugar a lo de tirar la piedra y esconder la mano.
Y ya he dicho todo lo que quería decir al respecto...
Hoy cumplo diez añazos en este saco (quién me iba a decir que aguantaría tanto).
La vida es lo que se pasa mientras consumimos (o esparcimos) gilipolleces, en un ciclo sin fin, hasta que la rueda del karma nos espachurre como al insecto de Kafka.
@lamonjamellada
Me apunto a tu propuesta, si somos muchos los que pasamos de provocaciones y malos rollos quedarán en el limbo de la indiferencia (joder que bien me ha quedado).
Habrá que ser de "no hay mayor desprecio que no hacer aprecio" o "rebuznos de asno no llegan al cielo". También el de "no ofende quien quiere, sino quien puede".
Creo que no os he contado que yo estuve reunido con el gobierno venezolano allí por 2013, recién muerto Chavez.
Era por trabajo, un tema bastante técnico, y me encontré con Chavistas con perfil más bien bajo.
Habían elegido un proyecto, por simplificar, porque era bonito y barato.
Ese proyecto incumplía leyes vigentes sobre biodiversidad y parques naturales, pero por lo que sea (Chavez había quitado a los técnicos para poner fieles a la revolución) no lo habían tenido en cuenta.
Me reuní en un edificio oficial con los que mandaban, todos con chandales horribles, rojos con rayas de colores de Venezuela.
Había mucha gente comprada, y un bolivariano nos pidió una mordida de 200.000$ porque se acababa de divorciar y se quería comprar una casa nueva.
Sé que parece surrealista, pero lo cuento tal cual.
Al final había un jefazo que no era corrupto, y el proyecto no se llevó a cabo.
Pero eso es otra historia...
@Ripio
Te añado alguno a tu repertorio con su definición, son insultos de la edad de oro, vamos de cuando yo era joven. Bultuntún: que habla sin ton ni son. Cagalindes: cobarde. Carcunda: de ideas retrógradas. Casquivano: ligerito de cascos. Catacaldos: persona que se dedica a muchas actividades y no se dedica con constancia a ninguna. Chisgarabís: persona, frecuentemente joven, de escasa formalidad o sensatez.
@imparsifal ¿Solo el murciano se habrá salido con la suya?
Quien entró por aquí como elefante en una cacharrería hace meses, que yo recuerde, fue otro. Y ya entonces entre pitos, flautas y macarradas vino a decir y a demostrar que nos quería echar y chapar esto, porque éramos unos impresentables y un montón de otras cosas.
A mí se me escapa el empeño de todos los bandos con chapar el nótame, cuando la realidad es que los follones están por toda la página y por fuera de ella, y no se originan precisamente aquí. Más bien, llegan aquí y pretenden cerrarlo. Unos y otros.
A ver si es porque somos en plan la aldea irreductible (o igual, éramos), que escapa a cierto tipo de control, y entonces la estrategia es venir a provocar desde fuera, a ver si salta todo por los aires.
Es que solo faltaría, la verdad, que porque elementos externos le tengan ojeriza al nótame acabe chapado porque ellos vienen aquí a montarla, cuando nunca han sido ni serán parte de lo que es (o era) el nótame. Y se castigue a nótame y noteantes por las acciones de otros.
Pero en fin... lo de meter el pasado es porque esto es una sombra de lo que era, lo están consiguiendo con sus malos rollos y artes.
@nilien"A mí se me escapa el empeño de todos los bandos con chapar el nótame, cuando la realidad es que los follones están por toda la página y por fuera de ella"
Es más, si quieres cerrar el nótame, tan sencillo como eliminar el "notame.php" (perdonad la licencia tecnológica ) y ya estaría... pero venir aquí a pegarse meses amenazando es sencillamente absurdo.
Acojonante esto. Una curiosidad del discurso. Trump ha dicho que se ha llenado el país de gente escapada de manicomios. Trump piensa que las personas que piden asilo en EEUU (asylum) vienen de instituciones mentales (porque también se dice asylum). Según Rick Wilson llevan meses explicándoselo pero no hay manera. bsky.app/profile/noesporpresumir.bsky.social/post/3mbjwjj3fb22m
@lamonjamellada Yo soy más de regalar por reyes. Por lo demás, siempre recibo el mismo regalo tanto en navidad como en reyes: una puta gorra para calvos. El 25 cayeron dos, y en reyes caerá al menos otra con un 100% de probabilidad.
@lamonjamellada En mi casa siempre fuimos de reyes, pero la verdad es que hubiera preferido Papá Noel para disfrutar antes de los regalos . Ahora soy de pre-papá noel, mis padres todos los años, antes de la lotería de navidad, me dan un sobre con mi regalo , un décimo de navidad y otro del niño
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
Además, y como te respondí en un momento dado, no parecías distinguir entre lo que implica condenar una intervención bélica contraria al derecho internacional y el apoyo al régimen venezolano. Aunque no se apoye a un regimen, o incluso aunque se condene a un régimen, se puede condenar una intervención militar en su contra. Lo uno no quita lo otro...
Porque, de nuevo, de cara a condenar el ataque, da igual o debería de qué régimen estamos hablando. No hay ataque de este tipo que esté justificado y ya.
Y creo que ya somos mayorinos para saber las implicaciones de jugar a lo de tirar la piedra y esconder la mano.
Y ya he dicho todo lo que quería decir al respecto...
Hoy cumplo diez añazos en este saco (quién me iba a decir que aguantaría tanto).
La vida es lo que se pasa mientras consumimos (o esparcimos) gilipolleces, en un ciclo sin fin, hasta que la rueda del karma nos espachurre como al insecto de Kafka.
Seamos felices mientras podamos.
@lamonjamellada @Golan_Trevize @nilien
Mi propósito para 2026 es que si me invitan a alguna boda, ser capaz de zamparme todo el menú sin tocar un solo cubierto.
¿Qué os parece?
Me apunto a tu propuesta, si somos muchos los que pasamos de provocaciones y malos rollos quedarán en el limbo de la indiferencia (joder que bien me ha quedado).
Habrá que ser de "no hay mayor desprecio que no hacer aprecio" o "rebuznos de asno no llegan al cielo". También el de "no ofende quien quiere, sino quien puede".
@vazana @Golan_Trevize @nilien
Era por trabajo, un tema bastante técnico, y me encontré con Chavistas con perfil más bien bajo.
Habían elegido un proyecto, por simplificar, porque era bonito y barato.
Ese proyecto incumplía leyes vigentes sobre biodiversidad y parques naturales, pero por lo que sea (Chavez había quitado a los técnicos para poner fieles a la revolución) no lo habían tenido en cuenta.
Me reuní en un edificio oficial con los que mandaban, todos con chandales horribles, rojos con rayas de colores de Venezuela.
Había mucha gente comprada, y un bolivariano nos pidió una mordida de 200.000$ porque se acababa de divorciar y se quería comprar una casa nueva.
Sé que parece surrealista, pero lo cuento tal cual.
Al final había un jefazo que no era corrupto, y el proyecto no se llevó a cabo.
Pero eso es otra historia...
Te añado alguno a tu repertorio con su definición, son insultos de la edad de oro, vamos de cuando yo era joven.
Bultuntún: que habla sin ton ni son.
Cagalindes: cobarde.
Carcunda: de ideas retrógradas.
Casquivano: ligerito de cascos.
Catacaldos: persona que se dedica a muchas actividades y no se dedica con constancia a ninguna.
Chisgarabís: persona, frecuentemente joven, de escasa formalidad o sensatez.
Quien entró por aquí como elefante en una cacharrería hace meses, que yo recuerde, fue otro. Y ya entonces entre pitos, flautas y macarradas vino a decir y a demostrar que nos quería echar y chapar esto, porque éramos unos impresentables y un montón de otras cosas.
A mí se me escapa el empeño de todos los bandos con chapar el nótame, cuando la realidad es que los follones están por toda la página y por fuera de ella, y no se originan precisamente aquí. Más bien, llegan aquí y pretenden cerrarlo. Unos y otros.
A ver si es porque somos en plan la aldea irreductible (o igual, éramos), que escapa a cierto tipo de control, y entonces la estrategia es venir a provocar desde fuera, a ver si salta todo por los aires.
Es que solo faltaría, la verdad, que porque elementos externos le tengan ojeriza al nótame acabe chapado porque ellos vienen aquí a montarla, cuando nunca han sido ni serán parte de lo que es (o era) el nótame. Y se castigue a nótame y noteantes por las acciones de otros.
Pero en fin... lo de meter el pasado es porque esto es una sombra de lo que era, lo están consiguiendo con sus malos rollos y artes.
Es más, si quieres cerrar el nótame, tan sencillo como eliminar el "notame.php" (perdonad la licencia tecnológica
Con todas las comunidades que necesitan community managers para que no mueran, es sorprendente la resiliencia del Nótame.
cc/ @lamonjamellada que sé que le gusta la resiliencia.
Una curiosidad del discurso. Trump ha dicho que se ha llenado el país de gente escapada de manicomios. Trump piensa que las personas que piden asilo en EEUU (asylum) vienen de instituciones mentales (porque también se dice asylum). Según Rick Wilson llevan meses explicándoselo pero no hay manera.
bsky.app/profile/noesporpresumir.bsky.social/post/3mbjwjj3fb22m
Edit: lo leí antes de que lo editaras
@lamonjamellada