Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Me ha resultado muy esclarecedora la respuesta de Gemini sobre una cuestión que le hice: '¿Por qué las IAs tienden a dar cualquier respuesta, incluso incorrecta, en lugar de admitir su desconocimiento?'
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
Vecino de arriba montando algo y dejando caer herramientas y tornillos cada puta vez. Los conozco, no son mala gente, pero, parece, jodidamente idiotas.
Un titular:
"Trump es ya la mayor amenaza al orden global movido por la codicia y lejos de su falsa imagen de pacificador"
Han descubierto la rueda.
Pero yo iría más lejos: cualquier gobierno de ese país, republicano o demócrata, es criminal y va a cometer robos y crímenes.
Llevan décadas haciéndolo.
Trump solo lo ha hecho sin careta y diciendo un discurso de retrasado para retrasados.
@imparsifal Te advertimos varias veces, varios usuarios de que bajo ningún concepto dejases entrar a ese.
Que esto iba a pasar si o si. Que no tardaría ni una semana en empezar con el ventilador de mierda del pasado.
Yo mismo te lo dije no menos de 5 veces.
Los resultados ya los hemos visto todos.
La moderación va a tener que hacer horas extra.
La otra vez fueron cerca de 2000 veces, contando los que no llegaban a ver la luz porque los detectábamos antes.
@lamonjamellada
Me apunto a tu propuesta, si somos muchos los que pasamos de provocaciones y malos rollos quedarán en el limbo de la indiferencia (joder que bien me ha quedado).
Habrá que ser de "no hay mayor desprecio que no hacer aprecio" o "rebuznos de asno no llegan al cielo". También el de "no ofende quien quiere, sino quien puede".
@Ripio
Te añado alguno a tu repertorio con su definición, son insultos de la edad de oro, vamos de cuando yo era joven. Bultuntún: que habla sin ton ni son. Cagalindes: cobarde. Carcunda: de ideas retrógradas. Casquivano: ligerito de cascos. Catacaldos: persona que se dedica a muchas actividades y no se dedica con constancia a ninguna. Chisgarabís: persona, frecuentemente joven, de escasa formalidad o sensatez.
@vazana Puestos a lanzar teorías a cascoporro, también he leído por ahí que esto es una cortina de humo para que se deje de hablar del tema epstein, moviendo del debate político estadounidense a un tema en el que Trump pueda estar más cómodo.
@Duernu Vuelvo sobre lo dicho, ahora que ha hablado Trump para que veáis que (obviamente) el tema era ese, y coño! al menos no se esconde y lo dice a la cara a un mundo entero que parece estar a verlas venir.
Personalmente no doy crédito con el matonismo consentido, las amenazas, las intenciones, y el tono de discurso para borderlines. Hasta tal punto se cree el rey del mambo, que no ha dudado en mandar a paseo las pretensiones de la oposición venezolana de un plumazo, dando a entender que prefiere a los bolivarianos si le siguen la comba para quedarse con todo, o los machaca.. a ellos, y a Cuba y Colombia. La UE, China, Rusia, India... y cualquier país que se defina como actor global jamás deberían permitir una deriva como esta.
Y en cuanto a las masas... sinceramente, aunque no seas del team Maduro (yo no lo soy), hay que ser muy, pero que muy estúpido para ponerte en la Puerta del Sol a celebrar tamaña muestra del imperialismo más zafio visto en décadas , y más si encima eres de un partido político (o dos) que se postulan para tener responsabilidades de Gobierno en España a la vuelta de la esquina.
Acojonante esto. Una curiosidad del discurso. Trump ha dicho que se ha llenado el país de gente escapada de manicomios. Trump piensa que las personas que piden asilo en EEUU (asylum) vienen de instituciones mentales (porque también se dice asylum). Según Rick Wilson llevan meses explicándoselo pero no hay manera. bsky.app/profile/noesporpresumir.bsky.social/post/3mbjwjj3fb22m
Tendría que mirar cuanto les exporta Venezuela, pero asumo que China puede pasar más o menos sin el petróleo venezolano.
Lo que no se es lo que le podría pasar a occidente a corto plazo sin las fábricas chinas.
Y sí, debería estar baneado desde el segundo día que decidió escribir.
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
Los extremos se tocan
"Trump es ya la mayor amenaza al orden global movido por la codicia y lejos de su falsa imagen de pacificador"
Han descubierto la rueda.
Pero yo iría más lejos: cualquier gobierno de ese país, republicano o demócrata, es criminal y va a cometer robos y crímenes.
Llevan décadas haciéndolo.
Trump solo lo ha hecho sin careta y diciendo un discurso de retrasado para retrasados.
Que esto iba a pasar si o si. Que no tardaría ni una semana en empezar con el ventilador de mierda del pasado.
Yo mismo te lo dije no menos de 5 veces.
Los resultados ya los hemos visto todos.
La moderación va a tener que hacer horas extra.
La otra vez fueron cerca de 2000 veces, contando los que no llegaban a ver la luz porque los detectábamos antes.
Y lleva así desde 2011.
No te lo pierdas:
www.meneame.net/story/extienden-toda-espana-acampadas-permanentes-tras
BONUS www.meneame.net/story/extienden-toda-espana-acampadas-permanentes-tras
¿Es asi?
EDIT Y gracias por responder-
¿Tu quién te crees que eres para hablarme así?
Te recuerdo que los insultos y desprecios son penalizables para todos.
Tu lo has dicho.
@eirene @eunomia ¿Tengo que aguantar que se me hable así?
Toma, ya lo guardo yo:
Señalamiento, spam etc:
www.meneame.net/m/opinion/contra-verdadero-autoritarismo-meneame-respu
Venga, @imparsifal a ver si le lees la cartilla a tu amigo del MnM expandido.
Queremos verlo.
Me apunto a tu propuesta, si somos muchos los que pasamos de provocaciones y malos rollos quedarán en el limbo de la indiferencia (joder que bien me ha quedado).
Habrá que ser de "no hay mayor desprecio que no hacer aprecio" o "rebuznos de asno no llegan al cielo". También el de "no ofende quien quiere, sino quien puede".
@vazana @Golan_Trevize @nilien
Te añado alguno a tu repertorio con su definición, son insultos de la edad de oro, vamos de cuando yo era joven.
Bultuntún: que habla sin ton ni son.
Cagalindes: cobarde.
Carcunda: de ideas retrógradas.
Casquivano: ligerito de cascos.
Catacaldos: persona que se dedica a muchas actividades y no se dedica con constancia a ninguna.
Chisgarabís: persona, frecuentemente joven, de escasa formalidad o sensatez.
www.meneame.net/search?w=posts&q=NoMeVeas
Y se queja de los votos.
www.meneame.net/search?q=santaolalla&w=links&p=&s=&h=&
Entiendo.
Petróleo, si. Pero petróleo muy pesado.
Nada que ver con petróleos de Oriente Medio u otros sitios que son caviar al lado de este.
@angelitoMagno
Personalmente no doy crédito con el matonismo consentido, las amenazas, las intenciones, y el tono de discurso para borderlines. Hasta tal punto se cree el rey del mambo, que no ha dudado en mandar a paseo las pretensiones de la oposición venezolana de un plumazo, dando a entender que prefiere a los bolivarianos si le siguen la comba para quedarse con todo, o los machaca.. a ellos, y a Cuba y Colombia. La UE, China, Rusia, India... y cualquier país que se defina como actor global jamás deberían permitir una deriva como esta.
Y en cuanto a las masas... sinceramente, aunque no seas del team Maduro (yo no lo soy), hay que ser muy, pero que muy estúpido para ponerte en la Puerta del Sol a celebrar tamaña muestra del imperialismo más zafio visto en décadas , y más si encima eres de un partido político (o dos) que se postulan para tener responsabilidades de Gobierno en España a la vuelta de la esquina.
Una curiosidad del discurso. Trump ha dicho que se ha llenado el país de gente escapada de manicomios. Trump piensa que las personas que piden asilo en EEUU (asylum) vienen de instituciones mentales (porque también se dice asylum). Según Rick Wilson llevan meses explicándoselo pero no hay manera.
bsky.app/profile/noesporpresumir.bsky.social/post/3mbjwjj3fb22m
Los principales suministradores de petroleo a China son Rusia, Arabia Saudí, Irak, Omán y Malasia
elperiodicodelaenergia.com/las-importaciones-chinas-de-petroleo-dismin
Tendría que mirar cuanto les exporta Venezuela, pero asumo que China puede pasar más o menos sin el petróleo venezolano.
Lo que no se es lo que le podría pasar a occidente a corto plazo sin las fábricas chinas.
Y gas.
Y de todo.