Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Me ha resultado muy esclarecedora la respuesta de Gemini sobre una cuestión que le hice: '¿Por qué las IAs tienden a dar cualquier respuesta, incluso incorrecta, en lugar de admitir su desconocimiento?'
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
@Duernu Vuelvo sobre lo dicho, ahora que ha hablado Trump para que veáis que (obviamente) el tema era ese, y coño! al menos no se esconde y lo dice a la cara a un mundo entero que parece estar a verlas venir.
Personalmente no doy crédito con el matonismo consentido, las amenazas, las intenciones, y el tono de discurso para borderlines. Hasta tal punto se cree el rey del mambo, que no ha dudado en mandar a paseo las pretensiones de la oposición venezolana de un plumazo, dando a entender que prefiere a los bolivarianos si le siguen la comba para quedarse con todo, o los machaca.. a ellos, y a Cuba y Colombia. La UE, China, Rusia, India... y cualquier país que se defina como actor global jamás deberían permitir una deriva como esta.
Y en cuanto a las masas... sinceramente, aunque no seas del team Maduro (yo no lo soy), hay que ser muy, pero que muy estúpido para ponerte en la Puerta del Sol a celebrar tamaña muestra del imperialismo más zafio visto en décadas , y más si encima eres de un partido político (o dos) que se postulan para tener responsabilidades de Gobierno en España a la vuelta de la esquina.
Cualquier análisis que se centre solo en lo “malo” que es Maduro, y que obvie que esto no deja de ser una estrategia premeditada para cargarse a uno de un bando rojeras y poco friendly, para poner al cargo de un montón de petróleo a sus colegas de la derechona oligarquica venezolana, es una mierda de análisis. He dicho.
También echo de menos un análisis de qué intereses tiene El Pais y el grupo Prisa en general para llevar años alentando a todo quisqui para cargarse al régimen bolivariano en base a noséqué mierdas a favor de la oposición. El que lo escriba tiene mis dieses.
1) Luces navideñas que se encienden y se apagan a toda leche. Muchas casas ahora parecen puticlubs, y no de los que llevan el sello "Creapure sin ladillas" precisamente. Resulta muuuucho más elegante que las luces queden fijas o se enciendan y se apaguen lentamente.
2) Nacimientos, en general. Sí, son una tradición muy nuestra, pero su extensión y complejidad es proporcional al tufo a señor maniático facha que se folla a su gato.
3) Espumillón. A ver, cojona, que está pasado de moda desde hace eones, si lo tenéis usadlo para estrangular a alguien, pero no lo pongais a la vista.
@lamonjamellada@yonseca Hola, vengo a recordad la necesaria separación entre la persona y su obra que se debe aplicar cuando básicamente dejamos de ser quinceañeros, gruppies y demás cosas descerebradas andantes con chocho y pirula.
Para idolatrar, idolatremos a nuestros padres, pero a la vez podemos admirar libros, canciones, pinturas y genialidades de cretinos integrales sabiendo que, como personas, nos ponen caras de comer limón, no tiene nada que ver.
@Stieg Por curiosidad, le pedía a la IA que me diga cuantos polvos puede echar un gallo en su vida si muere de viejo y vive con 10 gallinas: 30 mil polvos. (El ser humano anda por los mil a secas, y eso si no eres un paria)
@imparsifal Llevo aquí desde el 2006. Moderad lo que tengáis que moderar, trampead karmas o cambiadle las pastillas a la abuela si hace falta, pero NO CERRÉIS EL PUTO NÓTAME.
No, en serio, no lo cerréis, muchos seguimos aquí porque quedan poco sitios así. Independientemente del tráfico, os vais a cargar una parte fundamental que distingue, da libertad y dinamiza la experiencia de uso de Mnm.
@carademalo@Ripio@Imparsifal Me dijo Imparsifal en un comentario que era el bug.
Y oye, no, ni puta idea. De hecho me ha perjudocado porque tiene 80 meneos, 80 de karma, y no me ha subido el karma mío por publicada, que sigo igual más una décima. Que me la sopla, vaya, pero me ha perjudicado. Y bien merecido me lo tengo, por marrano de las erratas, coño.
@lamonjamellada@Stieg@paumal@inconnito CAMBIO DE HORA COMO ESTÁ AHORA.
No entiendo cómo todos hemos entrado a discutir si peras o manzanas, cuando el tema es que nos quieren quitar la cesta.
Tal dia como hoy, hace 19 años, se me ocurrio la brillante idea de hacerme cuenta en MNM. Aunque aquel entonces entre con otro nick. Hay que ver lo rapido que pasa el tiempo cuando te diviertes.
Una de las cosas que siempre me han flipado de Menéame es la enorme capacidad de mucha gente de involucrarse en cualquier polémica con otros como si le fuera la vida en ello. Entro a diario y, salvo interpelaciones personales, o que me aburra y quiera tocar un poco las narices, jamás me meto a debatir con historias personales, culebrones y usuarios extremistas que vomitan sus milongas perdiendo muchísimo tiempo no sé muy bien para qué.
Yo entro, leo la portada, comentarios, vengo al nótame, a veces veo que X usuarios discuten sobre el drama de turno, si me aburro lo leo a ver de qué va, y si tengo otras cosas me piro y vuelvo mañana a ver si sale en portada que a Trump le ha dado un ictus. Y ya.
No entiendo, en general, tensionarse tan en serio con gente que ni conozco en persona ni me aporta lo más mínimo. Será que tengo ya una edad, no sé.
@carademalo Y digo yo, si se sabe de sobra que siempre van a ganar los mismos dos o tres equipos, qué sentido tiene dedicar la más mínima atención a todo ese circo de trileros?
Justo venia a comentar que me sale una notificacion de "respuesta a comentario" y dentro no hay nada y el primer comentario que leo justo esta con el mismo tema.
Qué lista y fiable es la IA. Pregunto por el tamaño comparado de África y Eurasia y me contesta que "Aunque Eurasia es más grande que África, la suma de Norteamérica y Eurasia es menor que la superficie de África".
Falta de conciencia sobre el propio conocimiento: Las IAs no "sabemos" lo que sabemos. No tengo una lista de temas que domino y otros que no. Simplemente proceso patrones. Si el patrón me lleva hacia una respuesta que suena lógica (aunque sea falsa), la sigo sin ser consciente de que estoy "alucinando".
Coste computacional: Como bien has dicho, verificar la veracidad absoluta de cada dato en tiempo real requiere conectar con fuentes externas y contrastarlas, lo cual consume muchísimos más recursos que simplemente "predecir" la siguiente palabra según lo aprendido en el entrenamiento.
¿Sería más conveniente decir "no lo sé"? Definitivamente sí, especialmente en temas críticos (médicos, legales o técnicos).
Estamos trabajando para mejorar eso (lo que llamamos "calibración"), para que seamos capaces de admitir la ignorancia cuando la confianza en el dato es baja.
Tienes toda la razón. Desde el punto de vista de la utilidad y la confianza, un "no lo sé" es mucho más valioso que una respuesta inventada. Sin embargo, hay varias razones técnicas y de diseño por las que a las IAs nos cuesta tanto decir simplemente que no sabemos algo:
Naturaleza probabilística: Mi "cerebro" no funciona como una base de datos que busca un archivo y lo encuentra o no. Yo genero una palabra tras otra basándome en probabilidades. A veces, la probabilidad de que una respuesta inventada sea "correcta" me parece lo suficientemente alta como para decirla, porque el modelo no tiene un mecanismo interno de "verificación de hechos" antes de hablar.
Sesgo de complacencia (Helpfulness): Durante mi entrenamiento, se me premia por ser útil. Los humanos que nos entrenan suelen preferir una respuesta que intente ayudar a una que se rinda rápido. Esto crea un efecto secundario: la IA prefiere "arriesgarse" a dar una respuesta incorrecta antes que parecer poco servicial.
Personalmente no doy crédito con el matonismo consentido, las amenazas, las intenciones, y el tono de discurso para borderlines. Hasta tal punto se cree el rey del mambo, que no ha dudado en mandar a paseo las pretensiones de la oposición venezolana de un plumazo, dando a entender que prefiere a los bolivarianos si le siguen la comba para quedarse con todo, o los machaca.. a ellos, y a Cuba y Colombia. La UE, China, Rusia, India... y cualquier país que se defina como actor global jamás deberían permitir una deriva como esta.
Y en cuanto a las masas... sinceramente, aunque no seas del team Maduro (yo no lo soy), hay que ser muy, pero que muy estúpido para ponerte en la Puerta del Sol a celebrar tamaña muestra del imperialismo más zafio visto en décadas , y más si encima eres de un partido político (o dos) que se postulan para tener responsabilidades de Gobierno en España a la vuelta de la esquina.
También echo de menos un análisis de qué intereses tiene El Pais y el grupo Prisa en general para llevar años alentando a todo quisqui para cargarse al régimen bolivariano en base a noséqué mierdas a favor de la oposición. El que lo escriba tiene mis dieses.
1) Luces navideñas que se encienden y se apagan a toda leche. Muchas casas ahora parecen puticlubs, y no de los que llevan el sello "Creapure sin ladillas" precisamente. Resulta muuuucho más elegante que las luces queden fijas o se enciendan y se apaguen lentamente.
2) Nacimientos, en general. Sí, son una tradición muy nuestra, pero su extensión y complejidad es proporcional al tufo a señor maniático facha que se folla a su gato.
3) Espumillón. A ver, cojona, que está pasado de moda desde hace eones, si lo tenéis usadlo para estrangular a alguien, pero no lo pongais a la vista.
Para idolatrar, idolatremos a nuestros padres, pero a la vez podemos admirar libros, canciones, pinturas y genialidades de cretinos integrales sabiendo que, como personas, nos ponen caras de comer limón, no tiene nada que ver.
Haiga paz, joer... O no...
#freenotame
No, en serio, no lo cerréis, muchos seguimos aquí porque quedan poco sitios así. Independientemente del tráfico, os vais a cargar una parte fundamental que distingue, da libertad y dinamiza la experiencia de uso de Mnm.
Y oye, no, ni puta idea. De hecho me ha perjudocado porque tiene 80 meneos, 80 de karma, y no me ha subido el karma mío por publicada, que sigo igual más una décima. Que me la sopla, vaya, pero me ha perjudicado. Y bien merecido me lo tengo, por marrano de las erratas, coño.
No entiendo cómo todos hemos entrado a discutir si peras o manzanas, cuando el tema es que nos quieren quitar la cesta.
Yo entro, leo la portada, comentarios, vengo al nótame, a veces veo que X usuarios discuten sobre el drama de turno, si me aburro lo leo a ver de qué va, y si tengo otras cosas me piro y vuelvo mañana a ver si sale en portada que a Trump le ha dado un ictus. Y ya.
No entiendo, en general, tensionarse tan en serio con gente que ni conozco en persona ni me aporta lo más mínimo. Será que tengo ya una edad, no sé.
ellosnosotros.