edición general
buronix

buronix

En menéame desde noviembre de 2007

9,54 Karma
1.945 Ranking
49 Enviadas
8 Publicadas
2.291 Comentarios
0 Notas

Engaños de la IA: cuando aporta fuentes reales pero inventa su contenido [16]

  1. #9 Es el sistema que tenemos montado de aprendizaje, que no es tanto aprender, como reforzar que de respuestas, luego la cosa es que ese feedback que se le da de respuestas válidas pues es muy confuso, xEj existe alguien realmente entrenando a una IA en el sistema legal Español? No lo creo, está simplemente procesando la información, vete a saber de qué fuentes y de qué manera, sabe distinguir fuentes fiables, menciones, citas o "esto es así" (por que alguien lo dice) unas de otras? qué peso le da a cada una? es una movida, es un sector, pero en general es todo así, salvo que entrenes a una IA en un ámbito especializado concreto, tras mucho entrenamiento y feedback pues puede que alucine menos, pero eso es un trabajo que puede llevar mucho tiempo, mientras tanto solo queda que sean las personas las que validen la información y decidan que Einstein es una fuente más fiable que tu cuñado.
  1. Por lo que he entendido y soy capaz de comprender en base a experiencias y contexto, que no digo que sea la verdad ni mucho menos, las alucinaciones vienen dadas cuando la IA enfrenta la necesidad de cumplir con las instrucciones dadas y las necesidades solicitadas pero no es capaz de alcanzar el objetivo de una manera directa por lo que acaba buscando por temperatura un enlace lo suficiente cercano a la respuesta necesaria y a partir de ella procede a razonarla para cumplir con las instrucciones solicitadas.
    En gran parte es culpa del usuario, por desconocimiento principalmente pero también por problemas a la hora del aprendizaje y fallos en el modelo por supuesto.
    Lo mas cercano para entender es cuando la gente, ya sea por ego o por desconocimiento busca en google algo, pero enuncia su busqueda orientada a encontrar algo que le de la razón, no tanto buscar la respuesta correcta.
    Si tu estas escribiendo una redacción y pides a la IA que te busque y cite tres artículos que demuestran tus argumentos, los va a buscar y es posible que aunque no existan realmente tres artículos que demuestran tus argumentos, buscara probablemente aquellos que con mas probabilidad puedan demostrarlo, si le pides que te de citas o enlaces a ellos, si no existen pero quizas encuentre menciones de algunos aun sin fuentes acaba encontrando aquellas fuentes e intentando cumplir con tus instrucciones buscara una manera de generarlas, por que una IA no tiene concepto de verdad ni de realidad intrínsecamente.
    He experimentado mucho esto, es muy importante sobre todo no dar por sentados los objetivos que le enmarcas por que va a intentar cumplirlos y no tiene reparos en inventarselos para cumplir los objetivos que le has enmarcado.

EE.UU. utilizó poderosa arma misteriosa que puso de rodillas a soldados venezolanos durante redada de Maduro: relato de testigo [EN] [34]

  1. #17 Lo siento, pero a parte de que no es la primera vez que oigo esta tecnología, ha sido reconocida oficialmente por varios países, incluido Estados Unidos, y ya ha sido usada, pero sobre todo, no es una persona, son la declaraciones de múltiples personas.
    Mira atrás un momento y reflexiona, que es más probable, que sea a causa de una tecnología conocida y ajustada a la declaración de los testigos, o que sea a causa de un arma química desconocida, de la que no se ha reportado de ninguna manera, no existen testigos que prueben remotamente su uso, de la que no tenemos prueba de que existe y es desconocida para todos y que cause esos exactos síntomas, que no tenga otros efectos que podamos demostrar o reportar y adicionalmente cause alucinaciones que hagan confundir en masa a la gente a pensar que están siendo atacados por una tecnología de la que sí que conocemos.
    Has escuchado alguna vez hablar de la navaja de ockham?
  1. #15 Pero tu has leido el articulo y los comentarios de los afectados o has venido a hablar de tu libro?

Kaja Kallas dice que UE es aliada de EEUU, pero que las amenazas a Groenlandia "no ayudan" [16]

  1. Mientras discutimos lo de Groelandia, lo de Venezuela para otro dia, 101 de trilero.

¡Solo avena y espinaca! Sin harina, sin azúcar, sin levadura [9]

  1. Mitad de calorías que el pan de verdad, así puedes comer el doble, si es que te atreves.

Donald Trump copia a Pablo Iglesias en materia de vivienda [18]

  1. No lo dice la noticia pero estoy seguro que además a los dos les da por comer todos los dias.
    Inaudito.

James Webb pilla a dos galaxias interactuando y colisionando [33]

“El imperio de la IA”: Karen Hao analiza cómo la inteligencia artificial amenaza la democracia y está generando un nuevo régimen colonial [5]

  1. #3 Pues siento que soy un ignorante y aun eso cuando la veo tratar temas fuera de los ecológicos y laborales, que no le quito la razón, soy capaz de reconocer que demuestra mucha ignorancia, ese es el problema la verdad, si hasta yo me doy cuenta imagínate.
  1. Esta mujer esta muy perdida, pero no quita que intente exprimir todo el dinero que pueda aprovechando la indignación y el miedo de la gente.

Maria Corina Machado dice que "le encantaría compartir el Nobel de la Paz con Trump" [57]

  1. Si hace falta arrastrarse, pues uno se arrastra, total, las botas no se iban a besar solas.

Los dueños de coches eléctricos que los recargan en su casa toman una comida más sana [29]

  1. Y el 60% desayunan magdalenas.

El PP defiende ahora que “hay dudas sobre si se ha infringido el Derecho Internacional” en Venezuela [98]

  1. "Dudas"

BBC prohíbe a sus periodistas usar el término "secuestrado" para describir la captura de Maduro [105]

  1. Secuestrado no, estaba tomando cañas.

Hola Gemini. ¿Podría Estados Unidos atacar a Venezuela? [14]

  1. Ahora pregúntale si piensa que la ONU son los padres.

Haz turismo (Celtas Cortos -directo) [27]

  1. Importante recordar que semos los buenos.

Las empresas de Mallorca no avanzan la llegada de empleados «porque no fideliza» [107]

  1. Lo peor sera que la gran mayoría de ellos votarán a partidos políticos que están en contra de establecer limites de precios en especulación que hacen inviable a los trabajadores seguir en esas condiciones, ellos mismos se arruinan la situación, la ignorancia no conoce límites y es muchísimo mas rápida que la inteligencia.

Hay una brecha enorme entre lo que creemos que hace la marihuana medicinal y lo que hace en realidad [27]

  1. Aun estoy por ver una gráfica de muertes causadas por la Marihuana.
    socidrogalcohol.org/el-alcohol-es-responsable-anualmente-de-mas-del-do

31 de Desembre, la fiesta con setecientos años de antigüedad que irrita a la ultraderecha y divide a los mallorquines [30]

  1. #8 no jodas, vaya epoca me he perdido.

El GPS es vulnerable —se necesita nueva tecnología [en] [12]

  1. #10 Parece raro, aparecía recomendada en toda agencia europea relacionada para comprobar el soporte, pero gracias, las pruebo.
  1. #1 llevo mucho escuchando lo del galileo, justo me dio por verificar mi tlf con gpstest, tengo un poco x7 pro y nanailo, satelites gps, rusos y chinos pero galileo nada

Vídeos generados por IA que muestran a mujeres jóvenes y atractivas promueven la salida de Polonia de la UE [17]

  1. Corred insensatos Polacos! huid de Europa, rapido! raudos!

He comprado online porque en mi pueblo cada vez hay menos tiendas.... y siento que el proceso agota: es como horas extra de trabajo [22]

  1. Uff que agobió comprar online.
    No, en serio, sobra gente

¿Por qué el hielo es resbaladizo? Una nueva hipótesis se desliza en la conversación [13]

  1. #1 Buena noticia para romper el hielo.

“No se deben perder 7 millones de kilómetros cuadrados”: Los medios de comunicación chinos discuten abiertamente repartirse Rusia (ING) [81]

  1. Es aquí donde viene la gente a ver un articulo de mierda de un blog en un país de más 1400 millones de personas?
    No se lo digáis a Indra que le da un jamacuco del ataque de risa.
    Flipaos.
« anterior1

menéame