Estados Unidos: departamento de policía obligado a explicar por qué un informe policial generado por IA afirmaba que un agente se había transformado en una rana

“El software de la cámara corporal y el de generación de informes de IA detectaron la película que se reproducía de fondo, que resultó ser 'La Princesa y la rana'”. El objetivo era reducir la cantidad de papeleo, pero se pasan por alto errores inmensos, incluso una simulación destinada a demostrar lo que la herramienta es capaz de hacer, resultó en un desastre. También se ha demostrado que las herramientas de IA generativa perpetúan prejuicios contra las mujeres y las personas no blancas.

[#6 PerritaPiloto]

Me convirtió en grillo... y mejoré.

[#1 HeilHynkel]

Les llevamos siglos de ventaja ... aquí eso le pasó a un Borbón.

[#3 Juantxi]

#1 Con todos los Borbón que este país ha sufrido.

[#10 azathothruna]

#3 No es suficiente, ni con los FRANQUISTAS del barroco, ni con lo de la edad media (Habsburgo)
Ezpañistan merece mas Karma

[#24 mre13185]

#1 Ese era muy "animoso"

[#9 Paisos_Catalans]

"También se ha demostrado que las herramientas de IA generativa perpetúan prejuicios contra las mujeres y las personas no blancas. "

interesante.

[#26 Penetrator]

#9 A la par que previsible.

[#4 Dragstat]

@admin @Eirene ¿se podría añadir la etiqueta indicando que está en inglés? Olvidé ponerla.

[#2 Jointhouse_Blues]

No jodas, Gustavo.

[#21 euacca]

#19 Dices que la van a convertir en infalible y a la vez que nosotros funcionamos igual. ¿Acaso hay alguna persona infalible? Es obvio que sé más de IA (o de lo que significa infalible) que cualquiera que diga que pronto la IA será infalible. El coste de los tokens baja, pero los grandes éxitos son con los modos agente, en las que el agente habla consigo mismo bastante antes de darte una respuesta, y todo eso son tokens también.

[#22 Klapaucius]

#21 Ahora te tengo más de estima intelectual con esa respuesta.

Tienes razón, nunca será infalible al 100%, me tomé la licencia, aunque en la práctica sí lo sea en la mayor parte de casos de uso cotidiano. Ni el Universo es determinista.

Se usan más tokens, a menor coste; es difícil comparar el coste en la resolución de un problema concreto cuando uno sube y el otro baja y la resolución es más eficiente. El aumento de la infraestructura se debe más al uso intensivo de esta nueva tecnología que al aumento o disminución de su coste. Al igual que la electricidad, su generación cada vez ha sido y será más barata, pero sus usos siempre han aumentado.

[#25 euacca]

#22 Que estén poniendo IA en todas partes y openAI esté perdiendo muchísimo dinero aun así no pinta bien.

[#18 konde1313]

#17 Eso obliga a revisar todas las referencias, claro. Yo soy bastante escéptico cuando se afirma que nos van a sustituir, pero reconozco que bien utilizadas ayudan bastante.

[#8 Klapaucius]

La noticia real es que ya están empleando IA para los informes policiales. En unos meses, serán más efectivas y en algunos más, infalibles. Pero aquí nos quedaremos con la anécdota de la rana, en lugar de avanzar.

[#11 Canijo]

#8 infalibles jajajaja claro que si rick =)

[#12 euacca]

#8 Lo que no estás viendo es que solo las saben mejorar de un modo cuantitativo, que gasten más energía para darles más potencia. Es imposible que sean infalibles, solo pueden reducir la posibilidad de que fallen (gastando más energía), no eliminarla.

A ver si te lo sé explicar: Si en entrenamiento de una de estas IA tú le das un texto, en cierto modo se lo aprende, ¿No? Pero el texto no queda en su interior, no, lo que queda es la huella del texto. Es una huella matemática, estadística. Si…   

[#19 Klapaucius]

#12 Al contrario, en cada nuevo modelo el coste por token es menor. Hay una carrera por abaratar el coste y precio de cada token usado. Esto hace que una misma tarea sea cada vez más barata y cada vez se puedan realizar nuevos tipos de tareas que por coste eran prohibitivas.

Sobre la segunda parte, literalmente tu propia inteligencia funciona del mismo modo, solo que con este desarrollo tecnológico podemos utilizar mayor cantidad de ella.

Y vaya condescendencia a la hora de hablar o tratar de "explicar", sin ni siquiera saber con quién hablas ni tener información suficiente para inferir nada sobre mí.

[#13 TXinTXe]

#8 "en unos meses" llevamos esperando esos pocos meses ya como 3 o 4 años no me jodas... La realidad es que estos chatbots están estancados haciendo pequeñísimas mejoras a costa de aumentar la potencia exponencialmente (y por tanto también el gasto de energía y demás)

[#20 Klapaucius]

#13 Si es tu percepción, es porque no debes estar al tanto de los últimos avances a nivel usuario y empresa: Gemini 3 Flash, Claude Opus 4.5... Las nuevas posibilidades que abren solo estos dos modelos son infinitas y aún no se han explotado, porque no ha habido el tiempo suficiente para ello.

Creo que la mayoría piensa que la IA o estos modelos lm se limitan a las apps que tienen en sus móviles para chatear, y nada más lejos de la realidad.

[#23 TXinTXe]

#20 He probado ya alguno de esos que son de pago y se supone que muy guapos y tal por curiosidad, no recuerdo exactamente cuales, y la verdad es que siguen siendo absolutamente incapaces de hacer las tareas más simples sin cagarla estrepitosamente...

[#16 konde1313]

#8 Llevamos ya varias versiones de IA que van a marcar un antes y un después. Esto empieza a parecerse a aquello de “el partido del siglo”. Yo avanzo lo que haga falta, pero igual a estas alturas seguir teniendo unas expectativas tan altas… no lo veo.

[#14 Eukherio]

Lo más jodido de esto es que como un abogado medianamente listo se entere de que están usando IA para informes y demás rápido se aprovecha para librar a sus clientes por cualquier gilipollez. Esto no deja de ser una chorrada, pero a ver qué pasa cuando un delincuente libre por un informe de mierda.

[#15 konde1313]

#14 El problema no es que usen la IA para ayudarse a redactar informes, el problema es que no se lean después y el informe diga tonterías.

[#17 Eukherio]

#15 Pero es que el problema de repasar lo creado por la IA es que sus alucinaciones tienden a ser impredecibles. A lo mejor estás leyendo y todo te parece correcto pero resulta que hay una gilipollez enorme en medio que no te salta de primeras porque no te esperas algo así. Un amigo que trabaja en temas de investigación ya me contó que cada vez se encuentran más papers con referencias inventadas: el autor es real, el campo de investigación es el correcto, el título del paper que se cita es inventado. Y a veces lo gracioso es que la cita es correcta, pero está en otro artículo.

[#7 domadordeboquerones]

Maduro habla con pajaritos, las americas están fatal oigan!

[#5 Ainur]

la IA se vió Bright y se vino arriba