#2 La ley del algoritmo

donchan — Thu, 23 Jan 2025 17:32:01 +0000

De 2016 es el caso Loomis, también en Estados Unidos: un informe de IA (una herramienta llamada Compas) identificó a Eric Loomis como de «alto riesgo para la comunidad», lo que llevó a que la pena impuesta fuese más elevada de lo previsto (Loomis se había declarado culpable y eso le habría permitido salir en libertad vigilada, pero, en cambio, fue condenado a 5 años de cárcel y 6 de libertad vigilada).

Es decir, que se aumentó la condena a ese tipo porque una IA, que procesaba datos estadísticos, le señaló como que olía mal.
Esto es una auténtica burrada. La condena del tipo debe depender de lo que haya hecho ese tipo, no de lo que hayan hecho otros (los datos estadísticos).

La sentencia fue apelada, porque la defensa consideraba que se violaban los derechos fundamentales del acusado al no permitirle seguir el proceso que llevó a esa sentencia. Por el contrario, el Tribunal Supremo de Wisconsin consideró que no cabía réplica: la IA había simplemente usado datos.

Ese es otro motivo por el se debería anular el tema. Si la IA no puede explicar en qué se basa para decir lo que dice, esto debe equivaler a que no ha dicho nada, ya que se elimina el derecho a la defensa.

Me quedo acojonado de que haya jueces defendiendo esto.

» autor: donchan

#1 La ley del algoritmo

donchan — Thu, 23 Jan 2025 17:27:11 +0000

En España, por ejemplo, el Ministerio de Interior usa un algoritmo (VioGén) para prevenir el riesgo futuro para las mujeres víctimas de violencia de género.

Sí que lo hace, pero lo hace mal. Además, lo hace mal a propósito.

El resultado de esto es que la predicción tiene una fiabilidad nula.

En consecuencia, las cifras de mujeres muertas a manos de su marido, pues como que no varían en nada, al no depender de nada de esto.

» autor: donchan

Menéame: comentarios [4021292]

#2 La ley del algoritmo

#1 La ley del algoritmo