La semana pasada, el Concejo de la Ciudad de Nueva York aprobó por unanimidad un proyecto de ley para combatir la discriminación algorítmica, la primera medida de este tipo en el país. El proyecto de ley de responsabilidad algorítmica, a la espera de ser promulgado por el alcalde Bill de Blasio, establece un grupo de trabajo que estudiará cómo las agencias municipales usan algoritmos para tomar decisiones que afectan las vidas de los neoyorquinos, y si alguno de los sistemas parece discriminar a las personas.
Comentarios
Necesario para entender el contexto de la medida: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
Más relacionadas:
— Los algoritmos sesgados están por todas partes, y parece que a nadie le importa
Los algoritmos sesgados están por todas partes, y ...
technologyreview.es— Cómo evitar la discriminación de los algoritmos que nos gobiernan
Cómo evitar la discriminación de los algoritmos qu...
technologyreview.esAl entrar a la noticia pensé que iba a hablar de aprendizaje automático, pero habla de algoritmo de forma muy general para referirse a cualquier software y ahí más que hablar de sesgo hablaría de mal diseño. No deja de ser software que hace estadísticas y extrae conclusiones de esas estadísticas. El problema de cualquier estadística es su interpretación, y eso no es culpa de software, menos si hablamos de cosas más tradicionales y no parece que hable de aprendizaje automático.
Sí me parece un peligro que en cuanto aparecen nuevas técnicas se apliquen sin ningún cuestionamiento y encima parece que tienen más rigor que cualquier cosa que tuvieramos hasta entonces. Lo mismo pasa en general, con los test de adn.
#2 el medio aunque tenga investigadores más que competentes para temas CTIM que otro medios que se dedican exclusivamente a esos temas no redacta noticias informando en ese sentido.
Básicamente la noticia es que se va en Nueva York se va a auditar dónde, con qué información y qué resultados se usan programas de gestión de riesgos, lo mismo que pasó con las pruebas de ADN, y mucha autopublicidad de que fue gracias a ellos por otras noticias relacionadas.