Sophie Stipes era una niña con parálisis cerebral (...) La politóloga y profesora de la Universidad de Albany Virginia Eubanks (Nueva York, 1972) relata con todo detalle la batalla de la familia de Sophie en su libro La automatización de la desigualdad, reeditado este año en castellano por Capitán Swing. Esta y otras historias de exclusión por parte de algoritmos sirven a Eubanks para alertar sobre cómo la tecnología aplicada en los servicios públicos puede tener consecuencias desastrosas sobre los pobres.
Comentarios
“Los únicos valores que importan son la eficiencia, el ahorro de costes y la lucha contra el fraude, el desperdicio y el abuso”
Eso no es culpa de usar algoritmos, es culpa de lo que se pide a los algoritmos que hagan.
Como siempre, un martillo no es bueno ni es malo, todo depende de como lo uses.
#3 Ya se menciona eso al principio del artículo:
“Tenemos la tendencia a pensar en estas tecnologías como simples mejoras administrativas. Como cuestiones de eficiencia. Cuando realmente hay una serie de decisiones sociales, culturales y políticas incrustadas en ellas”, reflexiona Eubanks
Es decir, esta persona es muy consciente de ello. Precisamente por eso está analizándolo y criticándo las debilidades de estos sistemas.
si no recuerdo, IBM también estaba detrás de una IA que ayudaba a estimar el mejor tratamiento para pacientes oncológicos. La retiraron cuando "sugirió" dejar sin medicación a algunos de ellos.
Parecía una tontería sensacionalista pero vale la pena leerlo.