En una resolución adoptada con 377 votos a favor, 248 en contra y 62 abstenciones, los eurodiputados advierten de los sesgos en que incurren los algoritmos y enfatiza la necesidad de incorporar supervisión humana y controles jurídicos para evitar discriminación, en particular cuando se utiliza la inteligencia artificial en los controles fronterizos. Las decisiones finales siempre deben adoptarlas personas, recalcan los eurodiputados, y las personas sujetas a este tipo de herramientas han de poder apelar sus decisiones.
Comentarios
Las IA estan entrenadas con datos falsos. Si no eres blanco lo llevas mal. Lei una noticia en EE.UU. que habian detenido a un ciudadano afroamericano, porque la IA que usaban lo habia confundido con otro.
#1 Los humanos diferenciamos pero a los que no son de nuestra raza( todos los chinos son iguales :P).
Mas bien de las razas que nos relacionamos menos.
Los programas de reconocimiento facial chinos diferencian mejor los chinos que los occidentales y hay reves.
Es normal que con mas datos funcione mejor.
Pero la IA, como los ordenadores y tecnologias, nuevos ofrecen un universo completo de formas de fallar, equivocarse y generar problemas.
Pero puede ser muy util, por ejemplo para revisar fallos judiciales.
Tambien pienso que serian muy utiles para hacer detectores de conductores drogados, por la forma de conducir. Luego se pararian y se comprobaria como se hace siempre.