Los algoritmos de Machine Learning están cobrando cada vez más importancia en nuestro día a día. Estamos rodeados de aplicaciones que utilizan estos algoritmos constantemente. Cada vez existen más personas que se cuestionan si estos algoritmos actúan o se comportan de forma ética. Por ejemplo, en 2016 se descubrió que los algoritmos de LinkedIn tenían sesgo de género y que recomendaban empleos mejor remunerados a hombres que a mujeres.
Si entrenamos nuestros algoritmos con datos sesgados estos también lo estarán. Cuando hablamos de datos sesgados o biased data nos referimos a "datos desbalanceados" que no son representativos de la realidad o que reflejan los prejuicios de algunas personas. Como comentaba Enrique Blanco en su artículo, estos fallos o sesgos están muy presentes en la tecnología que nos rodea. Un claro ejemplo es el caso de LinkedIn citado antes.
La culpa no es del algoritmo... es de los datos...
Es como decir que el cocinero es malo porque sus platos saben mal... y luego decir que se le ha dado comida en mal estado para empezar...
Lo siento, me molesta que acusen continuamente a los algoritmos de la IA de hacer mal algo que hacen mal los que los usan.
Por ejemplo, en 2016 se descubrió que los algoritmos de LinkedIn tenían sesgo de género y que recomendaban empleos mejor remunerados a hombres que a mujeres.
El problema no era ese. Era que los algoritmos carecen de sesgos mientras que los humanos tienen sesgos. El problema real es la diferencia entre ambos casos. Se culpa al algoritmo de no comportarse con los mismos sesgos que los humanos, pero para eso habrá que programarle ese sesgo.
#3 Creo que vale la pena volver a mencionar el caso de los funcionarios australianos. Siempre habrá alguien que no lo conozca.
Es exactamente lo mismo, pero sin ordenadores.
En Australia, los funcionarios son contratados. No va por oposiciones. Los primeros pasos son:
- El candidato envia su CV
- Se seleccionan unos CV sí y otros que no
- Los seleccionados se presentan a una entrevista
- ... más pasos ...
Se seleccionaban sistemáticamente más hombres que mujeres. Las feministas demandaron contra esta discriminación patriarcal. Se ordenó lo siguiente:
- Se añade un paso previo de anonimización donde se elimina del CV cualquier dato que permitiera conocer el sexo de candidato.
El resultado de seleccionar sin conocer el sexo fué que se llamaron a entrevistas a muchas menos mujeres que antes.
Es decir que los seleccionadores discriminaban no a las mujeres, sino a los hombres. El sesgo aplicado era para favorecer a las mujeres. El sesgo lo aplicaban tanto seleccionadores hombres como mujeres.
Se volvió al procedimiento anterior para favorecer a las mujeres.
Lo que se deduce de aquí es que las teorías feministas no están basadas en la realidad. La realidad es completamente distinta. El feminismo es una invención.
Comentarios
Si entrenamos nuestros algoritmos con datos sesgados estos también lo estarán. Cuando hablamos de datos sesgados o biased data nos referimos a "datos desbalanceados" que no son representativos de la realidad o que reflejan los prejuicios de algunas personas. Como comentaba Enrique Blanco en su artículo, estos fallos o sesgos están muy presentes en la tecnología que nos rodea. Un claro ejemplo es el caso de LinkedIn citado antes.
La culpa no es del algoritmo... es de los datos...
Es como decir que el cocinero es malo porque sus platos saben mal... y luego decir que se le ha dado comida en mal estado para empezar...
Lo siento, me molesta que acusen continuamente a los algoritmos de la IA de hacer mal algo que hacen mal los que los usan.
#1 aun te han quedado ganas de leer el articulo despues de leer la entradilla? Que paciencia la tuya
#1 Lo que están diciendo es que al algoritmo no hay que darle los datos reales porque se los cree.
Lo que me recuerda al viejo chiste
- Papá dame pan
- No hijo que te lo comes
Por ejemplo, en 2016 se descubrió que los algoritmos de LinkedIn tenían sesgo de género y que recomendaban empleos mejor remunerados a hombres que a mujeres.
El problema no era ese. Era que los algoritmos carecen de sesgos mientras que los humanos tienen sesgos. El problema real es la diferencia entre ambos casos. Se culpa al algoritmo de no comportarse con los mismos sesgos que los humanos, pero para eso habrá que programarle ese sesgo.
#3 Creo que vale la pena volver a mencionar el caso de los funcionarios australianos. Siempre habrá alguien que no lo conozca.
Es exactamente lo mismo, pero sin ordenadores.
En Australia, los funcionarios son contratados. No va por oposiciones. Los primeros pasos son:
- El candidato envia su CV
- Se seleccionan unos CV sí y otros que no
- Los seleccionados se presentan a una entrevista
- ... más pasos ...
Se seleccionaban sistemáticamente más hombres que mujeres. Las feministas demandaron contra esta discriminación patriarcal. Se ordenó lo siguiente:
- Se añade un paso previo de anonimización donde se elimina del CV cualquier dato que permitiera conocer el sexo de candidato.
El resultado de seleccionar sin conocer el sexo fué que se llamaron a entrevistas a muchas menos mujeres que antes.
Es decir que los seleccionadores discriminaban no a las mujeres, sino a los hombres. El sesgo aplicado era para favorecer a las mujeres. El sesgo lo aplicaban tanto seleccionadores hombres como mujeres.
Se volvió al procedimiento anterior para favorecer a las mujeres.
Lo que se deduce de aquí es que las teorías feministas no están basadas en la realidad. La realidad es completamente distinta. El feminismo es una invención.