Portada
mis comunidades
otras secciones
#48:
#28 La ausencia de datos no produce un sesgo sino, a lo sumo, problemas de convergencia. Y desde luego no produce "sesgos en contra" de ningún grupo, sólo hace menos fiables los resultados.
Suponer que los resultados obtenidos por la IA son el fruto de la sociedad es suponer bastante. No sabes cómo se han recogido los datos con los que se ha entrenado a esa IA (entiendo que deben ser datos internos de procesos de selección de Amazon). Esos datos pueden ser parámetros totalmente objetivos (medidores de rendimiento empresariales), o estar sujetos a cierto grado de interpetación (opiniones de reclutadores, jefes de equipo, etc). El comportamiento del sistema es un promedio de esos parámetros.
Tampoco hay que idolatrar los resultados obtenidos por sistemas de este tipo, pero sin duda son más objetivos que los que podría obtener un reclutador real.
Suponer que los resultados obtenidos por la IA son el fruto de la sociedad es suponer bastante. No sabes cómo se han recogido los datos con los que se ha entrenado a esa IA (entiendo que deben ser datos internos de procesos de selección de Amazon). Esos datos pueden ser parámetros totalmente objetivos (medidores de rendimiento empresariales), o estar sujetos a cierto grado de interpetación (opiniones de reclutadores, jefes de equipo, etc). El comportamiento del sistema es un promedio de esos parámetros.
Tampoco hay que idolatrar los resultados obtenidos por sistemas de este tipo, pero sin duda son más objetivos que los que podría obtener un reclutador real.
#4:
La IA es heteropatriarcal machirulo opresora
#22:
Esto me recuerda a cuando se decía de mandar curriculums sin foto ni nombre y resulta que al final haciéndolo así seleccionaban todavía más a hombres, por lo que tiraron para atrás.
#1:
Imagen de la IA en cuestión
#7:
Lo que no dice es por qué la IA llegó a la conclusión de que las mujeres de un colegio femenino o las que fueron capitanas de un club de ajuedrez femenino son peores candidatas que los hombres
#26:
#7 Lo que no dice es por qué la IA llegó a la conclusión de que las mujeres de un colegio femenino o las que fueron capitanas de un club de ajuedrez femenino son peores candidatas que los hombres
Entrenamiento por redes neuronales. Es como funcionan estas cosas.
Se le dan ejemplos reales de curriculums y mediciones de productividad hasta que a partir del curriculum es capaz de predecir con la mayor fiabilidad posible la productividad del candidato.
Lo que habrán hecho es darle un multiplicador de productividad a las mujeres, para que tienda a obtener más mujeres. No hay mucho más que puedan hacer, trastear dentro de una red neuronal es imposible.
Entrenamiento por redes neuronales. Es como funcionan estas cosas.
Se le dan ejemplos reales de curriculums y mediciones de productividad hasta que a partir del curriculum es capaz de predecir con la mayor fiabilidad posible la productividad del candidato.
Lo que habrán hecho es darle un multiplicador de productividad a las mujeres, para que tienda a obtener más mujeres. No hay mucho más que puedan hacer, trastear dentro de una red neuronal es imposible.
#174:
#2 allá que voy:
O sea, que construyen una IA para ser objetivos y la desactivan porque sus resultados les parecen subjetivos...... y en vez de pensar en el por qué de la subjetividad imperante, no le demos pie a pensar otras cosas ...... no vayamos a sorprendernos con nuestros más internos demonios .....
O sea, como cangrejos
O sea, que construyen una IA para ser objetivos y la desactivan porque sus resultados les parecen subjetivos...... y en vez de pensar en el por qué de la subjetividad imperante, no le demos pie a pensar otras cosas ...... no vayamos a sorprendernos con nuestros más internos demonios .....
O sea, como cangrejos
#136:
#13, ¡ya le están echando la culpa a que los robots los diseñaron hombres!
Bueno, pues a mi me parece un tema muy interesante estudiar el motivo por el que la IA parece que prefiere a los hombres. Me imagino que simplemente habrá sido por algún análisis de datos en el que ha visto que (debido a cómo es la sociedad actualmente) los hombres en general progresan más que las mujeres. Vamos, que la IA no es machista sino que ha sacado sus deducciones de cómo está la sociedad actualmente.
Bueno, pues a mi me parece un tema muy interesante estudiar el motivo por el que la IA parece que prefiere a los hombres. Me imagino que simplemente habrá sido por algún análisis de datos en el que ha visto que (debido a cómo es la sociedad actualmente) los hombres en general progresan más que las mujeres. Vamos, que la IA no es machista sino que ha sacado sus deducciones de cómo está la sociedad actualmente.
#166:
#22 En Australia hicieron una "seleccion automática" para evitar el sesgo y resultó que contrataban todavía más hombres.
(llevo un rato buscando esa noticia, pero he visto que #60 ya la ha puesto)
Me huelo a que este caso es algo parecido. Como los resultados nos han sido políticamente correctos y ha seleccionado más hombres, ahora hay que buscar la excusa de que la máquina es sexista.
Y creo que aquí no lo ha planteado nadie: Quizá lo que esto evidencie es que en "la vida real" se privilegia a las mujeres aunque estén menos preparadas.
(llevo un rato buscando esa noticia, pero he visto que #60 ya la ha puesto)
Me huelo a que este caso es algo parecido. Como los resultados nos han sido políticamente correctos y ha seleccionado más hombres, ahora hay que buscar la excusa de que la máquina es sexista.
Y creo que aquí no lo ha planteado nadie: Quizá lo que esto evidencie es que en "la vida real" se privilegia a las mujeres aunque estén menos preparadas.
#148:
#7 Sí que se dan algunas pautas para entender cómo pudo llegar a esas conclusiones:
That is because Amazon’s computer models were trained to vet applicants by observing patterns in resumes submitted to the company over a 10-year period. Most came from men, a reflection of male dominance across the tech industry.
Entiendo que la entrenaron para imitar los patrones de contratación empleados por humanos (la mayoría de ellos hombres) durante un periodo de diez años. Si en su mayoría eran hombres, esa IA "aprenderá" que eso es lo correcto, y por tanto tenderá a desechar los CVs que impliquen la presencia de mujeres, simplemente porque le han enseñado que lo normal es coger a los hombres.
Lo interesante es que aquí la gente está interpretando que esa IA era mejor que los humanos a la hora de contratar personal, cuando lo cierto es que según parece no era así en absoluto: simplemente hacía lo mismo que habían hecho los de recursos humanos durante diez años, solo que de forma automática. Y por tanto estaba reproduciendo también los mismos problemas y errores que éstos hubieran provocado.
cc #11
That is because Amazon’s computer models were trained to vet applicants by observing patterns in resumes submitted to the company over a 10-year period. Most came from men, a reflection of male dominance across the tech industry.
Entiendo que la entrenaron para imitar los patrones de contratación empleados por humanos (la mayoría de ellos hombres) durante un periodo de diez años. Si en su mayoría eran hombres, esa IA "aprenderá" que eso es lo correcto, y por tanto tenderá a desechar los CVs que impliquen la presencia de mujeres, simplemente porque le han enseñado que lo normal es coger a los hombres.
Lo interesante es que aquí la gente está interpretando que esa IA era mejor que los humanos a la hora de contratar personal, cuando lo cierto es que según parece no era así en absoluto: simplemente hacía lo mismo que habían hecho los de recursos humanos durante diez años, solo que de forma automática. Y por tanto estaba reproduciendo también los mismos problemas y errores que éstos hubieran provocado.
cc #11
#28:
#4 La IA refleja los sesgos de la sociedad, ya que los datos para entrenarla vienen de ahí. Asi que si la sociedad es "heteropatriarcal machirulo opresora", lo raro es que la IA no lo sea.
Por ejemplo, la IA tiene un sesgo contra los negros, ya que le cuesta mucho reconocer sus caras. Eso es porque la mayor parte de fotos en internet son de blancos.
Por ejemplo, la IA tiene un sesgo contra los negros, ya que le cuesta mucho reconocer sus caras. Eso es porque la mayor parte de fotos en internet son de blancos.
#153:
#48 Has dado en el clavo. Amazon ha entrenado la IA con los curriculums de sus trabajadores y sus correspondientes rendimientos que tiene medidos de antemano, y la IA ha aprendido que las mujeres rinden menos, y que las de colegios femeninos directamente se tocan el papo a dos manos.
Si tenemos en cuenta que una IA no es más que una red neuronal con pesos, que al final se reduce a pura matemática, la conclusión no es sólo clara, si no imparcial, e inapelable. Lo digo por si alguien aún piensa que esto de las IAs es "magia". No, es pura matemática.
Si tenemos en cuenta que una IA no es más que una red neuronal con pesos, que al final se reduce a pura matemática, la conclusión no es sólo clara, si no imparcial, e inapelable. Lo digo por si alguien aún piensa que esto de las IAs es "magia". No, es pura matemática.
#11:
#8 Tampoco dice si también considera peores candidatos a los que fueron a universidades masculinas o a los que fueron jugadores de fútbol americano en la universidad o el instituto, porque eso significaría que no penaliza a las mujeres, sino ciertos patrones educativos "poco diversos". No sería raro que los considerase "incompletos" socialmente hablando. Me parece muy raro este tipo de sesgo
#54:
#33 El problema de usar un sistema experto es que necesitas a un "experto", y la gente de RRHH lleva años pegando palos de ciego y admitiendo que las técnicas de reclutamiento que usan no valen para tomar por el culo. Por eso se están intentando utilizar sistemas como este.
La clave para evitar el sesgo es usar marcadores 100% objetivos, siempre que puedas desarrollarlos, lo que no es necesariamente fácil.
La clave para evitar el sesgo es usar marcadores 100% objetivos, siempre que puedas desarrollarlos, lo que no es necesariamente fácil.
#36:
#32 Por supuesto que se permiten, no digas chorradas. Anda que no hay gente trabajando en como funcionan los groupos en función de la diversidad: https://scholar.google.nl/scholar?hl=en&as_sdt=0%2C5&q=gender+diversity+team+performance&btnG=
Venga te pongo uno abierto al azar: http://gap.hks.harvard.edu/impact-gender-diversity-performance-business-teams-evidence-field-experiment
"Teams with an equal gender mix perform better than male-dominated teams in terms of sales and profits.
Teams with lower percentages of women have lower sales and lower profits than teams with a balanced gender mix.
Profits increase as the share of women increases up to 50%. For higher shares of women, the relation between profits and the share of women is flat.
The study suggests that teams with an equal gender mix perform the same as teams with a majority of females, but the distribution of their data does not allow conclusions about the effect of female-dominated teams.
The study finds no evidence to support the underlying mechanisms that improve performance on teams with an equal gender mix. The study found that conflicts, friendships, decision-making, atmosphere, learning, and mutual monitoring were all unrelated to the gender composition of the group.
"
Venga te pongo uno abierto al azar: http://gap.hks.harvard.edu/impact-gender-diversity-performance-business-teams-evidence-field-experiment
"Teams with an equal gender mix perform better than male-dominated teams in terms of sales and profits.
Teams with lower percentages of women have lower sales and lower profits than teams with a balanced gender mix.
Profits increase as the share of women increases up to 50%. For higher shares of women, the relation between profits and the share of women is flat.
The study suggests that teams with an equal gender mix perform the same as teams with a majority of females, but the distribution of their data does not allow conclusions about the effect of female-dominated teams.
The study finds no evidence to support the underlying mechanisms that improve performance on teams with an equal gender mix. The study found that conflicts, friendships, decision-making, atmosphere, learning, and mutual monitoring were all unrelated to the gender composition of the group.
"
Comentarios
Imagen de la IA en cuestión
Venga valientes, a quemar karma!!
La cosa es que a mî, me hace sonrojarme. ( medio risa, medio vergüenza)
La IA es heteropatriarcal machirulo opresora
#4 Y falocentrista
Es Inteligencio Artificiol.
Lo que no dice es por qué la IA llegó a la conclusión de que las mujeres de un colegio femenino o las que fueron capitanas de un club de ajuedrez femenino son peores candidatas que los hombres
#7 Ya... esa duda me ha quedado a mi también. Dice algo de que se basa en revisiones de plantillas anteriores que eran mayoritariamente masculinas, pero eso no terminaría de explicar del todo nada.
Es lo que ocurre cuando revisas los datos en bruto.
Todo el que haya sido responsable de un grupo de personas en el trabajo sabe por experiencia que las mujeres causan más problemas que los hombres, pero no lo dirá porque está mal visto.
#8 Tampoco dice si también considera peores candidatos a los que fueron a universidades masculinas o a los que fueron jugadores de fútbol americano en la universidad o el instituto, porque eso significaría que no penaliza a las mujeres, sino ciertos patrones educativos "poco diversos". No sería raro que los considerase "incompletos" socialmente hablando. Me parece muy raro este tipo de sesgo
#10 Al menos en albañilería, pesca de altura y minería eso no es verdad.
#4 Pues sí, si lo dice The Guardian ...
Women must act now, or male-designed robots will take over our lives
https://www.theguardian.com/commentisfree/2018/mar/13/women-robots-ai-male-artificial-intelligence-automation
Hombre el haber estado segregadas durante su educación a mi me parece algo que echaría para atrás tanto a hombres como a mujeres.
Habiendo otros/as candidatos que han estudiado en universidades normales, me parece normal que cuente como hándicap.
Amazon (mythology: female warrior).
"The company’s experiment, which Reuters is first to report, offers a case study in the limitations of machine learning."
Me encanta cuando periodistas que no tienen ni puñetera idea de lo que están hablando se ponen a emitir juicios de valor.
#12 Tú has trabajado en pocas obras con mujeres albañiles.
Los sesgos y la inteligencia van de la mano, aspirar a tener una inteligencia sin sesgos es una utopía.
#17 Albañilas
#10 Pues no será en mi empresa, que me callo.
Y no soy precisamente el feminista radical de la web.
#16 pues tiene razón: ha demostrado que resulta más difícil doblegarla a criterios subjetivos.
Esto me recuerda a cuando se decía de mandar curriculums sin foto ni nombre y resulta que al final haciéndolo así seleccionaban todavía más a hombres, por lo que tiraron para atrás.
Así empezó Skynet. Primero mujeres (Sarah Connor), luego hombres... y al final la humanidad entera.
#10 no ha sido mi experiencia, tampoco puedo decir que los hombres sean más problemáticos.
#18 Bueno, el sesgo es una forma de ver la falta de inteligencia, se puede ver al revés. Si tienes sesgos no tienes una inteligencia "completa".
#7 Lo que no dice es por qué la IA llegó a la conclusión de que las mujeres de un colegio femenino o las que fueron capitanas de un club de ajuedrez femenino son peores candidatas que los hombres
Entrenamiento por redes neuronales. Es como funcionan estas cosas.
Se le dan ejemplos reales de curriculums y mediciones de productividad hasta que a partir del curriculum es capaz de predecir con la mayor fiabilidad posible la productividad del candidato.
Lo que habrán hecho es darle un multiplicador de productividad a las mujeres, para que tienda a obtener más mujeres. No hay mucho más que puedan hacer, trastear dentro de una red neuronal es imposible.
#23 Calla chivato
#4 La IA refleja los sesgos de la sociedad, ya que los datos para entrenarla vienen de ahí. Asi que si la sociedad es "heteropatriarcal machirulo opresora", lo raro es que la IA no lo sea.
Por ejemplo, la IA tiene un sesgo contra los negros, ya que le cuesta mucho reconocer sus caras. Eso es porque la mayor parte de fotos en internet son de blancos.
#10 Puedes dar datos de estudios que muestren que los equipos con mujeres trabajan peor?
#11 Sensacionalista y a otra cosa.
A la IA hay que entrenarla por lo que si el entrenamiento fue con modelos sesgados, los resultados van a estar sesgados. Ahora, si los modelos estaban bien quiere decir que...
#29 no creo que pueda, porque ese tipo de estudios no se permiten
Si vas a construir una IA para procesos de selección de candidatos, lo mejor que puede hacerse es volver a los famosos "sistemas expertos" del milenio pasado. Eran poco más que una serie de reglas if-else encadenadas pero al menos sabías exactamente qué pasaba en cada punto del proceso y quién era el responsable.
Las IAs de hoy en día suelen basarse en cantidades absurdas de datos para entrenar modelos de "caja negra" así que, si hay un problema, no puedes terminar el error fácilmente, ni corregirlo. Y si además usas las evaluaciones y métricas de personas con sesgos, al final el modelo los aprende.
#17 seguramente, porque no es una profesión con mucha presencia de mujeres. A eso se refiere, creo.
#4 Normal. Garbage in, garbage out.
#32 Por supuesto que se permiten, no digas chorradas. Anda que no hay gente trabajando en como funcionan los groupos en función de la diversidad: https://scholar.google.nl/scholar?hl=en&as_sdt=0%2C5&q=gender+diversity+team+performance&btnG=
Venga te pongo uno abierto al azar: http://gap.hks.harvard.edu/impact-gender-diversity-performance-business-teams-evidence-field-experiment
"Teams with an equal gender mix perform better than male-dominated teams in terms of sales and profits.
Teams with lower percentages of women have lower sales and lower profits than teams with a balanced gender mix.
Profits increase as the share of women increases up to 50%. For higher shares of women, the relation between profits and the share of women is flat.
The study suggests that teams with an equal gender mix perform the same as teams with a majority of females, but the distribution of their data does not allow conclusions about the effect of female-dominated teams.
The study finds no evidence to support the underlying mechanisms that improve performance on teams with an equal gender mix. The study found that conflicts, friendships, decision-making, atmosphere, learning, and mutual monitoring were all unrelated to the gender composition of the group.
"
#29 ¿no te vale el de la noticia? La IA asoció factores asociados a ser mujer con una menor productividad. Parece bastante objetivo.
#10 Aparentemente los datos refutan tus observaciones. La principal causa es una mayor inteligencia social y emocional para trabajar en equipo.
#17 Yo no he visto ni una en mi vida.
#7 Las razones por las que un sistema IA adquiere unos pesos determinados (que es lo que luego marca su comportamiento) no se pueden saber, del mismo modo que no pueden interpretarse esos pesos. Es una de las limitaciones de este tipo de técnicas. Lo que sí sabemos es que el sesgo observado es fruto de un sesgo en los datos. Osea que, o la recogida de datos no es objetiva, o las mujeres tienen un rendimiento peor (siempre en promedio). Lo más probable es que sea una combinación de ambas.
#37 No es en absoluto objetivo. La IA aprende de la sociedad. Si la sociedad cree que las mujeres son peores, la IA aprenderá a discriminar a las mujeres. La IA discrimina contra negros y cree que los hombres lavando platos son mujeres. Si quieres te puedo mandar referencias.
Esta noticia te dice lo que tus prejuicios mandan, si eres machista pensarás que las mujeres son inferiores, si eres programador podrás intuir que quizás hayan pasado éstos sus sesgos a la inteligencia artificial.
#23 ¿Y no incluye "mujeres y hombres" a la humanidad entera? ¡Ah no, es verdad!
#29 Lo opuesto: https://lawyerist.com/teams-smarter-women/
Pues esto tiene 2 opciones:
1. El modelo es incorrecto y da resultados incorrectos
2. El modelo es correcto y da resultados correctos que son politicamente incorrectos
#4 del heteropatriarcado al heteromachinado...
#41 si por que seguro que Amazon entrena a su IA con post de forocoches y programas de 13tv
#28 La ausencia de datos no produce un sesgo sino, a lo sumo, problemas de convergencia. Y desde luego no produce "sesgos en contra" de ningún grupo, sólo hace menos fiables los resultados.
Suponer que los resultados obtenidos por la IA son el fruto de la sociedad es suponer bastante. No sabes cómo se han recogido los datos con los que se ha entrenado a esa IA (entiendo que deben ser datos internos de procesos de selección de Amazon). Esos datos pueden ser parámetros totalmente objetivos (medidores de rendimiento empresariales), o estar sujetos a cierto grado de interpetación (opiniones de reclutadores, jefes de equipo, etc). El comportamiento del sistema es un promedio de esos parámetros.
Tampoco hay que idolatrar los resultados obtenidos por sistemas de este tipo, pero sin duda son más objetivos que los que podría obtener un reclutador real.
#36 el que tu me enseñas no trata de demostrar que los equipos con mujeres trabajan peor, si no todo lo contrario. Los que no se permiten son los puedan sugerir cualquier tipo de ventaja masculina.
Ejemplo:
https://quillette.com/2018/09/07/academic-activists-send-a-published-paper-down-the-memory-hole/
#28 el contraste menor dentro del área comúnmente conocida como cara no tiene nada que ver en el análisis de imagen
#29 ¿Quién iba a financiarlos?
#48 La ausencia de datos de un grupo produce sesgos muy dificil de corregir. Si la IA ve que el 99% de las fotos con gente lavando platos son mujeres, creerá que la foto con un hombre lavando platos es una mujer.
Pero tienes razón en que faltan datos en la noticia para saber por qué se han creado esos sesgos.
A nadie más le llama la atención que haya universidades femeninas en EEUU? Aquí no segregan por sexos ni las del OPUS.
#33 El problema de usar un sistema experto es que necesitas a un "experto", y la gente de RRHH lleva años pegando palos de ciego y admitiendo que las técnicas de reclutamiento que usan no valen para tomar por el culo. Por eso se están intentando utilizar sistemas como este.
La clave para evitar el sesgo es usar marcadores 100% objetivos, siempre que puedas desarrollarlos, lo que no es necesariamente fácil.
#50 Te puedo dar otros ejemplos, pero si vas a venir con tu libro a poner caras riéndote paso de intentar tener una conversación.
La IA ha aprendido rápido que no puedes fiarte de seres que sangran por la vagina durante 5 días y no mueren.
#33 reinventar la rueda pero con más palabrería molona
#49 Es bastante largo, me puedes mandar un resumen?
Si un paper tiene resultados novedosos y con unos métodos fiables no te lo rechazan. Las revistas quieren esa publicidad.
#23 Skynet fue a por Sarah Connor al no poder cargarse a John Connor "en el futuro" y cuando va a por ellos ya lleva tiempo en guerra con la humanidad
http://www.abc.net.au/news/2017-06-30/bilnd-recruitment-trial-to-improve-gender-equality-failing-study/8664888
#55 da la casualidad que justo he currado en ese campo. Mierda cámara + bajo contraste = "ruido"
Es lógico, probablemente la IA se limitaba a buscar el mejor candidato para las empresas y usa los mismos baremos discriminatorios que ellas, sobre todo en lo referente a "cargas familiares", o a la disponibilidad y capacidad de dedicación a la empresa.
Así que, a esto se referían con lo de "La robótica nos va a quitar puestos de trabajo"
https://weaponsofmathdestructionbook.com/
libro que estoy leyendo ahora mismo. Es mas que interesante y habla de temas como este.
#40 Perdona, si los datos indicasen que los hombres son mejores en algo a las mujeres ¿Consideras eso sesgo en los datos?
Es que no me queda claro de donde sacas que los datos con los que han alimentado la IA están sesgados.
#13 Yo quiero robots femeninos, que cocinen y la chupen.
#61 Un humano puede distinguir perfectamente si una persona negra es mujer o hombre, los mejores algoritmos de ahora fallan el 30% de las veces (para blancos es el 1% o así). Tu teoría podría explicar unas diferencias más pequeñas. No es por el contraste sino por la falta de ejemplos para clasificarlo:
http://news.mit.edu/2018/study-finds-gender-skin-type-bias-artificial-intelligence-systems-0212
Aquí otro paper sobre sesgos en la IA:
https://homes.cs.washington.edu/~my89/publications/bias.pdf
#55 Pero en ese ejemplo tiene razón. Lo de la clasificación de fotos de negros como de simios no tiene nada que ver con el racismo, por ejemplo. Pero cuando uno tiene prejuicios, quiere demostrar sus teorías aunque choquen con la realidad. ¿Verdad?
#65 El concepto de sesgo en los datos no tiene que significar que haya un "sesgo cognitivo". Lo que quiero decir es que si la IA está penalizando a las mujeres, es porque los datos, en su conjunto, resumen que las mujeres rinden peor. Lo interesante es que esto no tiene porqué verse a simple vista.
La razón por la que se produce ese sesgo en los datos puede ser que los datos hayan sido recogidos con criterios poco objetivos (por ejemplo, la opinión de jefes de equipo), pudiendo ser un reflejo de una discriminación. Otra posible razón (si los datos se han recogido objetivamente) es que las mujeres rindan peor.
Yo no sé cómo se han recogido los datos, así que sólo puedo especular con posibles causas.
#67 estoy hablando del paso anterior a la IA. La adquisición de datos, el paso de "hacer ver" al programa, donde el sesgo es imposible de meter.
En este paso, la información que obtienes es peor por la propia naturaleza de una cámara. Cuánta luz hace falta para distinguir la cara de alguien blanco? Cuánta más luz hace falta para alguien no tan blanco?
Ahora añade que lo quieres hacer en tiempo real con una cámara de mierda (mi caso) pues pasa que curiosamente falla más con "ciertos colores"
#10 Fuente? Tiendo a desconfiar de frases falaces del estilo de "Todo el mundo sabe que..."
#48 Este es un problema del que se ha hablado mucho, recomiendo esta columna de hace dos años: https://www.nytimes.com/2016/06/26/opinion/sunday/artificial-intelligences-white-guy-problem.html
Menciona además un estudio de ProPublica sobre el software con el que algunos juzgados en EEUU determinan las penas y posibilidades de reincidencia de criminales, y que por sistema declaraba que los criminales negros tenían el doble de posibilidades de reincidir que los blancos. Que el software puede ser mejor que un humano es discutible, pero que hay que monitorizar y cambiar "humanamente" los sesgos también.
#52 Tampoco soy yo un experto en procesamiento de imágenes, pero me consta que la IA está bastante lejos de ser capaz de reconocer algo tan preciso como que en una foto se vea a una persona lavando platos. Distinguir el sexo probablemente sí se haya conseguido.
Los modelos de este tipo tienen parámetros de convergencia. Yo no sé qué modelo han usado. Con un modelo de regresión (que no entra dentro de la IA) tienes un p-valor que te indica si el peso asociado a un factor (por ejemplo, el peso asociado a ser hombre o mujer) es significativo. Así, si tienes muy pocas mujeres en tu modelo, el p-valor lo que va a hacer es indicarte que no te puedes fiar de ese parámetro, porque no tienes bastante tamaño muestral. No se introduce ningún sesgo, símplemente el modelo fracasa al entrenarse.
No deis a las feministas un motivo para que no permitan avanzar a las IA sin que ellas metan mano o tendremos un retraso que ni la santa inquisición causaba en su época
#42 Eso no funciona así. La IA no está programada para gestionar los datos de una manera concreta. Ella auto evalúa los datos de entrada y en función de eso busca correlaciones y factores predominantes para identificar los mejores candidatos. Y de alguna manera (sin intervención humana) ha llegado a la conclusión que los candidatos cuyo perfil se intuye que es femenino serán peores empleados.
#58 a las revistas que iban a publicarlo les cayó todo el aparato mediático de género en los huevos, y se tiraron atrás.
El resumen (eres un poco vago, por cierto :): Entre un grupo grande de hombres, tiende a haber más estúpidos y más genios, que entre un grupo de mujeres, que no llegan tanto a los extremos.
#26
Lo que habrán hecho es darle un multiplicador de productividad a las mujeres
Discriminación positiva en IA?
#58 Mentira. Se da el caso de un paper aceptado y a punto de publicarse, creo que con premio y todo, que por presión de feministas se retiró y de censuró en otros medios.
#41 Negativo por decir tonterías sin fundamento.
Esto es debido a que amazon
Quiere gente buena en tecnología
La cosa cambiaría
Si reclutase gente para una guardería
Si has estudiado magisterio
No encontrarías trabajo
Porque entre las piernas
Te cuelga tu pene para abajo
Borrado
#25 Existe la inteligencia innata, que tienen todas las personas actúen como actúen por el mero hecho de tener un cerebro que funciona, y luego está lo que reconocemos socialmente como inteligencia y que está fundamentada en el ejercicio en tareas específicas y habitualmente en la demostración de cierto nivel educativo.
[ENG]Cuando afirmamos socialmente que alguien es muy inteligente o que es muy estúpido nos referimos a esto último, a cómo dentro de los cánones sociales aplican esa inteligencia innata que viene de meramente tener un cerebro.
Por otro lado están los sesgos, los que son socialmente más reconocidos son aquellos que afectan a la raza, al género o a posiciones políticas, etc. por poner algunos ejemplos.
En ese sentido existen indicios, estudios científicos, que apuntan a que los ciudadanos que entendemos con un nivel educativo superior están más radicalizados en sus posturas políticas, tienen más y mejores herramientas para elegir entre la información la que confirma sus sesgos y justificarse a sí mismos el motivo por el que descartan aquella información que los podría poner en entredicho.
Se habla de ello en este panel y batería de preguntas a uno de los participantes:
[ENG]
#38 Aparentemente estamos aprendiendo a escribir con google translator.
#52 Estás suponiendo que se le ha entrenado con datos sesgados, lo que es mucho suponer. Dudo mucho que Amazon alimente su IA, en la que habrá metido esfuerzo y dinero, con datos sesgados para luego retirarla. Lo que sí puede pasar es que las discriminaciones positivas lleven a que una mujer con el mismo currículo que un hombre tenga peor desempeño en el trabajo, porque ha llegado a ese punto mediante ayudas.
Hay varios casos de IA con sesgos. Lo bueno sería realmente estudiar el motivo por el que se producen estos sesgos. Que datos han llevado a la IA a juzgar con sesgo. Porque por algún motivo habrá llegado a esa conclusión la IA. Es un tema de la IA o es un tema de los datos con que se nutre a la IA. ¿Con que datos se nutre a la IA?
#8 Hay por ahí estudios en los que dicen que las mujeres tienden a escribir curriculos más extensos y con palabras más "colaborativas", mientras que los hombres tienden a usar términos más enérgicos, tipo "dirigir" o "liderar". Puede ser que el programa haya aprendido a premiar las combinaciones más frecuentes o más relacionadas con los empleados actuales. Aquí un estudio de una experta en machine learning sobre el tema, por si aporta alguna idea nueva: http://fortune.com/2015/03/26/the-resume-gap-women-tell-stories-men-stick-to-facts-and-get-the-advantage/
#75 Intervención humana tiene: los datos de entrada.
#42 Soy informático, tengo unas nociones mínimas de los fundamentos de las redes neuronales y su entrenamiento y problemas relacionados, y te digo no tiene nada que ver con "sus sesgos".
#12 Una pena que trabajar en la mina estuviese prohibido para las mujeres hasta el 96, seguro que de no ser así habría muchas más https://elpais.com/diario/2006/05/14/domingo/1147578758_850215.html
#39 Yo conozco a una.
#73 Reconocer el sexo de una persona es más difícil que el hecho de que esté lavando platos. ¿Tú reconoces el sexo de cualquier otro animal que no sea un homo sapiens por su cara? Es de lo más difícil reconocer si una persona es masculina o femenina por su cara.
#82 Algunas veces es una lástima poder poner solo un positivo.
#72 Es que a la IA hay que cogerla con pinzas, porque es una herramienta que, por más que lleve la palabra "inteligencia" integrada en ella, de inteligente tiene poco.
Este tipo de técnicas son una forma perfeccionada de los modelos de regresión clásicos, y están diseñadas para predecir en base a ciertas variables, tras haberse entrenado con datos. Los problemas de este tipo de modelos son incontables. Por ejemplo: 1) Suponen una "linealidad" en los datos que no existe en la realidad (los sistemas IA corrigen esta suposición de linealidad, a cierto coste); 2) Suponen una "inmutabilidad" en los procesos que gobiernan los datos, siendo incapaces de prever cambios (por ejemplo, cambios sociales, como que los negros dejen de delinquir tanto); 3) Sólo reflejan las variables que se les dan como entrada, de modo que si hay algún factor importante que el investigador no contempla, el modelo nunca advertirá de ello, tratando de ajustarse lo mejor posible a los datos.
Usar modelos de IA está bien, pero nunca debe dejarse que estos tengan plena autonomía en la toma de decisiones, y menos en aspectos sociales como estos.
#69 Lo que quiero decir es que si la IA está penalizando a las mujeres, es porque los datos, en su conjunto, resumen que las mujeres rinden peor
¿No consideras entonces la opción más obvia que justificaría el sesgo humano y el de la IA?
Que en X tareas las mujeres sean mejores y en otras peores. Y lo mismo con los hombres.
¿Si mostrase sesgo contra los hombes estaría bien?
La mayoría de las grandes empresas tienen sistemas de filtrado automático. Reciben cientos de CVs al día y utilizan este tipo de algoritmos para decidir cuales merecen ser evaluados.
Así que si tenéis más de 40 años y estáis hartos de mandar vuestro CV y que no os llamen de una oferta, pensad en este tipo de noticias y que posiblemente vuestra candidatura ni siguiera les ha llegado a los de recursos hunanos.
#69 Por eso sería importante ver de que datos obtiene el sesgo y si son erróneos o no. O programar a la IA para que pueda contestar: ¿Por qué prefieres a hombres frente a mujeres? Y que nos diera ella la razón (ella, je, je, je, la inteligencia artifical)
#80 Eres todo un poeta
#91 Insisto en que no soy un experto en el tema, pero me sonaba que había trabajos sobre reconocimiento del sexo de la persona a través de la cara.
https://link.springer.com/article/10.1007/s11263-006-8910-9
Ahora te toca a ti encontrar el reconocimiento de lavado de platos :P.
#66 Me han bloqueado los votos por culpa de algún ofendidito. Pero te lo dejo escrito. +1