Un nuevo informe muestra que los sistemas diseñados para ayudar a los autos autónomos a reconocer a los peatones pueden tener problemas para reconocer a las personas con tonos de piel más oscuros. La investigación preocupante se ha cargado en el servidor de preimpresión arxiv.
![Los autos autónomos no pueden reconocer a los peatones con tonos de piel más oscuros [ ing ]](https://cdn.mnmstatic.net/cache/2f/32/media_thumb_2x-link-3093207.jpeg?1551901986)
Comentarios
algoritmos racistas, la maquina también odia, la maquina también mata.
CHAN CHAN CHAN!!!!
#1 Eso les pasa porque salen más de noche. Es el mercado amigo.
#1 poca broma, las cámaras de fotos estánhechas para los blancos
#25 Lo peor es que igual lo est'as diciendo en serio. Y si t'u no, otros s'i.
#41 no sé si lo dice en serio, pero es cierto: El valor de gris medio en la película, se fijaba para que la piel blanca saliese bien y con detalle. Era muy difícil exponer bien a un negro.
Hoy en día, lo cierto es que no se sabe, no hay datos. Pero si quieres que te sea sincero, trabajo haciendo fotos, y cuesta bastante exponer bien la piel negra.
#45 Es la primera vez que oigo que es gris medio se "fijba" para la piel, pudiera ser pero es la primera vez que lo oigo.
La pel'icula tiene una latitud, que es como cu'antos grises se distinguen entre el negro y el blanco absoluto, el rango din'amico. El problema de "fijar el gris medio" la exposici'on, que no la pel'icula para un negro es que todo es que entonces todo lo dem'as te va a salir bastante blanco, vas a perder much'isimo detalle... aparte de que el disparo va a ser o m'as lento o con menos profundidad de campo.
B'asicamente no tiene sentido "fijar el gris medio" para la cara de un negro porque la cara del negro no es el gris medio. Lo que se busca, normalmente, es calcular la exposici'on para que el gris medio del objeto sea gris medio en la pel'icula.
#46 es que igual lo he dicho de una manera un poco coloquial. Mira, aquí tienes info de calidad sobre ello -> https://www.cjc-online.ca/index.php/journal/article/view/2196/2055
#48 Pffff... ha sido empezar a leerlo y me ha dado una pereza. La 'tipica chorrada SJW, gracias por enlazarlo, pero de nuevo, me parece que esta gente est'a m'as llena de chorradas ideol'ogicas que de conocimiento de fotograf'ia. Adem'as has mezclado tono con luminancia. Bah, qu'e pereza.
#67 jopetas, cada vez que comentó algo, o me tachan de nazi machista racista, o de SJW buenista
¯_(ツ)_/¯
#71 Pues mira a ver con qui'en te juntas
#72 con nadie, los humanos estáis majaras. Prefiero vivir solo con mi perro y con mis gatos a juntarme con peña que para hacerse la lista intenta aplicar el concepto de “luminancia” cuando estamos hablando de película fotográfica, y no sabe que el “tono” afecta a la exposición en foto química en ByN
#75 s'e que el tono afecta MUY MUY marginalmente a la exposici'on (apertura + tiempo de exposici'on), a no ser que trabajes con filtros o con pel'icula IR. Con luminancia me refiero a la cantidad de luz reflejada por algo, lo cual se aplica a los objetos y a la copia (el papel donde se hace la copia de la foto).
#77 las primeras emulsiones de blanco y negro no eran siquiera pancromáticas: Con las películas ortocromáticas, cualquier cosa que reflejase luz con una longitud de onda mayor de 635 nm o así te iba a salir negra cojón de grillo. Le hacías una foto a una pelirroja y salía con el pelo azabache, de modo que mira si el tono contaba para la exposición.
Después la cosa cambió con las pelis pan, que ya daban un poco más de margen. Pero realmente, no fue hasta que las emulsiones y reveladores empezaron a hacer uso de muy alta tecnología química (con los agrupamientos del grano en forma de T de las T-Max y en forma de triángulo de las Ilford Delta) cuando se pudo empezar a sacar de una manera sencilla un buen número de pasos centrados en las sombras, sin tener que hacer mil trucos en el laboratorio que no estaban al alcance de la mayoría de los mortales. Sí te fijas, coincide con el declive de Agfa en ByN, ya que nunca desarrolló algo así.
En resumen, antes de 1980 (más o menos), le hacias una foto a un negro y salía fucking negro, a menos que fueses una eminencia en el cuarto oscuro.
#92 No veo la relaci'on entre lo 'ultimo que dices y el resto del mensaje.
yo lo resumir'ia as'i: si quieres ver detalles en una zona oscura, entonces tienes que correjir la exposici'on para esa zona oscura. Lo mismo pasa si vas a sacar todos de nieve o por la noche. Esto no tiene nada que ver con el tono, con el color, sino con la cantidad de luz.
#94 pero la película antigua (que es de lo que estamos hablando), tenía diferentes sensibilidades dependiendo de la gama del espectro. De todos modos, lo del tono venía a cuento solo por el primer comentario. Luego nos hemos ido de varas.
La película, tenía un rango de respuestas fijo, y estaba pensado para sacar mucho detalle en los tonos de piel (de piel blanca). Para que se me entienda algo mejor, he hecho un dibujo (me ha costado porque he tenido que cambiar dos veces de dureza de mina a mi Pentel GraphGear 1000 -> Mechanical Pencils fanboy)
#94 de hecho, mi hipótesis, es que hoy en día, sigue pasando lo mismo. No tengo datos y está solo basado en mis observaciones y experiencias (trabajo haciendo fotos) pero...
Por un lado, los medios de impresión: Cualquier impresora pro tiene dos o tres cartuchos "grises", pero siempre un solo cartucho negro. Ya, negro puro solo hay uno, pero antes del negro 100% hay muchos matices que se pueden considerar "negro" dependiendo de las referencias. Podríamos decir que tampoco hay tinta blanca, pero es que el blanco puro lo marca el papel, y sí hay papeles distintos.
Por otro lado, sigue siendo jodídamente difícil sacar bien la piel negra en un retrato, por la razón que sea.
Por último... y esto es válido para todo aquél que use cualquier modo automático al disparar: Las matrices que se usan para determinar la exposición siguen sacando la piel negra sobreexpuesta, siempre. Mucha AI, mucho reconocimiento facial y mucha polla con tomate, pero ahí la cagan todas las cámaras.
No sé, es lo que veo yo.
#98 Si est'a sobreexpuesta entonces es que reciben "mucha luz" y no salen totalmente negros, sino con matices. Luego ya les devuelves t'u la negrura con photoshop
Yo odio los programas. A veces hasta el autom'atico me molesta. Disto muuuucho de ser un experto pero para lo que hago muchas veces acabo tirando de manual (serpientes y bichos y chorradas as'i).
#77 que no digo que esté mal... ya que por aquel entonces -¿Cómo decirlo de una manera correcta?- Los negros no se interesaban tanto por la fotografía como los blanquitos, por lo que las malvadas corporaciones vendían lo que quería la peña que hacía gasto.
#71 bienvenido a internet
#71 Pues ahora te tacho de amputabrazos, como le has hecho al meme ese
¿Su brazo era oscuro?
#48 Pero es algo que ocurre a menudo en la vida real. Por ejemplo, es más difícil distinguir entre marrón oscuro y gris oscuro en la pintura de un coche, que distinguir entre marrón claro y gris claro, incluso estando a plena luz del día.
#81 porque nuestros ojitos están hechos para ver en la sabana, no en una mina de carbón. De igual modo que las emulsiones estaban pensadas para sacar a Audrey Hepburn guapetona, y no a Huey Newton.
#46 Mejor no pongas tildes.
#52 Gran aporte.
#66 http://accentcodes.com/
#45 hoy en día el ISO lo fijas tú, así que al no haber película el "rasista" será el que fije el ISO
#100 no tiene nada que ver: Antes el ISO también lo fijabas tú, a ver si te piensas que solo se vendía película ISO 100
Comprendo que pienses que una vez sabes lo que es el diafragma, la velocidad y el ISO, ya lo sabes todo de imagen. No pasa nada, mucha gente vive feliz durante años sin ni siquiera saber esas tres cosas.
#41 Es más fácil leerte si simplemente no pones acentos que si los pones así, que lo sepas.
#25 Cuando eran de película química, en el revelado se usaba como patrón para ajustar una foto de piel clara, lo que es lógico, por cada negro que tuviera una cámara había como dos millones de blancos que tenían la suya, no era racismo, eso era el mercado, amigo.
#50 y la del negro fijo que era robada...
#51 Rasista!!!
#25 Más que para los blancos, están hechas por blancos. Y como las han hecho los blancos, las han probado con gente blanca.
Es como los medicamentos para el colesterol, que se "calibraron" con estudios en los años 60 que se hacían sobre soldados, todos hombres. Por eso, con mujeres se supone que funcionan, pero a saber si igual o no...
#1 No sé a qué viene la ironía, está bastante demostrado que los algoritmos pueden llegar a ser racistas. No porque sean malvados, sino porque miran correlaciones, no causalidad.
#43 Entonces no hay racismo sino malos datasets
#69 Un algoritmo que perjudica sistemáticamente a los negros es racista, haya intención o no. Nadie dice que los programadores sean malvados, solo que hay efectos perniciosos que hay que corregir.
#117 Es posible que haya sido sin querer, pero acabas de hacer una defensa magnífica de las cuotas.
#43 Y porque, lógicamente, los señores que los han desarrollado los han probado con datos que tienen a mano. Si el 90% de programadores/testers son blancos, es comprensible que los hayan probado mayoritariamente con fotos de blancos.
#1 Se vienen indemnizaciónes.
#10 En EEUU es un moro con todas las de la ley.
No me lo creo.
Los algoritmos detectan a TODO el individuo, no solo la cara o las manos.
Si hubiesen dicho: las ropas claras o las ropas oscuras, vale, podría colar, pero un 5% (si llega) no puede guiar nada.
No me lo creo++
#9 Pues puede ser perfectamente, la diferencia segun el paper es de un 5%. Las compañias de seguros saben que los coches oscuros tienen más accidentes. No es por racismo, sino por que són mas dificiles de ver en condiciones de baja luminosidad.
No creo que un lidar tenga ese bias, pero un algorismo basado en images, puede tener mas dificultades con tonos que no contrastan tanto.
#21 Algo que puede cambiar con los coches autónomos, solo por recordar que el primer tesla (si mal no recuerdo) con una víctima normal confundió un camión claro con el tono del cielo.
#21 Las compañías de seguros ya no discriminan por color del vehículo. Antes, los coches rojos tenían un plus por tener mayor siniestralidad, que no necesariamente más accidentes.
#37 Las compañias de seguros se agarran a un clavo ardiendo si hace falta con tal de justificar lo que te cobran.
#90 No entiendo qué quieres decir. El precio es el resultado de una fórmula matemática relativamente sencilla y los riesgos se aceptan o no se aceptan. No se aceptan riesgos extraordinarios si la prima no es suficientemente alta, así que no sé qué sería el clavo ardiendo en ese caso.
En los precios de los seguros no hay sentimientos ni decisiones de último minuto o decisiones en momentos extremos.
#21
"la diferencia segun el paper"
"No creo que un lidar tenga ese bias"
"un algorismo basado en images"
#42 que problem tienes man?
#9 Ese 5% que tan poco te parece puede ser lo que le dice al algoritmo que esa mancha borrosa puede ser un humano.
#24 Puede, quizás, a lo mejor...
#9 Ya habló el experto en tratamiento de imagen entre partida y partida de LOL. Menos mal que nos has iluminado con tu sabiduría.
#39 No hace falta ser un experto para ver como ese titular es un jodido clickbait.
#39 Solo hay que pensar un poco, no hace falta ser doctorado.
Que pasa, que si un peatón está de espaldas ya no lo detecta?
Directamente, sensacionalista.
#39 Insinúas que #9 es un ignorante en materia de visión artificial pero no dices en que se equivoca y por qué.
#9 Yo tampoco lo creo básicamente porque muchos coches usan el espectro de infrarojos (vision nocturna) para detectar peatones incluso de noche, y ahi te la pela completamente el color de piel
#9 no me he leído el paper pero... Todo esto no se solucionaría añadiendo cámaras de infrarrojos y ya está?
#9 No siempre es así, dependen del algoritmo usado y el tipo de hardware. También es común tener problemas con desviaciones entre los datos reales y los usados para entrenar. Por ejemplo: si no tienes datos de persones norte americanas, probablemente no detecte bien a las personas obesas.
O si usas un sistema para detectar coches, puede que falle con limusinas...
#9 además las cámaras suelen ser volumétricas por infrarrojos, puede ser que en un entorno muy específico con unas condiciones de iluminación muy especiales y durante una fracción muy pequeña de tiempo no lo detectase, que ya le pasó al kinet de Microsoft, pero nada cerca de ese 5%.
Independientemente de que haya que creérselo, como dice #9, el titular es un poco de clickbait. Y el artículo también.
Lo primero de todo, de lo que se habla es de análisis de imágenes en coches autónomos. Está claro que los coches autónomos, no solo usan imágenes a día de hoy para detectar objetos, personas y señales, sino que es un elemento más junto con el LiDAR. Y como muchos han mencionado hay otras cámaras, como infrarojos que puede solucionar la papeleta y sumarte a la detección.
Lo segundo y más importante:
These results come after the outcome is adjusted to take into consideration whether the photo was taken during the day or at night. In summary, the report suggests that people with darker skin tones will be less safe near roads dominated by autonomous vehicles than those with lighter skin.
WTF! De donde se ha sacado esa conclusión? esto es pura y dura especulación, ya que si al sistema informático le cuesta detectar a esa persona, no te digo lo que le va a costar detectarla a un humano al volante. Y más si es en condiciones de luminosidad deficiente. De lo que habla el artículo original (https://arxiv.org/pdf/1902.11097.pdf) se explica en la primera frase del abstract:
In this work, we investigate whether state-of-the- art object detection systems have equitable predictive performance on pedestrians with different skin tones.
Y esto es algo sabido desde hace tiempo, que los sistemas de detección automática de caras, y esto se menciona en el artículo de prensa, tienen dificultades con gente de piel oscura. Y entiendo que por dos razones: Uno, efectivamente es más difícil distinguir rasgos faciales en un negro (si he dicho negro) que en un blanco o amarillo (si he dicho amarillo). Básicamente muchas sombras desparecen y no hay distintas tonalidades por la luz. Y dos y más importante, los sistemas han sido entrenados con menos personas de distintos colores y fundamentalmente se han usado blancos (y amarillos?) para esto.
Resumiendo, el artículo original es interesante... el de prensa es un tanto sensacionalista.
#9 #74 Os capto, pero me gustaría decir que en la literalidad, no es para tanto. ¿Los de tez oscura tienen más riesgos con los sistemas de detección actuales? ¿Un 5% de error en un sistema que va a estar diariamente expuesto a millones de casos es relevante? La respuesta es que sí, y bastante lógica para cualquiera que maneje algo de fotosensores. Si hay un porcentaje mayor de error hay más riesgo, y punto, post.it para la nueva versión. Lo mismo pasa también con enanos que los confunda con bocas de incendio... a saber las estadísticas que se manejan.
¿Se debe excluir un sistema que mejora la seguridad en varios aspectos pero que "discrimina" por cuestiones puramente técnicas? Pues no, y creo que nadie se lo plantea.
A veces veo reacciones a artículos y noticias de este tipo como si se estuviera respondiendo a un panfleto propagandístico.
#80 eso es cierto, pero tienes que pensar que un 5% es justamente lo que empieza a ser significativo estadísticamente. Es curioso que justamente sea esa cifra, da que pensar.
Estoy contigo que muchos artículos sacan las cosas de madre como mencionas.
#83 Creo que te has liado, un 0,000001% puede ser significativo o no, un 50% puede ser significativo o no. Me imagino que estás pensando en un p-valor de 0.05, pero estás mezclando conceptos.
#96 pues si ahora que lo mencionas puede que me haya liado, y es porque tampoco he leido el paper y con ese 5% no se a que se refieren, si al valor de p como mencionas, o que narices.
#9 de acuerdo contigo. El titular es demasiado jugoso, así que posiblemente sea falso/exagerado para ganar clics.
#9 el titular es sensacionalista. Si te lees el artículo dice:
The report thankfully gives a brief outline how to remedy this unfathomable reality. This starts with simply increasing the number of images of dark-skinned pedestrians in the data sets used to train the systems.
Vamos, que tienen que entrenar la AI con más imágenes de los 3 tonos más oscuros de piel para mejorar la precisión en ese rango de personas.
#9 Yo tampoco, que yo sepa la mayoría de sistemas no usan visión artificial sino sistemas LIDAR que no dependen del color del objeto
coches autónomos que atropellan a gente de tez oscura? Abascal ya ha dicho que si sale presidente comprará unos centenares.
Vox lanza un decreto ley por via urgente para que todos los coches solo puedan circular en modo autonomo. #4 me adelantaste por la derecha
#6 Abascal siempre adelanta por la derecha.
#4 Que tenga cuidado el morenazi, Abascal no está en el promedio de lo que en EE.UU. llaman "white people".
#10 A Abascal en cualquier aeropuerto de EEUU le cae un control "aleatorio" de equipaje
#4 Gente de tez oscura para decir gente negra. Que lenguaje más "bien queda". Gente negra al igual que nosotros somos blancos y no de tez clara.
#19 Nosotros? A quien te refieres con nosotros?
#19 yo diría que vosotros sois blancos de tez oscura
#19 Este Sr. de la foto tiene la tez oscura. Y no es negro.
Tienes un problema racial, es evidente.
#19 Cuando dicen tez oscura, entiendo que se refiere a muchos tonos de piel de tez oscura; desde morenitos, pasando por los "Cafe Au Lait", niggys, negros, y best niggy.
#19 los blancos se broncean y ... pueden atropellarlos en pleno verano
Moraleja, si eres negro y es de noche, no cruces la calle sin llevar algo reflectante o al menos blanco.
Aunque los coches sean a manija.
El kukuxclan acaba de comprar cien.
#3 Y ha encargado otros quinientos ....
#3 Ku klux Tesla! Nuevo modelo a la venta!
Es racista, deberían matar a todo el mundo.
No veo el problema.
#2 Te abollan el coche.
#29 Como sean seres de luz.. te abollan la vida.
#32 Y luego te roban el coche.
#2 Pues está claro, el mayor peligro de tomar el sol ya no será el melanoma, a mi me parece muy preocupante
"Se llevan las subvenciones explotando a los que estamos levantando el país" ha declarado el coche autónomo
Me recuerda a un episodio de Better off Ted:
Se recomienda a los negros que cuando crucen la calle sonrían. Sobre todo si es de noche.
#20 Es buena idea, porque enseñar el culo no funcionaría.
Probablemente sea debido a que una piel más oscura proporciona menos contraste con el fondo, haciendo que sean más difíciles de ver, es lógico y es un problema tecnológico a solucionar. Ocurrirá lo mismo a los que lleven ropas oscuras, aunque si son blancos el contraste de la cara ayuda a minimizar el problema. Probablemente una chica vestida de blanco con el pelo rubio sea más visible que un hombre negro vestido de negro... Es simple contraste con el fondo.
Tecnologías como el lidar no deberían tener ese problema, pero si las basadas en imágenes ya que se basan en algoritmos que analizan los píxeles para buscar formas y cuanto más contraste exista entre el fondo y la forma a buscar más fácil es encontrarla. La solución es entrenar mejor los algoritmos para que tengan mayor precisión a la hora de detectar diferencias menores, aunque esto puede tener el efecto negativo de aumentar la tasa de falsos positivos.
De todas formas estoy seguro que a todos nos ha pasado, conduces de noche y los coches oscuros se ven peor, la gente con ropa oscura casi ni se ve cuando las comparas con la gente con ropas claras... si los humanos sufrimos también de esos problemas es de esperar que un sistema basado en visión en el espectro visible los tenga también. No así uno basado en visión volumétrica como es el laser o el lidar que lo que ven son volúmenes y no luz visible, pero esos sistemas son más caros por lo que si no baja su precio su uso será limitado en los primeros coches autónomos o semiautónomos.
A mí me ha pasado, llegando a frenar a tiempo.
Un negro vestido de negro cruzando un paso de peatones poco iluminado por la noche.
Igual pero en una moto negra sin luz delantera.
Puta luz racista que es absorbida por unos tonos y otros no...
Bug o Feature?
Qué cosas. En mi barrio hay mucho inmigrante subsahariano (negros, vaya) y de noche sus coches parece que funcionan de forma autónoma*.
* No se ve nadie al volante.
Carmageddon racista.
#7 o veraniego
Mira, como los policías usanos...
Lo que nos lleva a concluir que todos los propietarios de un Tesla son unos racistas.
#8 Los Tesla no son autónomos, sólo tiene a día de hoy, asistencia a la conducción.
Creo que Zaplana está asustado por esta noticia.
La culpa es de los programadores que son racistas.... y seguramente machistas...
¿los negros se muerden los dedos, al comer chocolate en sitio oscuro?.. siempre tuve la duda
Los autos autónomos no pueden reconocer a los peatones con tonos de piel más oscuros. RACISMO?....
La solución es fácil: que se pinten de blanco como Michael Jackson.
Baila morena, baila morena, que el Tesla te atropella.
#18 Tienes que abandonar la casa.
Y también deben reconocerlos si van disfrazados. Y no solo a las personas, sino también a los animales.
Ya tuvieron problemas con los canguros. Asi que no me extraña.
Creo que es el modelo Tesla KKK
las máquinas nunca se equivocan... hay que terminar primero con los que más corren no se vayan a escapar. Luego ya el resto.
El sueño humedo de VOX
Ni los autos autónomos ni los conductores humanos. Cuando alguien oscuro de piel no lleva mierda reflectante al atardecer a mi también me cuesta diferenciarlo.
Racistas, es como buscar fotos de gorilas en facebook
No me extraña, en mi país (Chile) las autoridades no pueden reconocer a los inmigrantes con tonos de piel más oscuros..
¿Hasta que añadan esos tonos a las bases de datos,quizá?
Si eres negro con los primeros móviles era imposible salir en las fotos, se veía una mancha negra.
Mi perro igual, negro azabache, ni con flash ni leches...
coches nasis rasistas malos.