Un nuevo informe muestra que los sistemas diseñados para ayudar a los autos autónomos a reconocer a los peatones pueden tener problemas para reconocer a las personas con tonos de piel más oscuros. La investigación preocupante se ha cargado en el servidor de preimpresión arxiv.
![Los autos autónomos no pueden reconocer a los peatones con tonos de piel más oscuros [ ing ]](https://cdn.mnmstatic.net/cache/2f/32/media_thumb_2x-link-3093207.jpeg?1551901986)
Comentarios
algoritmos racistas, la maquina también odia, la maquina también mata.
CHAN CHAN CHAN!!!!
No me lo creo.
Los algoritmos detectan a TODO el individuo, no solo la cara o las manos.
Si hubiesen dicho: las ropas claras o las ropas oscuras, vale, podría colar, pero un 5% (si llega) no puede guiar nada.
No me lo creo++
#2 Te abollan el coche.
coches autónomos que atropellan a gente de tez oscura? Abascal ya ha dicho que si sale presidente comprará unos centenares.
#4 Que tenga cuidado el morenazi, Abascal no está en el promedio de lo que en EE.UU. llaman "white people".
#9 Pues puede ser perfectamente, la diferencia segun el paper es de un 5%. Las compañias de seguros saben que los coches oscuros tienen más accidentes. No es por racismo, sino por que són mas dificiles de ver en condiciones de baja luminosidad.
No creo que un lidar tenga ese bias, pero un algorismo basado en images, puede tener mas dificultades con tonos que no contrastan tanto.
#41 no sé si lo dice en serio, pero es cierto: El valor de gris medio en la película, se fijaba para que la piel blanca saliese bien y con detalle. Era muy difícil exponer bien a un negro.
Hoy en día, lo cierto es que no se sabe, no hay datos. Pero si quieres que te sea sincero, trabajo haciendo fotos, y cuesta bastante exponer bien la piel negra.
El kukuxclan acaba de comprar cien.
Moraleja, si eres negro y es de noche, no cruces la calle sin llevar algo reflectante o al menos blanco.
Aunque los coches sean a manija.
#21
"la diferencia segun el paper"
"No creo que un lidar tenga ese bias"
"un algorismo basado en images"
#46 Mejor no pongas tildes.
#29 Como sean seres de luz.. te abollan la vida.
Es racista, deberían matar a todo el mundo.
Vox lanza un decreto ley por via urgente para que todos los coches solo puedan circular en modo autonomo. #4 me adelantaste por la derecha
#10 A Abascal en cualquier aeropuerto de EEUU le cae un control "aleatorio" de equipaje
Independientemente de que haya que creérselo, como dice #9, el titular es un poco de clickbait. Y el artículo también.
Lo primero de todo, de lo que se habla es de análisis de imágenes en coches autónomos. Está claro que los coches autónomos, no solo usan imágenes a día de hoy para detectar objetos, personas y señales, sino que es un elemento más junto con el LiDAR. Y como muchos han mencionado hay otras cámaras, como infrarojos que puede solucionar la papeleta y sumarte a la detección.
Lo segundo y más importante:
These results come after the outcome is adjusted to take into consideration whether the photo was taken during the day or at night. In summary, the report suggests that people with darker skin tones will be less safe near roads dominated by autonomous vehicles than those with lighter skin.
WTF! De donde se ha sacado esa conclusión? esto es pura y dura especulación, ya que si al sistema informático le cuesta detectar a esa persona, no te digo lo que le va a costar detectarla a un humano al volante. Y más si es en condiciones de luminosidad deficiente. De lo que habla el artículo original (https://arxiv.org/pdf/1902.11097.pdf) se explica en la primera frase del abstract:
In this work, we investigate whether state-of-the- art object detection systems have equitable predictive performance on pedestrians with different skin tones.
Y esto es algo sabido desde hace tiempo, que los sistemas de detección automática de caras, y esto se menciona en el artículo de prensa, tienen dificultades con gente de piel oscura. Y entiendo que por dos razones: Uno, efectivamente es más difícil distinguir rasgos faciales en un negro (si he dicho negro) que en un blanco o amarillo (si he dicho amarillo). Básicamente muchas sombras desparecen y no hay distintas tonalidades por la luz. Y dos y más importante, los sistemas han sido entrenados con menos personas de distintos colores y fundamentalmente se han usado blancos (y amarillos?) para esto.
Resumiendo, el artículo original es interesante... el de prensa es un tanto sensacionalista.
#50 y la del negro fijo que era robada...
No veo el problema.
"Se llevan las subvenciones explotando a los que estamos levantando el país" ha declarado el coche autónomo
#4 Gente de tez oscura para decir gente negra. Que lenguaje más "bien queda". Gente negra al igual que nosotros somos blancos y no de tez clara.
#67 jopetas, cada vez que comentó algo, o me tachan de nazi machista racista, o de SJW buenista
¯_(ツ)_/¯
#66 http://accentcodes.com/
Me recuerda a un episodio de Better off Ted:
Se recomienda a los negros que cuando crucen la calle sonrían. Sobre todo si es de noche.
#94 pero la película antigua (que es de lo que estamos hablando), tenía diferentes sensibilidades dependiendo de la gama del espectro. De todos modos, lo del tono venía a cuento solo por el primer comentario. Luego nos hemos ido de varas.
La película, tenía un rango de respuestas fijo, y estaba pensado para sacar mucho detalle en los tonos de piel (de piel blanca). Para que se me entienda algo mejor, he hecho un dibujo (me ha costado porque he tenido que cambiar dos veces de dureza de mina a mi Pentel GraphGear 1000 -> Mechanical Pencils fanboy)
#25 Lo peor es que igual lo est'as diciendo en serio. Y si t'u no, otros s'i.
#46 es que igual lo he dicho de una manera un poco coloquial. Mira, aquí tienes info de calidad sobre ello -> https://www.cjc-online.ca/index.php/journal/article/view/2196/2055
#43 Entonces no hay racismo sino malos datasets
#25 Cuando eran de película química, en el revelado se usaba como patrón para ajustar una foto de piel clara, lo que es lógico, por cada negro que tuviera una cámara había como dos millones de blancos que tenían la suya, no era racismo, eso era el mercado, amigo.
#45 Es la primera vez que oigo que es gris medio se "fijba" para la piel, pudiera ser pero es la primera vez que lo oigo.
La pel'icula tiene una latitud, que es como cu'antos grises se distinguen entre el negro y el blanco absoluto, el rango din'amico. El problema de "fijar el gris medio" la exposici'on, que no la pel'icula para un negro es que todo es que entonces todo lo dem'as te va a salir bastante blanco, vas a perder much'isimo detalle... aparte de que el disparo va a ser o m'as lento o con menos profundidad de campo.
B'asicamente no tiene sentido "fijar el gris medio" para la cara de un negro porque la cara del negro no es el gris medio. Lo que se busca, normalmente, es calcular la exposici'on para que el gris medio del objeto sea gris medio en la pel'icula.
#9 Yo tampoco lo creo básicamente porque muchos coches usan el espectro de infrarojos (vision nocturna) para detectar peatones incluso de noche, y ahi te la pela completamente el color de piel
#9 #74 Os capto, pero me gustaría decir que en la literalidad, no es para tanto. ¿Los de tez oscura tienen más riesgos con los sistemas de detección actuales? ¿Un 5% de error en un sistema que va a estar diariamente expuesto a millones de casos es relevante? La respuesta es que sí, y bastante lógica para cualquiera que maneje algo de fotosensores. Si hay un porcentaje mayor de error hay más riesgo, y punto, post.it para la nueva versión. Lo mismo pasa también con enanos que los confunda con bocas de incendio... a saber las estadísticas que se manejan.
¿Se debe excluir un sistema que mejora la seguridad en varios aspectos pero que "discrimina" por cuestiones puramente técnicas? Pues no, y creo que nadie se lo plantea.
A veces veo reacciones a artículos y noticias de este tipo como si se estuviera respondiendo a un panfleto propagandístico.
#3 Y ha encargado otros quinientos ....
#19 Este Sr. de la foto tiene la tez oscura. Y no es negro.
Tienes un problema racial, es evidente.
#1 Se vienen indemnizaciónes.
#10 En EEUU es un moro con todas las de la ley.
#32 Y luego te roban el coche.
Probablemente sea debido a que una piel más oscura proporciona menos contraste con el fondo, haciendo que sean más difíciles de ver, es lógico y es un problema tecnológico a solucionar. Ocurrirá lo mismo a los que lleven ropas oscuras, aunque si son blancos el contraste de la cara ayuda a minimizar el problema. Probablemente una chica vestida de blanco con el pelo rubio sea más visible que un hombre negro vestido de negro... Es simple contraste con el fondo.
Tecnologías como el lidar no deberían tener ese problema, pero si las basadas en imágenes ya que se basan en algoritmos que analizan los píxeles para buscar formas y cuanto más contraste exista entre el fondo y la forma a buscar más fácil es encontrarla. La solución es entrenar mejor los algoritmos para que tengan mayor precisión a la hora de detectar diferencias menores, aunque esto puede tener el efecto negativo de aumentar la tasa de falsos positivos.
De todas formas estoy seguro que a todos nos ha pasado, conduces de noche y los coches oscuros se ven peor, la gente con ropa oscura casi ni se ve cuando las comparas con la gente con ropas claras... si los humanos sufrimos también de esos problemas es de esperar que un sistema basado en visión en el espectro visible los tenga también. No así uno basado en visión volumétrica como es el laser o el lidar que lo que ven son volúmenes y no luz visible, pero esos sistemas son más caros por lo que si no baja su precio su uso será limitado en los primeros coches autónomos o semiautónomos.
#39 Solo hay que pensar un poco, no hace falta ser doctorado.
Que pasa, que si un peatón está de espaldas ya no lo detecta?
Directamente, sensacionalista.
#80 eso es cierto, pero tienes que pensar que un 5% es justamente lo que empieza a ser significativo estadísticamente. Es curioso que justamente sea esa cifra, da que pensar.
Estoy contigo que muchos artículos sacan las cosas de madre como mencionas.
#83 Creo que te has liado, un 0,000001% puede ser significativo o no, un 50% puede ser significativo o no. Me imagino que estás pensando en un p-valor de 0.05, pero estás mezclando conceptos.
A mí me ha pasado, llegando a frenar a tiempo.
Un negro vestido de negro cruzando un paso de peatones poco iluminado por la noche.
Igual pero en una moto negra sin luz delantera.
#1 No sé a qué viene la ironía, está bastante demostrado que los algoritmos pueden llegar a ser racistas. No porque sean malvados, sino porque miran correlaciones, no causalidad.
#1 poca broma, las cámaras de fotos estánhechas para los blancos
#48 Pffff... ha sido empezar a leerlo y me ha dado una pereza. La 'tipica chorrada SJW, gracias por enlazarlo, pero de nuevo, me parece que esta gente est'a m'as llena de chorradas ideol'ogicas que de conocimiento de fotograf'ia. Adem'as has mezclado tono con luminancia. Bah, qu'e pereza.
Puta luz racista que es absorbida por unos tonos y otros no...
Bug o Feature?
#21 Las compañías de seguros ya no discriminan por color del vehículo. Antes, los coches rojos tenían un plus por tener mayor siniestralidad, que no necesariamente más accidentes.
#9 además las cámaras suelen ser volumétricas por infrarrojos, puede ser que en un entorno muy específico con unas condiciones de iluminación muy especiales y durante una fracción muy pequeña de tiempo no lo detectase, que ya le pasó al kinet de Microsoft, pero nada cerca de ese 5%.
#125 En las fórmulas actuariales se incluyen las estadísticas tal cual son, no se añaden riesgos imaginarios ni datos sesgados. Y no es que no quieran, es que no se puede porque la Dirección General de Seguros y Fondos de Pensiones (DGSFP), el órgano regulador de las aseguradoras, les exige presentar las fórmulas que usan para calcular las primas para ver si están haciendo una gestión adecuada de los riesgos.
Luego, cada compañía añadirá a la prima los costes operativos y el margen de beneficio que quiera, el cual no puede ser todo lo alto que les gustaría porque si no dejarían de ser competitivas.
Qué cosas. En mi barrio hay mucho inmigrante subsahariano (negros, vaya) y de noche sus coches parece que funcionan de forma autónoma*.
* No se ve nadie al volante.
#18 Tienes que abandonar la casa.
#19 Cuando dicen tez oscura, entiendo que se refiere a muchos tonos de piel de tez oscura; desde morenitos, pasando por los "Cafe Au Lait", niggys, negros, y best niggy.
#41 Es más fácil leerte si simplemente no pones acentos que si los pones así, que lo sepas.
Carmageddon racista.
#39 No hace falta ser un experto para ver como ese titular es un jodido clickbait.
#9 el titular es sensacionalista. Si te lees el artículo dice:
The report thankfully gives a brief outline how to remedy this unfathomable reality. This starts with simply increasing the number of images of dark-skinned pedestrians in the data sets used to train the systems.
Vamos, que tienen que entrenar la AI con más imágenes de los 3 tonos más oscuros de piel para mejorar la precisión en ese rango de personas.
#8 Los Tesla no son autónomos, sólo tiene a día de hoy, asistencia a la conducción.
Creo que Zaplana está asustado por esta noticia.
#52 Gran aporte.
#72 con nadie, los humanos estáis majaras. Prefiero vivir solo con mi perro y con mis gatos a juntarme con peña que para hacerse la lista intenta aplicar el concepto de “luminancia” cuando estamos hablando de película fotográfica, y no sabe que el “tono” afecta a la exposición en foto química en ByN
#75 s'e que el tono afecta MUY MUY marginalmente a la exposici'on (apertura + tiempo de exposici'on), a no ser que trabajes con filtros o con pel'icula IR. Con luminancia me refiero a la cantidad de luz reflejada por algo, lo cual se aplica a los objetos y a la copia (el papel donde se hace la copia de la foto).
Lo que nos lleva a concluir que todos los propietarios de un Tesla son unos racistas.
#1 Eso les pasa porque salen más de noche. Es el mercado amigo.
Mira, como los policías usanos...
#69 Un algoritmo que perjudica sistemáticamente a los negros es racista, haya intención o no. Nadie dice que los programadores sean malvados, solo que hay efectos perniciosos que hay que corregir.
#117 Es posible que haya sido sin querer, pero acabas de hacer una defensa magnífica de las cuotas.
#126 Ah bueno, entonces el VIH que hasta hace poco tenía tasas altas de infección en homosexual varones no solo es homofobo sino que también es sexista.
No tiene nada que ver la información que se tenía y como se transmitía, simplemente el VIH votaba a Alianza Popular (VOX aún no existía)
#130 Quizás es que trabajo con dichos algoritmos y sé que dependen de con qué los alimentes, por eso no voy diciendo gilipolleces de que algo que no piensa puede tener un sesgo.
#132 Es que no es racista, simplemente es un clasificador.
Que tu digas que algo es racista es tu visión subjetiva,hace 500 año no existía eso que llamas racismo. El algoritmo tampoco lo sabe por lo tanto no puede serlo
#134 Porque lo de aprender las matemáticas detrás de dichos algoritmos no va contigo no? Para qué intentar entender cómo funciona algo si puedes soltar gilipolleces sin fundamento.
#136 No, no hay algoritmos que sepan que eres negro, seas pelirrojo o te huelan los pies. De hecho no saben ni que les hablas y con variables categóricas manejan 1 y 0.
#138 Claro que lo es, el problema es que no dice lo que quieres oir porque no es posible. Aprende estadística y luego aprende como funcionan los algoritmos más comunes, verás como todo lo que dices son gilipolleces sin sentido que no hay por donde cogerlas.
Baila morena, baila morena, que el Tesla te atropella.
La culpa es de los programadores que son racistas.... y seguramente machistas...
#51 Rasista!!!
#48 Pero es algo que ocurre a menudo en la vida real. Por ejemplo, es más difícil distinguir entre marrón oscuro y gris oscuro en la pintura de un coche, que distinguir entre marrón claro y gris claro, incluso estando a plena luz del día.
¿los negros se muerden los dedos, al comer chocolate en sitio oscuro?.. siempre tuve la duda
Los autos autónomos no pueden reconocer a los peatones con tonos de piel más oscuros. RACISMO?....
La solución es fácil: que se pinten de blanco como Michael Jackson.
#96 pues si ahora que lo mencionas puede que me haya liado, y es porque tampoco he leido el paper y con ese 5% no se a que se refieren, si al valor de p como mencionas, o que narices.
#45 hoy en día el ISO lo fijas tú, así que al no haber película el "rasista" será el que fije el ISO
#9 de acuerdo contigo. El titular es demasiado jugoso, así que posiblemente sea falso/exagerado para ganar clics.
#19 los blancos se broncean y ... pueden atropellarlos en pleno verano
#9 Ese 5% que tan poco te parece puede ser lo que le dice al algoritmo que esa mancha borrosa puede ser un humano.
#9 no me he leído el paper pero... Todo esto no se solucionaría añadiendo cámaras de infrarrojos y ya está?
Y también deben reconocerlos si van disfrazados. Y no solo a las personas, sino también a los animales.
#9 No siempre es así, dependen del algoritmo usado y el tipo de hardware. También es común tener problemas con desviaciones entre los datos reales y los usados para entrenar. Por ejemplo: si no tienes datos de persones norte americanas, probablemente no detecte bien a las personas obesas.
O si usas un sistema para detectar coches, puede que falle con limusinas...
#71 Pues mira a ver con qui'en te juntas
#81 porque nuestros ojitos están hechos para ver en la sabana, no en una mina de carbón. De igual modo que las emulsiones estaban pensadas para sacar a Audrey Hepburn guapetona, y no a Huey Newton.
#77 las primeras emulsiones de blanco y negro no eran siquiera pancromáticas: Con las películas ortocromáticas, cualquier cosa que reflejase luz con una longitud de onda mayor de 635 nm o así te iba a salir negra cojón de grillo. Le hacías una foto a una pelirroja y salía con el pelo azabache, de modo que mira si el tono contaba para la exposición.
Después la cosa cambió con las pelis pan, que ya daban un poco más de margen. Pero realmente, no fue hasta que las emulsiones y reveladores empezaron a hacer uso de muy alta tecnología química (con los agrupamientos del grano en forma de T de las T-Max y en forma de triángulo de las Ilford Delta) cuando se pudo empezar a sacar de una manera sencilla un buen número de pasos centrados en las sombras, sin tener que hacer mil trucos en el laboratorio que no estaban al alcance de la mayoría de los mortales. Sí te fijas, coincide con el declive de Agfa en ByN, ya que nunca desarrolló algo así.
En resumen, antes de 1980 (más o menos), le hacias una foto a un negro y salía fucking negro, a menos que fueses una eminencia en el cuarto oscuro.
#77 que no digo que esté mal... ya que por aquel entonces -¿Cómo decirlo de una manera correcta?- Los negros no se interesaban tanto por la fotografía como los blanquitos, por lo que las malvadas corporaciones vendían lo que quería la peña que hacía gasto.
#92 No veo la relaci'on entre lo 'ultimo que dices y el resto del mensaje.
yo lo resumir'ia as'i: si quieres ver detalles en una zona oscura, entonces tienes que correjir la exposici'on para esa zona oscura. Lo mismo pasa si vas a sacar todos de nieve o por la noche. Esto no tiene nada que ver con el tono, con el color, sino con la cantidad de luz.
#94 de hecho, mi hipótesis, es que hoy en día, sigue pasando lo mismo. No tengo datos y está solo basado en mis observaciones y experiencias (trabajo haciendo fotos) pero...
Por un lado, los medios de impresión: Cualquier impresora pro tiene dos o tres cartuchos "grises", pero siempre un solo cartucho negro. Ya, negro puro solo hay uno, pero antes del negro 100% hay muchos matices que se pueden considerar "negro" dependiendo de las referencias. Podríamos decir que tampoco hay tinta blanca, pero es que el blanco puro lo marca el papel, y sí hay papeles distintos.
Por otro lado, sigue siendo jodídamente difícil sacar bien la piel negra en un retrato, por la razón que sea.
Por último... y esto es válido para todo aquél que use cualquier modo automático al disparar: Las matrices que se usan para determinar la exposición siguen sacando la piel negra sobreexpuesta, siempre. Mucha AI, mucho reconocimiento facial y mucha polla con tomate, pero ahí la cagan todas las cámaras.
No sé, es lo que veo yo.
#100 no tiene nada que ver: Antes el ISO también lo fijabas tú, a ver si te piensas que solo se vendía película ISO 100
Comprendo que pienses que una vez sabes lo que es el diafragma, la velocidad y el ISO, ya lo sabes todo de imagen. No pasa nada, mucha gente vive feliz durante años sin ni siquiera saber esas tres cosas.
#98 Si est'a sobreexpuesta entonces es que reciben "mucha luz" y no salen totalmente negros, sino con matices. Luego ya les devuelves t'u la negrura con photoshop
Yo odio los programas. A veces hasta el autom'atico me molesta. Disto muuuucho de ser un experto pero para lo que hago muchas veces acabo tirando de manual (serpientes y bichos y chorradas as'i).
#106 eso es lo que digo: Que cuesta sacarlo bien.
Si necesitas usar un programa de edición para sacar bien un tono de piel (que ahora tiene un pase, pero antes del Photoshop ponerse a hacer burns y dodges en el cuarto oscuro era cosa fina), es que algo pasa.
#119 ya te digo: Lo he copiado y pegado, y ha desaparecido el brazo (ಥ﹏ಥ)
No pasa nada, nosotros tampoco
#2 Pues está claro, el mayor peligro de tomar el sol ya no será el melanoma, a mi me parece muy preocupante
#9 Yo tampoco, que yo sepa la mayoría de sistemas no usan visión artificial sino sistemas LIDAR que no dependen del color del objeto
Ya tuvieron problemas con los canguros. Asi que no me extraña.
#6 Abascal siempre adelanta por la derecha.