EDICIóN GENERAL
250 meneos
1360 clics
Los autos autónomos no pueden reconocer a los peatones con tonos de piel más oscuros  [ ing ]

Los autos autónomos no pueden reconocer a los peatones con tonos de piel más oscuros [ ing ]  

Un nuevo informe muestra que los sistemas diseñados para ayudar a los autos autónomos a reconocer a los peatones pueden tener problemas para reconocer a las personas con tonos de piel más oscuros. La investigación preocupante se ha cargado en el servidor de preimpresión arxiv.

| etiquetas: auto , autónomos , oscuras
113 137 10 K 249 cultura
113 137 10 K 249 cultura
Comentarios destacados:                            
#9 No me lo creo.

Los algoritmos detectan a TODO el individuo, no solo la cara o las manos.

Si hubiesen dicho: las ropas claras o las ropas oscuras, vale, podría colar, pero un 5% (si llega) no puede guiar nada.

No me lo creo++
algoritmos racistas, la maquina también odia, la maquina también mata.

CHAN CHAN CHAN!!!!
#1 Eso les pasa porque salen más de noche. Es el mercado amigo.
#1 poca broma, las cámaras de fotos estánhechas para los blancos
#25 Lo peor es que igual lo est'as diciendo en serio. Y si t'u no, otros s'i.
#41 no sé si lo dice en serio, pero es cierto: El valor de gris medio en la película, se fijaba para que la piel blanca saliese bien y con detalle. Era muy difícil exponer bien a un negro.
Hoy en día, lo cierto es que no se sabe, no hay datos. Pero si quieres que te sea sincero, trabajo haciendo fotos, y cuesta bastante exponer bien la piel negra.
#45 Es la primera vez que oigo que es gris medio se "fijba" para la piel, pudiera ser pero es la primera vez que lo oigo.

La pel'icula tiene una latitud, que es como cu'antos grises se distinguen entre el negro y el blanco absoluto, el rango din'amico. El problema de "fijar el gris medio" la exposici'on, que no la pel'icula para un negro es que todo es que entonces todo lo dem'as te va a salir bastante blanco, vas a perder much'isimo detalle... aparte de que el disparo va…   » ver todo el comentario
#46 es que igual lo he dicho de una manera un poco coloquial. Mira, aquí tienes info de calidad sobre ello -> www.cjc-online.ca/index.php/journal/article/view/2196/2055
#48 Pffff... ha sido empezar a leerlo y me ha dado una pereza. La 'tipica chorrada SJW, gracias por enlazarlo, pero de nuevo, me parece que esta gente est'a m'as llena de chorradas ideol'ogicas que de conocimiento de fotograf'ia. Adem'as has mezclado tono con luminancia. Bah, qu'e pereza.
#67 jopetas, cada vez que comentó algo, o me tachan de nazi machista racista, o de SJW buenista
¯_(ツ)_/¯
#71 Pues mira a ver con qui'en te juntas :-D
#72 con nadie, los humanos estáis majaras. Prefiero vivir solo con mi perro y con mis gatos a juntarme con peña que para hacerse la lista intenta aplicar el concepto de “luminancia” cuando estamos hablando de película fotográfica, y no sabe que el “tono” afecta a la exposición en foto química en ByN
#75 s'e que el tono afecta MUY MUY marginalmente a la exposici'on (apertura + tiempo de exposici'on), a no ser que trabajes con filtros o con pel'icula IR. Con luminancia me refiero a la cantidad de luz reflejada por algo, lo cual se aplica a los objetos y a la copia (el papel donde se hace la copia de la foto).
#77 las primeras emulsiones de blanco y negro no eran siquiera pancromáticas: Con las películas ortocromáticas, cualquier cosa que reflejase luz con una longitud de onda mayor de 635 nm o así te iba a salir negra cojón de grillo. Le hacías una foto a una pelirroja y salía con el pelo azabache, de modo que mira si el tono contaba para la exposición.
Después la cosa cambió con las pelis pan, que ya daban un poco más de margen. Pero realmente, no fue hasta que las emulsiones y reveladores…   » ver todo el comentario
#92 No veo la relaci'on entre lo 'ultimo que dices y el resto del mensaje.

yo lo resumir'ia as'i: si quieres ver detalles en una zona oscura, entonces tienes que correjir la exposici'on para esa zona oscura. Lo mismo pasa si vas a sacar todos de nieve o por la noche. Esto no tiene nada que ver con el tono, con el color, sino con la cantidad de luz.
#94 pero la película antigua (que es de lo que estamos hablando), tenía diferentes sensibilidades dependiendo de la gama del espectro. De todos modos, lo del tono venía a cuento solo por el primer comentario. Luego nos hemos ido de varas.
La película, tenía un rango de respuestas fijo, y estaba pensado para sacar mucho detalle en los tonos de piel (de piel blanca). Para que se me entienda algo mejor, he hecho un dibujo (me ha costado porque he tenido que cambiar dos veces de dureza de mina a mi Pentel GraphGear 1000 -> Mechanical Pencils fanboy)  media
#94 de hecho, mi hipótesis, es que hoy en día, sigue pasando lo mismo. No tengo datos y está solo basado en mis observaciones y experiencias (trabajo haciendo fotos) pero...
Por un lado, los medios de impresión: Cualquier impresora pro tiene dos o tres cartuchos "grises", pero siempre un solo cartucho negro. Ya, negro puro solo hay uno, pero antes del negro 100% hay muchos matices que se pueden considerar "negro" dependiendo de las referencias. Podríamos decir que tampoco…   » ver todo el comentario
#98 Si est'a sobreexpuesta entonces es que reciben "mucha luz" y no salen totalmente negros, sino con matices. Luego ya les devuelves t'u la negrura con photoshop :-D

Yo odio los programas. A veces hasta el autom'atico me molesta. Disto muuuucho de ser un experto pero para lo que hago muchas veces acabo tirando de manual (serpientes y bichos y chorradas as'i).
#77 que no digo que esté mal... ya que por aquel entonces -¿Cómo decirlo de una manera correcta?- Los negros no se interesaban tanto por la fotografía como los blanquitos, por lo que las malvadas corporaciones vendían lo que quería la peña que hacía gasto.
#71 bienvenido a internet
#71 Pues ahora te tacho de amputabrazos, como le has hecho al meme ese :troll:
¿Su brazo era oscuro?
:troll: :troll: :troll:
#48 Pero es algo que ocurre a menudo en la vida real. Por ejemplo, es más difícil distinguir entre marrón oscuro y gris oscuro en la pintura de un coche, que distinguir entre marrón claro y gris claro, incluso estando a plena luz del día.
#81 porque nuestros ojitos están hechos para ver en la sabana, no en una mina de carbón. De igual modo que las emulsiones estaban pensadas para sacar a Audrey Hepburn guapetona, y no a Huey Newton.
#46 Mejor no pongas tildes.
#45 hoy en día el ISO lo fijas tú, así que al no haber película el "rasista" será el que fije el ISO
#100 no tiene nada que ver: Antes el ISO también lo fijabas tú, a ver si te piensas que solo se vendía película ISO 100 xD
Comprendo que pienses que una vez sabes lo que es el diafragma, la velocidad y el ISO, ya lo sabes todo de imagen. No pasa nada, mucha gente vive feliz durante años sin ni siquiera saber esas tres cosas.
#41 Es más fácil leerte si simplemente no pones acentos que si los pones así, que lo sepas.
#25 Cuando eran de película química, en el revelado se usaba como patrón para ajustar una foto de piel clara, lo que es lógico, por cada negro que tuviera una cámara había como dos millones de blancos que tenían la suya, no era racismo, eso era el mercado, amigo.
#50 y la del negro fijo que era robada... :-D
#51 Rasista!!! :troll:
#25 Más que para los blancos, están hechas por blancos. Y como las han hecho los blancos, las han probado con gente blanca.

Es como los medicamentos para el colesterol, que se "calibraron" con estudios en los años 60 que se hacían sobre soldados, todos hombres. Por eso, con mujeres se supone que funcionan, pero a saber si igual o no...
#1 No sé a qué viene la ironía, está bastante demostrado que los algoritmos pueden llegar a ser racistas. No porque sean malvados, sino porque miran correlaciones, no causalidad.
#43 Entonces no hay racismo sino malos datasets
#69 Un algoritmo que perjudica sistemáticamente a los negros es racista, haya intención o no. Nadie dice que los programadores sean malvados, solo que hay efectos perniciosos que hay que corregir.

#117 Es posible que haya sido sin querer, pero acabas de hacer una defensa magnífica de las cuotas.
#43 Y porque, lógicamente, los señores que los han desarrollado los han probado con datos que tienen a mano. Si el 90% de programadores/testers son blancos, es comprensible que los hayan probado mayoritariamente con fotos de blancos.
#1 Se vienen indemnizaciónes.

#10 En EEUU es un moro con todas las de la ley.
#2 Te abollan el coche.
#29 Como sean seres de luz.. te abollan la vida.
#32 Y luego te roban el coche.
#2 Pues está claro, el mayor peligro de tomar el sol ya no será el melanoma, a mi me parece muy preocupante
El kukuxclan acaba de comprar cien.
#3 Y ha encargado otros quinientos ....
#3 Ku klux Tesla! Nuevo modelo a la venta!
:troll: coches autónomos que atropellan a gente de tez oscura? Abascal ya ha dicho que si sale presidente comprará unos centenares.
Vox lanza un decreto ley por via urgente para que todos los coches solo puedan circular en modo autonomo. #4 me adelantaste por la derecha xD
#6 Abascal siempre adelanta por la derecha.
#4 Que tenga cuidado el morenazi, Abascal no está en el promedio de lo que en EE.UU. llaman "white people".
#10 A Abascal en cualquier aeropuerto de EEUU le cae un control "aleatorio" de equipaje
#4 Gente de tez oscura para decir gente negra. Que lenguaje más "bien queda". Gente negra al igual que nosotros somos blancos y no de tez clara. ¬¬
#19 Nosotros? A quien te refieres con nosotros?
#19 yo diría que vosotros sois blancos de tez oscura
#19 Este Sr. de la foto tiene la tez oscura. Y no es negro.

Tienes un problema racial, es evidente.  media
#19 Cuando dicen tez oscura, entiendo que se refiere a muchos tonos de piel de tez oscura; desde morenitos, pasando por los "Cafe Au Lait", niggys, negros, y best niggy.
#19 los blancos se broncean y ... pueden atropellarlos en pleno verano
Carmageddon racista.
#7 o veraniego
Lo que nos lleva a concluir que todos los propietarios de un Tesla son unos racistas.
#8 Los Tesla no son autónomos, sólo tiene a día de hoy, asistencia a la conducción.


Creo que Zaplana está asustado por esta noticia.
No me lo creo.

Los algoritmos detectan a TODO el individuo, no solo la cara o las manos.

Si hubiesen dicho: las ropas claras o las ropas oscuras, vale, podría colar, pero un 5% (si llega) no puede guiar nada.

No me lo creo++
#9 Pues puede ser perfectamente, la diferencia segun el paper es de un 5%. Las compañias de seguros saben que los coches oscuros tienen más accidentes. No es por racismo, sino por que són mas dificiles de ver en condiciones de baja luminosidad.
No creo que un lidar tenga ese bias, pero un algorismo basado en images, puede tener mas dificultades con tonos que no contrastan tanto.
#21 Algo que puede cambiar con los coches autónomos, solo por recordar que el primer tesla (si mal no recuerdo) con una víctima normal confundió un camión claro con el tono del cielo.
#21 Las compañías de seguros ya no discriminan por color del vehículo. Antes, los coches rojos tenían un plus por tener mayor siniestralidad, que no necesariamente más accidentes.
#37 Las compañias de seguros se agarran a un clavo ardiendo si hace falta con tal de justificar lo que te cobran.
#90 No entiendo qué quieres decir. El precio es el resultado de una fórmula matemática relativamente sencilla y los riesgos se aceptan o no se aceptan. No se aceptan riesgos extraordinarios si la prima no es suficientemente alta, así que no sé qué sería el clavo ardiendo en ese caso.
En los precios de los seguros no hay sentimientos ni decisiones de último minuto o decisiones en momentos extremos.
#21
"la diferencia segun el paper"

"No creo que un lidar tenga ese bias"

"un algorismo basado en images"


:palm:
#42 que problem tienes man?
#9 Ese 5% que tan poco te parece puede ser lo que le dice al algoritmo que esa mancha borrosa puede ser un humano.
#24 Puede, quizás, a lo mejor...
#39 No hace falta ser un experto para ver como ese titular es un jodido clickbait.
#39 Solo hay que pensar un poco, no hace falta ser doctorado.
Que pasa, que si un peatón está de espaldas ya no lo detecta?

Directamente, sensacionalista.
#39 Insinúas que #9 es un ignorante en materia de visión artificial pero no dices en que se equivoca y por qué.
#9 Yo tampoco lo creo básicamente porque muchos coches usan el espectro de infrarojos (vision nocturna) para detectar peatones incluso de noche, y ahi te la pela completamente el color de piel
#9 no me he leído el paper pero... Todo esto no se solucionaría añadiendo cámaras de infrarrojos y ya está?
#9 No siempre es así, dependen del algoritmo usado y el tipo de hardware. También es común tener problemas con desviaciones entre los datos reales y los usados para entrenar. Por ejemplo: si no tienes datos de persones norte americanas, probablemente no detecte bien a las personas obesas.
O si usas un sistema para detectar coches, puede que falle con limusinas...
#9 además las cámaras suelen ser volumétricas por infrarrojos, puede ser que en un entorno muy específico con unas condiciones de iluminación muy especiales y durante una fracción muy pequeña de tiempo no lo detectase, que ya le pasó al kinet de Microsoft, pero nada cerca de ese 5%.
Independientemente de que haya que creérselo, como dice #9, el titular es un poco de clickbait. Y el artículo también.

Lo primero de todo, de lo que se habla es de análisis de imágenes en coches autónomos. Está claro que los coches autónomos, no solo usan imágenes a día de hoy para detectar objetos, personas y señales, sino que es un elemento más junto con el LiDAR. Y como muchos han mencionado hay otras cámaras, como infrarojos que puede solucionar la papeleta y sumarte a la detección.

Lo…   » ver todo el comentario
#9 #74 Os capto, pero me gustaría decir que en la literalidad, no es para tanto. ¿Los de tez oscura tienen más riesgos con los sistemas de detección actuales? ¿Un 5% de error en un sistema que va a estar diariamente expuesto a millones de casos es relevante? La respuesta es que sí, y bastante lógica para cualquiera que maneje algo de fotosensores. Si hay un porcentaje mayor de error hay más riesgo, y punto, post.it para la nueva versión. Lo mismo pasa también con enanos que los confunda con…   » ver todo el comentario
#80 eso es cierto, pero tienes que pensar que un 5% es justamente lo que empieza a ser significativo estadísticamente. Es curioso que justamente sea esa cifra, da que pensar.

Estoy contigo que muchos artículos sacan las cosas de madre como mencionas.
#83 Creo que te has liado, un 0,000001% puede ser significativo o no, un 50% puede ser significativo o no. Me imagino que estás pensando en un p-valor de 0.05, pero estás mezclando conceptos.
#96 pues si ahora que lo mencionas puede que me haya liado, y es porque tampoco he leido el paper y con ese 5% no se a que se refieren, si al valor de p como mencionas, o que narices.
#9 de acuerdo contigo. El titular es demasiado jugoso, así que posiblemente sea falso/exagerado para ganar clics.
#9 el titular es sensacionalista. Si te lees el artículo dice:
The report thankfully gives a brief outline how to remedy this unfathomable reality. This starts with simply increasing the number of images of dark-skinned pedestrians in the data sets used to train the systems.

Vamos, que tienen que entrenar la AI con más imágenes de los 3 tonos más oscuros de piel para mejorar la precisión en ese rango de personas.
#9 Yo tampoco, que yo sepa la mayoría de sistemas no usan visión artificial sino sistemas LIDAR que no dependen del color del objeto
Racistas, es como buscar fotos de gorilas en facebook
Es racista, deberían matar a todo el mundo.
"Se llevan las subvenciones explotando a los que estamos levantando el país" ha declarado el coche autónomo
Mira, como los policías usanos...
Creo que es el modelo Tesla KKK
Me recuerda a un episodio de Better off Ted:

www.youtube.com/watch?v=lMy5YpJysy4
Baila morena, baila morena, que el Tesla te atropella.
#18 Tienes que abandonar la casa.
Se recomienda a los negros que cuando crucen la calle sonrían. Sobre todo si es de noche.
#20 Es buena idea, porque enseñar el culo no funcionaría.
Moraleja, si eres negro y es de noche, no cruces la calle sin llevar algo reflectante o al menos blanco.

Aunque los coches sean a manija.
Qué cosas. En mi barrio hay mucho inmigrante subsahariano (negros, vaya) y de noche sus coches parece que funcionan de forma autónoma*.

* No se ve nadie al volante. :troll:
Ya tuvieron problemas con los canguros. Asi que no me extraña.
No me extraña, en mi país (Chile) las autoridades no pueden reconocer a los inmigrantes con tonos de piel más oscuros..
La culpa es de los programadores que son racistas.... y seguramente machistas...
¿Hasta que añadan esos tonos a las bases de datos,quizá?
las máquinas nunca se equivocan... hay que terminar primero con los que más corren no se vayan a escapar. Luego ya el resto.
El sueño humedo de VOX :troll:
Probablemente sea debido a que una piel más oscura proporciona menos contraste con el fondo, haciendo que sean más difíciles de ver, es lógico y es un problema tecnológico a solucionar. Ocurrirá lo mismo a los que lleven ropas oscuras, aunque si son blancos el contraste de la cara ayuda a minimizar el problema. Probablemente una chica vestida de blanco con el pelo rubio sea más visible que un hombre negro vestido de negro... Es simple contraste con el fondo.

Tecnologías como el lidar no…   » ver todo el comentario
Y también deben reconocerlos si van disfrazados. Y no solo a las personas, sino también a los animales.
A mí me ha pasado, llegando a frenar a tiempo.
Un negro vestido de negro cruzando un paso de peatones poco iluminado por la noche.

Igual pero en una moto negra sin luz delantera.
Si eres negro con los primeros móviles era imposible salir en las fotos, se veía una mancha negra.

Mi perro igual, negro azabache, ni con flash ni leches...
Puta luz racista que es absorbida por unos tonos y otros no...
Bug o Feature?
¿los negros se muerden los dedos, al comer chocolate en sitio oscuro?.. siempre tuve la duda
Los autos autónomos no pueden reconocer a los peatones con tonos de piel más oscuros. RACISMO?....
coches nasis rasistas malos.
La solución es fácil: que se pinten de blanco como Michael Jackson.
Ni los autos autónomos ni los conductores humanos. Cuando alguien oscuro de piel no lleva mierda reflectante al atardecer a mi también me cuesta diferenciarlo.
«12

menéame