Portada
mis comunidades
otras secciones
![Hackean automóvil de conducción automatica mediante pegatinas en las señales [EN]](https://cdn.mnmstatic.net/cache/2a/e4/media_thumb_2x-link-2810937.jpeg?1502209686)
#67:
El paper está bien a nivel experimental pero no a nivel real. Me explico: no han atacado ningún sistema real de autoconducción, sino que han diseñado el suyo propio y han atacado a su propio sistema. Pero el paper tiene varios defectos de novatillo:
- El primero es que diseñan su sistema con input de 32x32. Para hacerse una idea, cuando en este mundillo dices que usas una AlexNet, que el input es 224x224, ya no te toman muy en serio, porque sigue siendo un juego de niños. Ni siquiera viene descrita correctamente la topología, así que no se puede saber si hacen escala de grises con una 32x32x1 o usan color con una 32x32x3. Este tamaño lo han decidido porque es el input clásico de CIFAR10 y MNIST, que son las que se usan cuando estás aprendiendo. Para los que no las conozcan, MNIST son cifras del 0 al 9 dibujadas a mano, y CIFAR10 son 60.000 imágenes de 10 tipos de objetos: coche, barco, avión, ciervo, perro, gato, caballo, camión, pájaro, rana y barco. En estos tamaños tan pequeños es muy fácil "jugar" porque incluso en un navegador puedes entrenar, no hace falta GPU ni poder computacional ni nada. Es un juguete.
- El segundo es la poca topología que describen, 3 convolucionales y una fully connected... Cleverhans. Eso es conv de 8 filtros activación ReLu, conv de 6 filtros ReLu, conv de 5 filtros ReLu y la FC. Incluso cuando estoy explicando a chavales cómo funcionan el deep learning, y estamos con el primer problema de clasificar CIFAR10, la topología que uso suele ser conv 16 ReLu, pool 2, conv 20 ReLu, pool 2, conv 20 ReLu, pool 2 y softmax. La topología de los que han hecho este paper es de juguete, y encima para clasificar hacia 17 clases y no hacia 10.
- El tercero la cantidad de muestras: tienen 500 para 4 de las clases, pero luego tienen una clase (turn right) con solamente 92 muestras. Lo normal es tener un mínimo de 1000 de cada una de las clases.
- Aquí viene el punto más gracioso. Te dicen que usan AdaDelta pero que ponen el learning rate a 0.1... cuando curiosamente AdaDelta no usa learning rate, sino un vector extra xt aparte del gradiente.
- No indica cómo calculan las muestras para usar de validación.
- 100 epoch una accuracy de 91%. Es de llevarse las manos a la cabeza
- Durate las pruebas tienen en cuenta la perturbación angular que no han tenido en cuenta al entrenar el modelo. Y no corrigen esa perturbación con OpenCV ni con nada. Ole sus huevos morenos.
En definitiva... se nota que son novatos no, lo siguiente. Y el experimento no tiene validez con un sistema real. Para clasificación en carretera yo estoy usando una YOLO con input de 448x448x3, y me consta que está en la media o por debajo de los sistemas reales. Les recomendaría empezar con eso.
- El primero es que diseñan su sistema con input de 32x32. Para hacerse una idea, cuando en este mundillo dices que usas una AlexNet, que el input es 224x224, ya no te toman muy en serio, porque sigue siendo un juego de niños. Ni siquiera viene descrita correctamente la topología, así que no se puede saber si hacen escala de grises con una 32x32x1 o usan color con una 32x32x3. Este tamaño lo han decidido porque es el input clásico de CIFAR10 y MNIST, que son las que se usan cuando estás aprendiendo. Para los que no las conozcan, MNIST son cifras del 0 al 9 dibujadas a mano, y CIFAR10 son 60.000 imágenes de 10 tipos de objetos: coche, barco, avión, ciervo, perro, gato, caballo, camión, pájaro, rana y barco. En estos tamaños tan pequeños es muy fácil "jugar" porque incluso en un navegador puedes entrenar, no hace falta GPU ni poder computacional ni nada. Es un juguete.
- El segundo es la poca topología que describen, 3 convolucionales y una fully connected... Cleverhans. Eso es conv de 8 filtros activación ReLu, conv de 6 filtros ReLu, conv de 5 filtros ReLu y la FC. Incluso cuando estoy explicando a chavales cómo funcionan el deep learning, y estamos con el primer problema de clasificar CIFAR10, la topología que uso suele ser conv 16 ReLu, pool 2, conv 20 ReLu, pool 2, conv 20 ReLu, pool 2 y softmax. La topología de los que han hecho este paper es de juguete, y encima para clasificar hacia 17 clases y no hacia 10.
- El tercero la cantidad de muestras: tienen 500 para 4 de las clases, pero luego tienen una clase (turn right) con solamente 92 muestras. Lo normal es tener un mínimo de 1000 de cada una de las clases.
- Aquí viene el punto más gracioso. Te dicen que usan AdaDelta pero que ponen el learning rate a 0.1... cuando curiosamente AdaDelta no usa learning rate, sino un vector extra xt aparte del gradiente.
- No indica cómo calculan las muestras para usar de validación.
- 100 epoch una accuracy de 91%. Es de llevarse las manos a la cabeza
- Durate las pruebas tienen en cuenta la perturbación angular que no han tenido en cuenta al entrenar el modelo. Y no corrigen esa perturbación con OpenCV ni con nada. Ole sus huevos morenos.
En definitiva... se nota que son novatos no, lo siguiente. Y el experimento no tiene validez con un sistema real. Para clasificación en carretera yo estoy usando una YOLO con input de 448x448x3, y me consta que está en la media o por debajo de los sistemas reales. Les recomendaría empezar con eso.
#8:
#6 Convertir las señales en virtuales en el mapa de coche. Cuando el coche autónomo pase por un determinado punto por GPS sabrá que hay un STOP incluso si la señal física se la ha llevado un vendaval.
#7 No le doy ni 20 años -> https://twitter.com/jm22381/status/868943039926087684
#7 No le doy ni 20 años -> https://twitter.com/jm22381/status/868943039926087684
#75:
#72 Para nada. En una red neuronal lo que se tarda es en entrenar el modelo, es lo que requiere poder de computación. Una vez el modelo está entrenado, la ejecución del modelo es muy rápida. Por ponerte un ejemplo, yo en el móvil llevo dos apps propias hechas con tensorflow, una de ellas para reconocer 50 objetos cotidianos en tiempo real desde la cam del móvil, la otra para reconocer personas por un proyecto que estoy haciendo de drones autónomos para encontrar supervivientes en caso de catástrofe (se libreran drones en un área marcada, los drones tienen un arduino para controlar una Raspberry Pi ejecutando el modelo, y cuando encuentran personas mandan las coordenadas a las fuerzas del orden). Y estamos hablando de algo que se ejecuta en el móvil.
#79:
#58 En mi opinión no sirven para nada. La conducción autónoma no puede depender de leer señales de tráfico, es un sistema anticuado y desfasado, está diseñado para orientar a los humanos y quitando alguna ( en los cruces para dar prioridad, y alguna que otra historia ), son señales irrelevantes que no sirven para nada ni son críticas para la conducción. Si alguien se sube en un coche autónomo que confía en leer señales de tráfico como algo absoluto es que es muy tonto.
Respecto al tema de engañar, también puedes engañar a humanos poniendo señales falsas...
Respecto al tema de engañar, también puedes engañar a humanos poniendo señales falsas...
#3:
#0 Ese STOP lo entendía como una señal de 45 MPH, ¡pero con un grafiti más complicado lo tomaba por una señal de 100 MPH!
La verdad, es que algunas de las modificaciones a las señales son de risa para los ojos de un humano.
El caso es que esto servirá para mejorar el algoritmo de reconocimiento de las señales y además hará que implementen otros medidas como que el coche sepa que en un entorno urbano no puede circular a 100 por mucho que haya leído en una señal.
Edit #1 Es que en el cielo las señales son mucho más claras y no hay vándalos convirtiendo los STOP en eSTOPa
La verdad, es que algunas de las modificaciones a las señales son de risa para los ojos de un humano.
El caso es que esto servirá para mejorar el algoritmo de reconocimiento de las señales y además hará que implementen otros medidas como que el coche sepa que en un entorno urbano no puede circular a 100 por mucho que haya leído en una señal.
Edit #1 Es que en el cielo las señales son mucho más claras y no hay vándalos convirtiendo los STOP en eSTOPa
#28:
#17 No tienes en cuenta que el tiempo de expansión de cada nueva tecnología es menor que el de la anterior y cada vez más exponencial. ¿Cuánto tardó en alcanzar 1.000 usuarios el telégrafo, la radio, la televisión, el teléfono móvil, el smartphone? Cada uno mucho menos tiempo que el anterior.
Si hay obras detectará el obstáculo en la carretera y al volver a la zona con conexión mandará la información de modo que el resto de coches sabrá que en esa zona sin conexión hay una obra, automáticamente buscarán una ruta alternativa y le comunicará a los pasajeros el motivo del desvío.
Si hay obras detectará el obstáculo en la carretera y al volver a la zona con conexión mandará la información de modo que el resto de coches sabrá que en esa zona sin conexión hay una obra, automáticamente buscarán una ruta alternativa y le comunicará a los pasajeros el motivo del desvío.
#5:
Sólo será un problema temporal: la conducción autónoma hará que desaparezcan señales y semáforos porque todos los coches estarán conectados en red.
Comentarios
Con unas simples pegatinas...
#1 y eso en tierra, luego querrán que la gente vuele en aviones autónomos
#0 Ese STOP lo entendía como una señal de 45 MPH, ¡pero con un grafiti más complicado lo tomaba por una señal de 100 MPH!
La verdad, es que algunas de las modificaciones a las señales son de risa para los ojos de un humano.
El caso es que esto servirá para mejorar el algoritmo de reconocimiento de las señales y además hará que implementen otros medidas como que el coche sepa que en un entorno urbano no puede circular a 100 por mucho que haya leído en una señal.
Edit #1 Es que en el cielo las señales son mucho más claras y no hay vándalos convirtiendo los STOP en eSTOPa
#3 Al menos no confundia las señales con una avestruz.
Sólo será un problema temporal: la conducción autónoma hará que desaparezcan señales y semáforos porque todos los coches estarán conectados en red.
#5 Y que hacemos mientras tanto?
Pues cuando todos aprendamos como se va a comportar un coche autónomo en una rotonda si te cruzas delante suyo de repente va a ser divertido ver como se les putea adrede. Porque, si los humanos con mala leche frenamos (casi siempre) cuando el fiti se te cruza sin preferencia para no tenerla gorda, entiendo que el coche autónomo, tenga preferencia o no, frenará sí o sí aunque el otro venga haciendo la macarrada de la semana.
#5 Espero no ver eso. También espero vivir más de 100 años, así que espero que eso que dices tarde en llegar.
#6 Convertir las señales en virtuales en el mapa de coche. Cuando el coche autónomo pase por un determinado punto por GPS sabrá que hay un STOP incluso si la señal física se la ha llevado un vendaval.
#7 No le doy ni 20 años ->
#2 En el aire no hay señales
#6 Tú podrías aprovechar para mejorar tu ortografía.
#8 Excepto si pierde la cobertura, claro.
Como se nota el universo entero gira alrededor de las ciudades y no hay más mundo más allá de la M-50.
#8 Igual en 20 años sigue existiendo meneame. Nos vemos entonces.
PD: Llevan conductor hasta los trenes y ahora en 20 años vamos a tener todos absolutamente todos coches autonomos, haced el favor de bajar de la nube.
#4: No conocía eso. ¿Entonces si meto ese ruido a cualquier foto puedo "avestrucearla"? ¿Pica luego?
#11 No hay mundo más allá de mi visionario favorito que me ha prometido que el mundo va a ser como el de las pelis de ciencia ficción antes de que me jubile...
De haberlo sabido antes...
#11 Los mapas pueden ir en cache para el 1% de territorio de carretera sin conexión.
#12 Ya hay líneas de metro sin conductor
Lo próximo los trenes http://computerhoy.com/noticias/life/francia-experimentara-trenes-conductor-partir-2019-63780
https://treneando.com/2017/01/14/bombardier-entrega-al-metro-de-shangai-el-primer-tren-sin-conductor-de-china/
#16 No haces más que darme la razón ¿cuanto tiempo ha pasado desde la primera linea de metro sin conductor? Y todavía queda para rato para que no haya conductores en ningún tren.
Por cierto, ¿¿¿¿LA CACHE???? Y si hay obras asumimos el ostiazo como normal...
#8 Ay, me recuerdas a 1995 y a las esperanzas de coches voladores en los primeros años de los 2000...
porque el sistema tendra hecho el training sobre señales perfectas. Haciendo el training sobre señales alteradas deberia de ser capaz de hacerlo igual de bien. Pero claro, hay infinitas formas de alterar señales
Se supone que llegará un momento que modificar una señal de esa forma hará que te caiga un buen puro. Ahora mismo es como si te pillan fundiendo las luces de un semáforo o desactivando un radar.
Nuevos tiempos, nuevas leyes.
#2 acaso no van ya el 90% en automático? y en los aterrizajes si se complica la visibilidad.
#8 No me sirve. Si un vendaval se lleva tu señal ya no tienes señal y tienes que hacer caso a lo que te corresponda según el orden de preferencia de señales (semáforos, señales verticales, marcas viales). No puedes ir en plan "yo sé que aquí antes había una señal de prioridad así que tengo prioridad, aunque no haya señal".
#19 Lo divertido es que el humano más tonto, borracho como una cuba, podría identificar ese stop de un vistazo.
Hombre, y si la pegatina es suficientemente grande también engañas al conductor humano
Pero los coches autónomos son seguros... si si claro.
#5 Sí, claro, y Bill Gates iba a acabar con el SPAM iba a ser un problema del pasado en el año 2006. Para empezar aún no tenemos coches 100% autónomos. Y cuando digo 100% digo autónomos al 100.0000%, no al 99.9998%. Así que imagínate lo que vamos a tener que esperar, no para tener coches autónomos, sino para que TODOS los coches sean autónomos de serie, desde el Mercedes Clase S hasta el Opel Corsa más básico.
Y el problema no es tanto que se puedan hackear las señales, el problema es que las señales también se deterioran. No me sirve un sistema de conducción autónoma que no sea capaz de entender una señal en este estado:
#25 ¿100% seguros? No. ¿Más seguros que el promedio de los conductores? Esa es otra pregunta.
#17 No tienes en cuenta que el tiempo de expansión de cada nueva tecnología es menor que el de la anterior y cada vez más exponencial. ¿Cuánto tardó en alcanzar 1.000 usuarios el telégrafo, la radio, la televisión, el teléfono móvil, el smartphone? Cada uno mucho menos tiempo que el anterior.
Si hay obras detectará el obstáculo en la carretera y al volver a la zona con conexión mandará la información de modo que el resto de coches sabrá que en esa zona sin conexión hay una obra, automáticamente buscarán una ruta alternativa y le comunicará a los pasajeros el motivo del desvío.
Honestamente, la gente tiene mucho tiempo libre, dedicarle tiempo a hacer que un sistema de reconocimiento de imágenes funcione mal, meparece una chorrada como un templo. Si metes ruido en la señal en algún momento es obvio que el sistema no funcionará correctamente, igual que si eres miope y no ves bien la señal... Si quieres medir rendimientos bien, pero no creo que ningún ingeniero le diera prioridad a un sistema de reconocimiento de señales y acelerara el coche por que si, simplemente existirá como una ayuda a la conducción.
Lo de usar el término "hackear" ahora es simplemente sabotear el funcionamiento de cualquier cosa electrónica? por que entonces si metemos un impulso electromagnético al coche seguro que lo freímos y también lo hemos "hackeado".
De todas formas, sobre todo este tema del reconocimiento de señales... La verdad no termino de comprender su utilidad real. Es como una de esas mejoras absurdas sin demasiado recorrido práctico, ya que es un sistema ineficiente y muy propenso a errores.
#7 entiendo que el coche autónomo, tenga preferencia o no, frenará sí o sí aunque el otro venga haciendo la macarrada de la semana.
Eso ya lo han pensado los fabricantes:
http://www.telegraph.co.uk/technology/2016/11/17/humans-will-bully-robot-cars-mercedes-chief-warns/
Y la propuesta del CEO de Mercedes USA trajo cola...
“They’ll look for the autonomous car and that’s where they’ll cut in,” Mr Exlar said.
A solution could be to make autonomous vehicles a little more assertive and aggressive - a little more human, perhaps.
#1 Los vehículos autónomos no sólo tienen en cuenta las señales de tráfico, también la cartografía y el GPS. Contrastan la información recibida por las cámaras con la información cartográfica, al menos en modelos de Mercedes Benz
#30 Interesantísimo
#17 segun la wiki, casi 50 años desde que se abrio la linea Victoria en Londres:
https://en.wikipedia.org/wiki/Victoria_line
#28 Y aun con todo. En 20 años no verás lo que vaticinas, se siguen vendiendo coches de combustión, se siguen vendiendo coches sin ESP, ASR y no se si sigue siendo legal venderlos sin ABS pero no me extrañaría.
En 20 años verás coches autónomos, pero no serán los únicos que veas. Ni serán mayoría. Y no me apuesto una caña contigo porque será casi imposible que tú me la pagues a mí o yo te la pague a tí, pero vaya, que en una charla de bar me la apostaría tranquilamente.
EDITO para añadir: Sobre las obras, lo que te han dicho sobre las señales que vuelan, el coche frenará si ve el obstaculo, entonces...para qué señales aunque sean en el mapa...si ya va a detectar todos los obstáculos aunque vaya a 90 por donde está limitado a 40 por obras?
Y si es una señal temporal de trafico alternado al haberse reducido un carril? Como solucionas que no se meta en el tramo al no saber que había un semáforo en rojo porque no lo tenía cacheado?
No, los experimentos con gaseosa, y para llegar a lo que dices tienen que pulirse tantos detalles que todavía ni todos los genios juntos que trabajan en ello han sido capaces tan siquiera de imaginarlos.
#23 Lo increíble es que el ordenador no sea capaz de reconocerla, más increible aún que la confunda con una señal de velocidad, los STOPS son las únicas señales octogonales del mundo, precisamente por su importancia para reconocerlas aunque estén deterioradas, vandalizadas, tapadas por la nieve o lo que sea, hay que ser inútil como diseñador/programador para no tener en cuenta esa característica de la señal de stop e introducirla en el programa.
#23 Aun asi mueren decenas de miles de humanos cada dia al volante. Infalibles oye
#27 Como te han contestado, un conductor borracho como una cuba, un mero humano, hubiera visto esa señal de STOP.
¿Eres conductor? Esa es una pregunta importante para seguir debatiendo.
#7 Fácil, los sensores harán una foto al coche macarra y lo enviarán junto con la telemetría a la Guardia Civil. Ya verás que pronto se le quitan las ganas de volverlo a hacer.
#26 no solo eso, si no que necesitas esperar a que TODOS los coches anteriores sean retirados de las calles lo cual añade otros 20 o 30 incluso mas años.
#23 Si, pero acaba liandola igual...
#38 Ah bien, ahora vamos a otorgar el mismo valor al aparato privado que lleva un particular en su vehículo que a un radar homologado de la policía. Y todo esto en menos de 20 años...
Así que para que la fantasía que queréis funcione hay que ahondar en el fascismo y en la conversión a un estado policial más represivo si cabe.
#41 El mismo que tienen ahora.
Si ahora grabas a alguien haciendo una pirula y lo investigan posiblemente le multen. Esto solo haría que fuera una máquina la que lo hiciera, y si el conductor del otro vehículo te ha puesto en peligro me parece más que razonable que lo haga.
No si alguien le ha echado un vistazo al paper. No es que vayan a parar el desarrollo de la conduccion autonoma, sino mas bien la aplicación de redes neuronales en tareas críticas. La razón es que hace unos meses descubrieron los llamados adversarial attacks (en kagle google ha puesto varias competiciones sobre este tema), mediante los cuales se puede engañar a una red neuronal con pequeños cambios en la información de entrada. No olvidemos que existen otras muchas técnicas aparte de estas estructuras y que es probable que en breve alguien descubra como hacerlas robustas a este tipo de ataques.
p.d.: el titular es un poco sensacionalista!!!
#9 espero que confundan PAPI con la A-2
Y si la tapan con una bolsa de basura una persona sin coche autónomo se puede saltar un stop y matarse. Coste de una bolsa de basura: 0.02€ y no te hace falta ni impresora ni cámara.
#34 #26 No se necesitará tanto tiempo para cambiar los coches porque no serán comprados por clientes finales sino flotas que pondrán compañías como Uber. En el momento que sea más barato llamar desde una app a un coche que te recoja y te lleve para un viaje puntual que pagar el mantenimiento y el seguro de uno propio el cambio será exponencial. Lo pagarás en el viaje pero la presión de estas empresas sobre las aseguradoras hará que sean unos céntimos de tu factura. El cambio empezará en las ciudades y luego a los pueblos donde hay más caminos complicados. Estas megaempresas no invierten miles de millones si no saben que hay un enorme negocio en quitar a los conductores de en medio.
#22 Por eso en EEUU ya están cambiando leyes a nivel estatal y ahora a nivel nacional.
Una señal deteriorada probablemente sea vista mejor por un coche con visión nocturna e infrarrojos que por un conductor cansado que es más probable que cause un accidente.
#35 Cierto, además la señal de ceda el paso es la única con un triángulo invertido para que la pueda ver el que tiene preferencia de paso aunque lo haga desde el lado no visible.
#26 Lo mejor de todo es que incluso para un conductor humano la interpretación de esa señal es obvia: "Bienvenido a Silent Hill".
#15 Eso me suena a la solución de Hommer de quitarle el número a su calle. Ahora programarán a terminator para buscar a la Sarah con captcha.
#42 Pues entonces igual que ahora, vete a denunciar que ibas por el carril de la derecha en el que hay retención en una salida, y al final del mismo se te ha metido uno por sus santas narices, que se ha saltado toda la cola por la izquierda y se ha metido en tu hueco con mucho morro y unos peligrosisimos 10km/h. Vete y denuncia.
Si te lo hacen ahora puedes darte la pequeña satisfacción de cerrar el hueco y que sea el de atrás el que se tenga que encabronar porque se le ha metido el listo de turno, si el coche es autónomo, a no ser que sea el del ceo de mercedes que los quiere bien agresivos, el macarra sabe que ahí el hueco es garantizado.
¿Quién ha hecho el sistema que han "hackeado"?,¿ os habéis planteado si ese grupo de estudio no busca más que notoriedad ya que es un tema candente y que puede reportar financiación? ¿Google es tan inútil que nunca ha pensado en este tipo de problemas para su división de Waymo?, ¿quizás saber que el ruido en las imágenes es un tema del que se sabe hace mucho tiempo?
En fin, yo seguiré pensando que los conglomerados de Toyota, Google, Nvidia y demás que dicen traer sistemas de nivel 4 para dentro de 3 o 4 años saben algo más del tema, 3 o 4 años para una empresa implica la intención de realizarlo casi con total seguridad. Ya iremos viendo, veo que alguien comenta lo de que habrá mapas onboard de las carreteras, menos mal que alguien es capaz de superar el hackeo, cosa que a Google no se le habrá ocurrido. En fin.
#50 Si es legal, el ir tú conduciendo tampoco te evita el problema.
Para abrir la ventanilla y gritarle un insulto no hace falta llevar un coche automático.
#35 Si analizas como funcionan esos algoritmos igual no es tan increíble (quizás entonces lo increíble es que funcionen). En general se utilizan algoritmos de aprendizaje automático y eso significa que ellos aprenden por su cuenta que características tienen que reconocer. Lo malo es que eso se convierte en una caja negra en la que realmente no sabes cómo reconoce esas señales.
Lo que mencionas al final simplemente diré que no es tan sencillo, los humanos nos inventamos la mayoría de la información que interpretamos. Es por eso que por ejemplo vemos caras dónde no hay ninguna.
#52 Yo lo que preveo, miras la cola que tienes delante y ves un trailer, "ah bien, dejará hueco seguro, así que apuro".
En el futuro, ves un coche autónomo: Hueco seguro.
#54 Pues nada, llevas un coche autónomo y tienes paciencia. O lo configuras para que no deje hueco a nadie y así llegas un minuto antes a tu trabajo.
#24 Lo interesante es que justamente puedas poner una pegatina que solo engañe a la máquina y pase desapercibida a los conductores. Si manipulas una señal de 120 en un tramo de 40 lo mismo tienes varias llamadas de conductores o vecinos quejándose. También podemos esperar que los conductores intuyan que la señal está mal y rectifique (otra cosa es que la respeten )
#56 hombre, tal vez 120 en uno de 40 no
pero 140 con unas pegatinas igual daria el pego 
o 180 en uno de 100 
... o incluso 1120 LOL y obviamente ningun conductor humano intentaria ir a 1120 
#29 No comparto nada tu opinión, son sistemas que tienen que enfrentarse a condiciones "salvajes" o no controladas.
Muchos de los sistemas que se utilizan para reconocer esas imágenes tienen un grado conocido de fiabilidad, algunos cercanos al 99% pero solo se basan en hacer pruebas con "ruido" que no sean mal intencionadas en la señal o que sea debido a factores climáticos o de la propia señal del vídeo. No olvides que esto es un sistema en el que confías tu seguridad. Algo curioso es lo que comenta #4 en esos experimetos lo importante quizás no es tanto que se consiguiera confundir a una red neuronal para que pensara que un perro era otra cosa, sino que además te decía que era esa otra cosa con un grado de confianza del 9X%. Si un sistema detecta que no está seguro de que una señal deteriorada o borrosa es un tipo de señal, el sistema puede tratar con esa incertidumbre.
Lo más peligroso es que puedes fabricar señales de tráfico que parezcan normales ante conductores pero que para un vehículo, o incluso para un modelo específico de vehículo, esté manipulada.
PS: Esto me recuerda a cuando se empezó a hablar de internet, la mayoría de protocolos de red se hicieron sin pensar para nada en la seguridad, ni en que haya gente mal intencionada, etc, etc, y eso supone muchos errores de diseño de base que hemos ido arrastrando.
Puff, veo cosas raras. Por ejemplo ¿qué vehículo han usado para las pruebas, ¿Acaso tienen un vehículo autónomo en la Universidad?.
Dicho esto, hay varios factores que haràn que este tipo de acciones no sirvan para nada. Uno es el aprendijaje compartido de las flotas. Si otros coches han pasado por ahí, y había un Stop, harà un Stop.
En el futuro no habrá señales ya que toda la información estará en los equipos de los coches y en sus mapas de navegación.
#6 Mientras tanto habrá que adoptar señales duales (visuales como hasta ahora para los conductores humanos y sensorizadas para los coches autónomos).
Otra opción es tener señalizada toda la red vial en la nube (el coche no buscaría señales sobre el terreno sino en el mapa).
#20 No creo que a día de hoy sea legal modificar esas señales de ninguna forma...
#7 También va a ser divertido cuando las cámaras de los coches autónomos se conecten por imperativo legal a una inteligencia digital del Ministerio del Interior y se pongan multas automáticamente a quien se salte la precedencia en las rotondas.
#30 Lo gracioso es que puede que tengas a coches autónomos haciéndose putadas entre ellos.
#46 Asumiendo que servicios como Uber vayan a sustituir a los coches privados. Asumiendo que los coches autónomos vayan a sustituir a los conductores en el 100% de los casos. Asumiendo...
Una cosa es que algo sea técnicamente viable y otra cosa es que llegue a ser una realidad. Hoy en día podríamos usar terminales tontos conectados a servidores donde se ejecutasen las aplicaciones (de hecho muchos vaticinaron que ese sería el futuro) y aquí seguimos.
#57 No entiendo tu comentario, dime dónde pones esa señal y yo lo intento.
#60 Las señales tienen que estar sincronizadas. Por ejemplo, si la bombilla de un semáforo se estropea no me vale que el coche diga "a mi me llega la señal de que tengo vía libre así que cruzo" o si una señal se caído que diga "ah, no tengo ceda el paso, vía libre".
El paper está bien a nivel experimental pero no a nivel real. Me explico: no han atacado ningún sistema real de autoconducción, sino que han diseñado el suyo propio y han atacado a su propio sistema. Pero el paper tiene varios defectos de novatillo:
- El primero es que diseñan su sistema con input de 32x32. Para hacerse una idea, cuando en este mundillo dices que usas una AlexNet, que el input es 224x224, ya no te toman muy en serio, porque sigue siendo un juego de niños. Ni siquiera viene descrita correctamente la topología, así que no se puede saber si hacen escala de grises con una 32x32x1 o usan color con una 32x32x3. Este tamaño lo han decidido porque es el input clásico de CIFAR10 y MNIST, que son las que se usan cuando estás aprendiendo. Para los que no las conozcan, MNIST son cifras del 0 al 9 dibujadas a mano, y CIFAR10 son 60.000 imágenes de 10 tipos de objetos: coche, barco, avión, ciervo, perro, gato, caballo, camión, pájaro, rana y barco. En estos tamaños tan pequeños es muy fácil "jugar" porque incluso en un navegador puedes entrenar, no hace falta GPU ni poder computacional ni nada. Es un juguete.
- El segundo es la poca topología que describen, 3 convolucionales y una fully connected... Cleverhans. Eso es conv de 8 filtros activación ReLu, conv de 6 filtros ReLu, conv de 5 filtros ReLu y la FC. Incluso cuando estoy explicando a chavales cómo funcionan el deep learning, y estamos con el primer problema de clasificar CIFAR10, la topología que uso suele ser conv 16 ReLu, pool 2, conv 20 ReLu, pool 2, conv 20 ReLu, pool 2 y softmax. La topología de los que han hecho este paper es de juguete, y encima para clasificar hacia 17 clases y no hacia 10.
- El tercero la cantidad de muestras: tienen 500 para 4 de las clases, pero luego tienen una clase (turn right) con solamente 92 muestras. Lo normal es tener un mínimo de 1000 de cada una de las clases.
- Aquí viene el punto más gracioso. Te dicen que usan AdaDelta pero que ponen el learning rate a 0.1... cuando curiosamente AdaDelta no usa learning rate, sino un vector extra xt aparte del gradiente.
- No indica cómo calculan las muestras para usar de validación.
- 100 epoch una accuracy de 91%. Es de llevarse las manos a la cabeza
- Durate las pruebas tienen en cuenta la perturbación angular que no han tenido en cuenta al entrenar el modelo. Y no corrigen esa perturbación con OpenCV ni con nada. Ole sus huevos morenos.
En definitiva... se nota que son novatos no, lo siguiente. Y el experimento no tiene validez con un sistema real. Para clasificación en carretera yo estoy usando una YOLO con input de 448x448x3, y me consta que está en la media o por debajo de los sistemas reales. Les recomendaría empezar con eso.
#63 Cierto, no lo había pensado...
#62 Contestado en otro mensaje, espera sentado.
Pues igual que atacas al sistema humano si eliminas un stop o un semáforo
#6 Ahora dar las gracias. Mejor ahora que después.
Supongo que en principio este tema lo tienen en pausa y estarán centrándose en otros aspectos. Pero para tenerlo en cuenta y que poniendo una simple pegatina con simulación de un semáforo en la parte trasera de otro automóvil en movimiento bastante se puede liar.
#67 ¿Una red neuronal no es algo muy bestia para utilizar en tiempo real y en un coche real?
#5 Efectivamente. Lo que falla es el reconocimiento de señales para humanos. Si fueran radiobalizas para coches autonomos... los humanos no leerían ni una.
No se vosotros, pero yo veo claro qué parte sobra.
#70 No entiendo tu comentario, yo suelo apuntar al conductor...
#72 Para nada. En una red neuronal lo que se tarda es en entrenar el modelo, es lo que requiere poder de computación. Una vez el modelo está entrenado, la ejecución del modelo es muy rápida. Por ponerte un ejemplo, yo en el móvil llevo dos apps propias hechas con tensorflow, una de ellas para reconocer 50 objetos cotidianos en tiempo real desde la cam del móvil, la otra para reconocer personas por un proyecto que estoy haciendo de drones autónomos para encontrar supervivientes en caso de catástrofe (se libreran drones en un área marcada, los drones tienen un arduino para controlar una Raspberry Pi ejecutando el modelo, y cuando encuentran personas mandan las coordenadas a las fuerzas del orden). Y estamos hablando de algo que se ejecuta en el móvil.
#51 En general estoy de acuerdo pero cuando ves algunos de los hacks reales que se han hecho para vehículos autónomos te das cuenta que igual es que no han pensado en muchas cosas. Ahora lo menciono de memoria, uno de ellos tenía que ver con utilizar el mismo bus de conexión para elementos de usuario que para componentes críticos del sistema. Algo que según los autores de dicho hack era de novatos.
#9 ¡Eso es peor aún!
#13 El ruido es diferente para cada caso.
#58 En mi opinión no sirven para nada. La conducción autónoma no puede depender de leer señales de tráfico, es un sistema anticuado y desfasado, está diseñado para orientar a los humanos y quitando alguna ( en los cruces para dar prioridad, y alguna que otra historia ), son señales irrelevantes que no sirven para nada ni son críticas para la conducción. Si alguien se sube en un coche autónomo que confía en leer señales de tráfico como algo absoluto es que es muy tonto.
Respecto al tema de engañar, también puedes engañar a humanos poniendo señales falsas...
#53 Tienes razon, no habia caido en el detalle de que son sistemas que autoaprenden mis disculpas al programador . Aún así me asombra que no haya sido capaz de relacionar la señal de STOP con un octagono durante su aprendizaje.
Si esto es hackeo... Yo "hackeaba" futbolines con un mondadientes en el tirador...
#64 Aquí seguimos... usando Menéame, Facebook, Google...
Mucha gente usa sus PCs como terminales tontos desde hace tiempo sin darse cuenta de ello.
El cambio a coches autónomos con Uber, si se da, será igualmente exponencial y sin que la gente se dé realmente cuenta de ello. O no hay cambio, o para cuando quieras darte cuenta hará años que habrá pasado.
#22. Y no se te olvide la preferencia sobre todas ellas de las indicaciones de un agente de tráfico. Que ya es algo tan inusual hoy día, que muchos conductores ni saben ya interpretar. Van en modo "¡aydiós!" defensivo.
Me juego algo a que la maquinita tendría sus dificultades para identificar, primero el uniforme (por países, cuerpos y localidades), y luego aparte gestos y señales luminosas.
Si circula por el sudeste asiático, cortocircuito seguro.
#37 Vale, el borracho ve la señal, ¿pero se para?
Amenazas cibernéticas impulsan retorno de la radio a la navegación con barco.
https://es.noticias.yahoo.com/amenazas-cibern%C3%A9ticas-impulsan-retorno-radio-navegaci%C3%B3n-barco-130917822.html
#79 Sí, es anticuado pero se trata de ser prácticos y probablemente nunca tendrás un entorno totalmente controlado, así que esto no deja de suponer un avance tecnológico.
Sobre el tema de engañar el problema es que puedes engañar a un coche mientras que para cualquier persona parezca una señal totalmente correcta. Hasta sería posible enfocarlo a un modelo de coche determinado, además, haciéndole creer que su interpretación es correcta con una alta probabilidad.
Por supuesto que a una persona también puedes engañarla, no se trata de eso.
#71. Si no fuera porque eso ya está tipificado como delito contra la seguridad del tránsito, cabría la posibilidad.
En el caso de manipulación de señales verticales, también, pero no te incriminan directamente llevando las pruebas del delito encima de un lado a otro...
#12 La cantidad de trenes que hay es varios órdenes de magnitud inferior que la cantidad de coches.
Los pasajeros de un tren son varios órdenes de magnitud más que los de un coche.
Poner a un conductor en un tren es prácticamente un coste marginal respecto al coste operativo del tren.
Quitar a un conductor de un coche supone una gran diferencia de coste respecto al coste del coche.
La economía de escala es aplicable bastantes órdenes de magnitud mejor al desarrollo de IA en coches que en trenes.
Vamos... que mala comparación.
Voy a sabotear unas señales de tráfico, luego diré que he hackeado a los conductores cuando no sepan interpretar
las
#43 No soy tan optimista sobre lo que comentas de que se puedan abordar esos problemas fácilmente justamente porque esos algoritmos de autoaprendizaje son una caja negra, así que básicamente no sabes que hace ni qué características ha aprendido para discriminar unas imágenes de otras.
Lo que se hace es que si el sistema clasifica una imagen mal, entonces la imagen conflictiva se añade al grupo de entrenamiento con el que fue "instruida" esa red.
#15. Lo mejor de la peli es ver a un robot ultraavanzado ayudándose con el dedito para ir marcándole al ROC/OCR cómo ir leyendo línea a línea.
Y eso sin lápiz ni subrayaos ni nada, es una pasada lo bien que calcaba las limitaciones humanas... u.u
#86 Pero vamos a ver... prácticos en qué sentido? macho, es solamente un sistema de identificación de imágenes, no es alta tecnología eh? Hay miles de softwares infinitamente mejores reconociendo señales que las que se han testado ahí, que el artículo es una mierdilla sensacionalista ... que un coche autónomo las señales las cogerá con pinzas y punto, no va a creer ciegamente en una señal ...
Que no macho, que alguien alterando señales no es ningún peligro, que hay que ser muy tonto para fiarse de una señal de tráfico en un sistema autónomo, nadie con dos dedos de frente va a hacer eso. En todo caso el riesgo es el mismo que ahora con los humanos.
Es pura propaganda y publicidad.
#92 No necesariamente, pero sinceramente te dejo con tu propia opinión ya que veo que sabes del tema.
#35. Sin duda te refieres a estas. Todavía quedan unas cuantas por ahí.
#47. Va a ser que no siempre ni en todo lugar.
#84 Pues seguramente su cerebro no interpretara que es una señal de 50MPH o de 100MPH
Repito: ¿Tienes carnet de conducir?
#92 El mundo real esta lleno de variable incontrolables incluyendo señales cambiantes de todo tipo (como un obrero en mono de colores diciéndole a un sistema automático que se tiene que meter en dirección prohibida porque hay una acería en la calle).
Este tema es mucho nas complicado de lo que la gente piensa, en mi opinión no veremos vehículos autónomos (de verdad, vehicilo de serie, nivel 5, sin supervisión humana y en tráfico abierto y toda condición), ni a corto ni a medio plazo. (A largo plazo quien sabe).
cC #8
#82 El problema que le veo a Uber y al coche de alquiler y demás es simple: un coche solo lo puede usar una persona a la vez y aunque un coche se pegue un montón de horas en un garage la mayoría de esas horas son comunes para todos los coches. Eso significa que, al final de día, si quieres ofrecer coches de alquiler a gente que lo usa para ir al trabajo vas a necesitar, prácticamente, uno por persona. Otro problema son las rutas, no es lo mismo coger un coche en el centro para que te lleve a una oficina a querer que venga un coche a recogerte a tu casa en el pueblo y que te lleve a un polígono industrial a 30 km.
Respecto al coche autónomo yo lo veo, pero no al 100%. En mi opinión será siempre una conducción asistida y los fabricantes se lavarán las manos dejando la responsabilidad final en las manos del conductor "este coche puede conducir solo pero tienes que ir atento para poder tomar el control del vehículo si, por alguna razón, fuese necesario".
#95 Los conductores borrachos matan bastantes personas como para que confié más en un coche autónomo que un borracho. Y, sí, tengo licencia de conducir.
#94 la segunda la he visto en españa
no se si quedara alguna.
#1 hasta un GPS de hace 8 años sabía las direcciones prohibidas y los límites de velocidad, como si fuera realmente un problema que ahora visualmente fallen reconociendo señales... Sin contar que el coche autónomo está todavía en pañales, digan lo que digan. Y que aunque maduren les va a costar funcionar mientras haya en circulación coches no autónomos (que los habrá, es poco realista pensar que en 20-30 años no habrá coches de esta década en las calles).