EDICIóN GENERAL
241 meneos
6035 clics
Hackean automóvil de conducción automatica mediante pegatinas en las señales [EN]

Hackean automóvil de conducción automatica mediante pegatinas en las señales [EN]

Usaron una serie de ataques diferentes para manipular las señales con el fin de engañar a los modelos de aprendizaje automático para que los interpretaran mal. Por ejemplo, imprimían pegatinas para engañar al sistema de visión. En el artículo titulado : "Robust Physical-World Attacks on Machine Learning Models" arxiv.org/abs/1707.08945 demostraron cuatro maneras diferentes de interrumpir la forma en que las máquinas leen y clasifican estos signos utilizando sólo una impresora en color y una cámara.

| etiquetas: pegatinas , señales , hackers , coches
Comentarios destacados:                          
#79 #58 En mi opinión no sirven para nada. La conducción autónoma no puede depender de leer señales de tráfico, es un sistema anticuado y desfasado, está diseñado para orientar a los humanos y quitando alguna ( en los cruces para dar prioridad, y alguna que otra historia ), son señales irrelevantes que no sirven para nada ni son críticas para la conducción. Si alguien se sube en un coche autónomo que confía en leer señales de tráfico como algo absoluto es que es muy tonto.

Respecto al tema de engañar, también puedes engañar a humanos poniendo señales falsas...
Con unas simples pegatinas...  media
#1 y eso en tierra, luego querrán que la gente vuele en aviones autónomos
#2 En el aire no hay señales :troll:
#9 espero que confundan PAPI con la A-2
#9 ¡Eso es peor aún! :troll:
#2 acaso no van ya el 90% en automático? y en los aterrizajes si se complica la visibilidad.
#2 Llegas tarde, los Airbus llevan años volando el 95% del trayecto en automático (aterrizaje incluído cuando el Aeropuerto es compatible).
#2 lo de los pilotos automáticos en aviones lleva existiendo desde hace mucho tiempo.
#2 lo raro es que alguien ponga pegatinas en las señales a 10000 metros de altura
#0 Ese STOP lo entendía como una señal de 45 MPH, ¡pero con un grafiti más complicado lo tomaba por una señal de 100 MPH!

La verdad, es que algunas de las modificaciones a las señales son de risa para los ojos de un humano.

El caso es que esto servirá para mejorar el algoritmo de reconocimiento de las señales y además hará que implementen otros medidas como que el coche sepa que en un entorno urbano no puede circular a 100 por mucho que haya leído en una señal.

Edit #1 Es que en el cielo las señales son mucho más claras y no hay vándalos convirtiendo los STOP en eSTOPa xD
#3 Al menos no confundia las señales con una avestruz.  media
#4: No conocía eso. ¿Entonces si meto ese ruido a cualquier foto puedo "avestrucearla"? ¿Pica luego? xD
#13 El ruido es diferente para cada caso.
#78: Si, pero deberían lanzar una APP para avestrucear fotos. xD
#29 No comparto nada tu opinión, son sistemas que tienen que enfrentarse a condiciones "salvajes" o no controladas.

Muchos de los sistemas que se utilizan para reconocer esas imágenes tienen un grado conocido de fiabilidad, algunos cercanos al 99% pero solo se basan en hacer pruebas con "ruido" que no sean mal intencionadas en la señal o que sea debido a factores climáticos o de la propia señal del vídeo. No olvides que esto es un sistema en el que confías tu seguridad.…   » ver todo el comentario
#58 En mi opinión no sirven para nada. La conducción autónoma no puede depender de leer señales de tráfico, es un sistema anticuado y desfasado, está diseñado para orientar a los humanos y quitando alguna ( en los cruces para dar prioridad, y alguna que otra historia ), son señales irrelevantes que no sirven para nada ni son críticas para la conducción. Si alguien se sube en un coche autónomo que confía en leer señales de tráfico como algo absoluto es que es muy tonto.

Respecto al tema de engañar, también puedes engañar a humanos poniendo señales falsas...
#79 Sí, es anticuado pero se trata de ser prácticos y probablemente nunca tendrás un entorno totalmente controlado, así que esto no deja de suponer un avance tecnológico.

Sobre el tema de engañar el problema es que puedes engañar a un coche mientras que para cualquier persona parezca una señal totalmente correcta. Hasta sería posible enfocarlo a un modelo de coche determinado, además, haciéndole creer que su interpretación es correcta con una alta probabilidad.

Por supuesto que a una persona también puedes engañarla, no se trata de eso.
#86 Pero vamos a ver... prácticos en qué sentido? macho, es solamente un sistema de identificación de imágenes, no es alta tecnología eh? Hay miles de softwares infinitamente mejores reconociendo señales que las que se han testado ahí, que el artículo es una mierdilla sensacionalista ... que un coche autónomo las señales las cogerá con pinzas y punto, no va a creer ciegamente en una señal ...
Que no macho, que alguien alterando señales no es ningún peligro, que hay que ser muy tonto para fiarse de una señal de tráfico en un sistema autónomo, nadie con dos dedos de frente va a hacer eso. En todo caso el riesgo es el mismo que ahora con los humanos.

Es pura propaganda y publicidad.
#92 No necesariamente, pero sinceramente te dejo con tu propia opinión ya que veo que sabes del tema.
#92 El mundo real esta lleno de variable incontrolables incluyendo señales cambiantes de todo tipo (como un obrero en mono de colores diciéndole a un sistema automático que se tiene que meter en dirección prohibida porque hay una acería en la calle).

Este tema es mucho nas complicado de lo que la gente piensa, en mi opinión no veremos vehículos autónomos (de verdad, vehicilo de serie, nivel 5, sin supervisión humana y en tráfico abierto y toda condición), ni a corto ni a medio plazo. (A largo plazo quien sabe).
cC #8
#96 o la tipica señal de trafico tapada por vegetacion xD
#96 O cosas más comunes como encontrarte en un cruce donde, en principio, tienes que ceder el paso por que te vienen por la derecha pero te encuentras con que ellos tienen un ceda el paso y la única indicación de que tienes prioridad es que ellos tienen un ceda el paso, el cual solo ves su reverso :shit:
#79 es que dudo que sea viable hacer una IA de un coche autonomo que no se sepa "de memoria" a que velocidad tiene que ir y donde tiene prioridad... es tan facil como añadir esa informacion a los mapas que ya tiene
#19 Lo curioso es que falle tan fácilmente. En el ejemplo de #4 puedo entender perfectamente que cambios imperceptibles para el ojo humano, pero si para la matemática algorítmica de un modelo de aprendizaje ya entrenado, haga que se confunda en la elección de una imagen entre miles o decenas de miles de posibilidades. Sin embargo, en las señales estamos hablando de cientos de posibilidades, con formas geométricas muy concretas.

La única explicación que puedo encontrar es que la comparación…   » ver todo el comentario
#3 Al final, o como tu dices perfeccionan mucho los algoritmos, cosa que con una pegatina que sustituya completamente la señal se podría "hackear", o lo mas posible es que tengan que inventar señales adicionales, por ejemplo, emitidas por radio frecuencia o algún sistema similar, que solo sean entendidas por el coche. Porque las señales actuales están diseñadas para el ser humano, y las conocemos, y si las conocemos las vamos a modificar, simplemente porque el ser humano es un hijo puta que te cagas ;)
#1 Los vehículos autónomos no sólo tienen en cuenta las señales de tráfico, también la cartografía y el GPS. Contrastan la información recibida por las cámaras con la información cartográfica, al menos en modelos de Mercedes Benz
#1 hasta un GPS de hace 8 años sabía las direcciones prohibidas y los límites de velocidad, como si fuera realmente un problema que ahora visualmente fallen reconociendo señales... Sin contar que el coche autónomo está todavía en pañales, digan lo que digan. Y que aunque maduren les va a costar funcionar mientras haya en circulación coches no autónomos (que los habrá, es poco realista pensar que en 20-30 años no habrá coches de esta década en las calles).
Sólo será un problema temporal: la conducción autónoma hará que desaparezcan señales y semáforos porque todos los coches estarán conectados en red.
#5 Y que hacemos mientras tanto?
#6 Convertir las señales en virtuales en el mapa de coche. Cuando el coche autónomo pase por un determinado punto por GPS sabrá que hay un STOP incluso si la señal física se la ha llevado un vendaval.
#7 No le doy ni 20 años -> twitter.com/jm22381/status/868943039926087684
#8 Excepto si pierde la cobertura, claro.
Como se nota el universo entero gira alrededor de las ciudades y no hay más mundo más allá de la M-50.
#11 No hay mundo más allá de mi visionario favorito que me ha prometido que el mundo va a ser como el de las pelis de ciencia ficción antes de que me jubile...
#11 Los mapas pueden ir en cache para el 1% de territorio de carretera sin conexión.
#12 Ya hay líneas de metro sin conductor www.youtube.com/watch?v=934TYiAnPPw
Lo próximo los trenes computerhoy.com/noticias/life/francia-experimentara-trenes-conductor-p
treneando.com/2017/01/14/bombardier-entrega-al-metro-de-shangai-el-pri
#16 No haces más que darme la razón ¿cuanto tiempo ha pasado desde la primera linea de metro sin conductor? Y todavía queda para rato para que no haya conductores en ningún tren.

Por cierto, ¿¿¿¿LA CACHE???? Y si hay obras asumimos el ostiazo como normal...
#17 No tienes en cuenta que el tiempo de expansión de cada nueva tecnología es menor que el de la anterior y cada vez más exponencial. ¿Cuánto tardó en alcanzar 1.000 usuarios el telégrafo, la radio, la televisión, el teléfono móvil, el smartphone? Cada uno mucho menos tiempo que el anterior.
Si hay obras detectará el obstáculo en la carretera y al volver a la zona con conexión mandará la información de modo que el resto de coches sabrá que en esa zona sin conexión hay una obra, automáticamente buscarán una ruta alternativa y le comunicará a los pasajeros el motivo del desvío.
#28 Y aun con todo. En 20 años no verás lo que vaticinas, se siguen vendiendo coches de combustión, se siguen vendiendo coches sin ESP, ASR y no se si sigue siendo legal venderlos sin ABS pero no me extrañaría.

En 20 años verás coches autónomos, pero no serán los únicos que veas. Ni serán mayoría. Y no me apuesto una caña contigo porque será casi imposible que tú me la pagues a mí o yo te la pague a tí, pero vaya, que en una charla de bar me la apostaría tranquilamente.

EDITO para añadir:…   » ver todo el comentario
#34 #26 No se necesitará tanto tiempo para cambiar los coches porque no serán comprados por clientes finales sino flotas que pondrán compañías como Uber. En el momento que sea más barato llamar desde una app a un coche que te recoja y te lleve para un viaje puntual que pagar el mantenimiento y el seguro de uno propio el cambio será exponencial. Lo pagarás en el viaje pero la presión de estas empresas sobre las aseguradoras hará que sean unos céntimos de tu factura. El cambio empezará en las…   » ver todo el comentario
#46 Asumiendo que servicios como Uber vayan a sustituir a los coches privados. Asumiendo que los coches autónomos vayan a sustituir a los conductores en el 100% de los casos. Asumiendo...

Una cosa es que algo sea técnicamente viable y otra cosa es que llegue a ser una realidad. Hoy en día podríamos usar terminales tontos conectados a servidores donde se ejecutasen las aplicaciones (de hecho muchos vaticinaron que ese sería el futuro) y aquí seguimos.
#64 Aquí seguimos... usando Menéame, Facebook, Google... ;)
Mucha gente usa sus PCs como terminales tontos desde hace tiempo sin darse cuenta de ello.

El cambio a coches autónomos con Uber, si se da, será igualmente exponencial y sin que la gente se dé realmente cuenta de ello. O no hay cambio, o para cuando quieras darte cuenta hará años que habrá pasado.
#82 El problema que le veo a Uber y al coche de alquiler y demás es simple: un coche solo lo puede usar una persona a la vez y aunque un coche se pegue un montón de horas en un garage la mayoría de esas horas son comunes para todos los coches. Eso significa que, al final de día, si quieres ofrecer coches de alquiler a gente que lo usa para ir al trabajo vas a necesitar, prácticamente, uno por persona. Otro problema son las rutas, no es lo mismo coger un coche en el centro para que te lleve a…   » ver todo el comentario
#46 perdón por el negativo sin querer, compenso en otro comentario.
#17 segun la wiki, casi 50 años desde que se abrio la linea Victoria en Londres:
en.wikipedia.org/wiki/Victoria_line
#16 La caché dice xD xD xD xD
Ere un fiera primoh.
#11 No tiene porque. Te descargas el mapa y lo vas actualizando cuando hay cobertura.
#8 Igual en 20 años sigue existiendo meneame. Nos vemos entonces.

PD: Llevan conductor hasta los trenes y ahora en 20 años vamos a tener todos absolutamente todos coches autonomos, haced el favor de bajar de la nube.
#12 La cantidad de trenes que hay es varios órdenes de magnitud inferior que la cantidad de coches.
Los pasajeros de un tren son varios órdenes de magnitud más que los de un coche.
Poner a un conductor en un tren es prácticamente un coste marginal respecto al coste operativo del tren.
Quitar a un conductor de un coche supone una gran diferencia de coste respecto al coste del coche.
La economía de escala es aplicable bastantes órdenes de magnitud mejor al desarrollo de IA en coches que en trenes.

Vamos... que mala comparación.
#12 Y lo peor es que los trenes son los primeros que se podrían automatizar al 100%, un vehículo que sigue una vía, que es monitorizado por balizas cada X tiempo e incluso se sabe su posición a tiempo real por GPS... Es absurdo que siga habiendo conductores, excepto por un simple tema de monitorización de las condiciones de la vía, cosa que si es un AVE y va a 300 km como si se te cruza una vaca o cae un pedrusco del cielo, que de poco va a servir el conductor.

Lo de los coches, ni en 20 años. Hay miles de factores en una carretera a tener en cuenta, no solo las señales.
#8 Ay, me recuerdas a 1995 y a las esperanzas de coches voladores en los primeros años de los 2000...
#8 No me sirve. Si un vendaval se lleva tu señal ya no tienes señal y tienes que hacer caso a lo que te corresponda según el orden de preferencia de señales (semáforos, señales verticales, marcas viales). No puedes ir en plan "yo sé que aquí antes había una señal de prioridad así que tengo prioridad, aunque no haya señal".
#22. Y no se te olvide la preferencia sobre todas ellas de las indicaciones de un agente de tráfico. Que ya es algo tan inusual hoy día, que muchos conductores ni saben ya interpretar. Van en modo "¡aydiós!" defensivo.

Me juego algo a que la maquinita tendría sus dificultades para identificar, primero el uniforme (por países, cuerpos y localidades), y luego aparte gestos y señales luminosas.

Si circula por el sudeste asiático, cortocircuito seguro.
#6 Tú podrías aprovechar para mejorar tu ortografía.
#6 Mientras tanto habrá que adoptar señales duales (visuales como hasta ahora para los conductores humanos y sensorizadas para los coches autónomos).
Otra opción es tener señalizada toda la red vial en la nube (el coche no buscaría señales sobre el terreno sino en el mapa).
#60 Las señales tienen que estar sincronizadas. Por ejemplo, si la bombilla de un semáforo se estropea no me vale que el coche diga "a mi me llega la señal de que tengo vía libre así que cruzo" o si una señal se caído que diga "ah, no tengo ceda el paso, vía libre".
#6 Ahora dar las gracias. Mejor ahora que después.

Supongo que en principio este tema lo tienen en pausa y estarán centrándose en otros aspectos. Pero para tenerlo en cuenta y que poniendo una simple pegatina con simulación de un semáforo en la parte trasera de otro automóvil en movimiento bastante se puede liar.
#71. Si no fuera porque eso ya está tipificado como delito contra la seguridad del tránsito, cabría la posibilidad.

En el caso de manipulación de señales verticales, también, pero no te incriminan directamente llevando las pruebas del delito encima de un lado a otro...
Pues cuando todos aprendamos como se va a comportar un coche autónomo en una rotonda si te cruzas delante suyo de repente va a ser divertido ver como se les putea adrede. Porque, si los humanos con mala leche frenamos (casi siempre) cuando el fiti se te cruza sin preferencia para no tenerla gorda, entiendo que el coche autónomo, tenga preferencia o no, frenará sí o sí aunque el otro venga haciendo la macarrada de la semana.

#5 Espero no ver eso. También espero vivir más de 100 años, así que espero que eso que dices tarde en llegar.
#7 entiendo que el coche autónomo, tenga preferencia o no, frenará sí o sí aunque el otro venga haciendo la macarrada de la semana.

Eso ya lo han pensado los fabricantes:

www.telegraph.co.uk/technology/2016/11/17/humans-will-bully-robot-cars

Y la propuesta del CEO de Mercedes USA trajo cola...

“They’ll look for the autonomous car and that’s where they’ll cut in,” Mr Exlar said.

A solution could be to make autonomous vehicles a little more assertive and aggressive - a little more human, perhaps.
#30 Interesantísimo :-D
#30 Lo gracioso es que puede que tengas a coches autónomos haciéndose putadas entre ellos. xD
#63 Cierto, no lo había pensado... :popcorn:
#30 Ya veo la publicidad: "Tesla 666, tan macarra como tú"...
#7 Fácil, los sensores harán una foto al coche macarra y lo enviarán junto con la telemetría a la Guardia Civil. Ya verás que pronto se le quitan las ganas de volverlo a hacer.
#38 Ah bien, ahora vamos a otorgar el mismo valor al aparato privado que lleva un particular en su vehículo que a un radar homologado de la policía. Y todo esto en menos de 20 años...

Así que para que la fantasía que queréis funcione hay que ahondar en el fascismo y en la conversión a un estado policial más represivo si cabe.
#41 El mismo que tienen ahora.

Si ahora grabas a alguien haciendo una pirula y lo investigan posiblemente le multen. Esto solo haría que fuera una máquina la que lo hiciera, y si el conductor del otro vehículo te ha puesto en peligro me parece más que razonable que lo haga.
#42 Pues entonces igual que ahora, vete a denunciar que ibas por el carril de la derecha en el que hay retención en una salida, y al final del mismo se te ha metido uno por sus santas narices, que se ha saltado toda la cola por la izquierda y se ha metido en tu hueco con mucho morro y unos peligrosisimos 10km/h. Vete y denuncia.

Si te lo hacen ahora puedes darte la pequeña satisfacción de cerrar el hueco y que sea el de atrás el que se tenga que encabronar porque se le ha metido el listo de turno, si el coche es autónomo, a no ser que sea el del ceo de mercedes que los quiere bien agresivos, el macarra sabe que ahí el hueco es garantizado.
#50 Si es legal, el ir tú conduciendo tampoco te evita el problema.

Para abrir la ventanilla y gritarle un insulto no hace falta llevar un coche automático.
#52 Yo lo que preveo, miras la cola que tienes delante y ves un trailer, "ah bien, dejará hueco seguro, así que apuro".

En el futuro, ves un coche autónomo: Hueco seguro.
#54 Pues nada, llevas un coche autónomo y tienes paciencia. O lo configuras para que no deje hueco a nadie y así llegas un minuto antes a tu trabajo.
#55 Aprovechando tu comentario creo que algunas rencillas entre conductores son bastante tontas, puedo entender que si se generaliza que todos vayan hasta el final de una incorporación y se incorporen ahí, pero en general no pasa, y lo que tienes es que quizás pierdes medio minuto de tiempo, como mucho.

Al menos para mi no es un problema dejar un margen amplio de espacio y que se incorpore algún "listillo" como dicen otros.
#7 También va a ser divertido cuando las cámaras de los coches autónomos se conecten por imperativo legal a una inteligencia digital del Ministerio del Interior y se pongan multas automáticamente a quien se salte la precedencia en las rotondas.
#62 Contestado en otro mensaje, espera sentado.
#62 Las persecuciones de coches, en cambio, serán un coñazo.
#5 Sí, claro, y Bill Gates iba a acabar con el SPAM iba a ser un problema del pasado en el año 2006. Para empezar aún no tenemos coches 100% autónomos. Y cuando digo 100% digo autónomos al 100.0000%, no al 99.9998%. Así que imagínate lo que vamos a tener que esperar, no para tener coches autónomos, sino para que TODOS los coches sean autónomos de serie, desde el Mercedes Clase S hasta el Opel Corsa más básico.

Y el problema no es tanto que se puedan hackear las señales, el problema es que las señales también se deterioran. No me sirve un sistema de conducción autónoma que no sea capaz de entender una señal en este estado:
 media
#26 no solo eso, si no que necesitas esperar a que TODOS los coches anteriores sean retirados de las calles lo cual añade otros 20 o 30 incluso mas años.
#26 Lo mejor de todo es que incluso para un conductor humano la interpretación de esa señal es obvia: "Bienvenido a Silent Hill".
#26 El navegador de coche de ahora no lee las señales de velocidad, las tienen todas almacenadas.

Supongo que en los coches autónomos será lo normal.
#26 Esta está mal, pero he visto cosas peores, alguna era incluso un trozo de oxido triangular. xD
#5 Efectivamente. Lo que falla es el reconocimiento de señales para humanos. Si fueran radiobalizas para coches autonomos... los humanos no leerían ni una.

No se vosotros, pero yo veo claro qué parte sobra.
De haberlo sabido antes...  media
#15 Eso me suena a la solución de Hommer de quitarle el número a su calle. Ahora programarán a terminator para buscar a la Sarah con captcha. :troll:
#15. Lo mejor de la peli es ver a un robot ultraavanzado ayudándose con el dedito para ir marcándole al ROC/OCR cómo ir leyendo línea a línea.

Y eso sin lápiz ni subrayaos ni nada, es una pasada lo bien que calcaba las limitaciones humanas... u.u
porque el sistema tendra hecho el training sobre señales perfectas. Haciendo el training sobre señales alteradas deberia de ser capaz de hacerlo igual de bien. Pero claro, hay infinitas formas de alterar señales
#19 Lo divertido es que el humano más tonto, borracho como una cuba, podría identificar ese stop de un vistazo.
#23 Lo increíble es que el ordenador no sea capaz de reconocerla, más increible aún que la confunda con una señal de velocidad, los STOPS son las únicas señales octogonales del mundo, precisamente por su importancia para reconocerlas aunque estén deterioradas, vandalizadas, tapadas por la nieve o lo que sea, hay que ser inútil como diseñador/programador para no tener en cuenta esa característica de la señal de stop e introducirla en el programa.
#35 Cierto, además la señal de ceda el paso es la única con un triángulo invertido para que la pueda ver el que tiene preferencia de paso aunque lo haga desde el lado no visible.
#35. Sin duda te refieres a estas. Todavía quedan unas cuantas por ahí. :troll:

#47. Va a ser que no siempre ni en todo lugar.  media
#94 la segunda la he visto en españa xD no se si quedara alguna.
#99. Unas cuantas: carreteras comarcales, recintos portuarios, parques de carbones, minas y canteras, viales en factorías y polígonos antiguos... Allá donde Demarcación de Carreteras no suela tener jurisdicción/ganas de currar.  media
#35 Si analizas como funcionan esos algoritmos igual no es tan increíble (quizás entonces lo increíble es que funcionen). En general se utilizan algoritmos de aprendizaje automático y eso significa que ellos aprenden por su cuenta que características tienen que reconocer. Lo malo es que eso se convierte en una caja negra en la que realmente no sabes cómo reconoce esas señales.

Lo que mencionas al final simplemente diré que no es tan sencillo, los humanos nos inventamos la mayoría de la información que interpretamos. Es por eso que por ejemplo vemos caras dónde no hay ninguna.
#53 Tienes razon, no habia caido en el detalle de que son sistemas que autoaprenden mis disculpas al programador :-D . Aún así me asombra que no haya sido capaz de relacionar la señal de STOP con un octagono durante su aprendizaje.
#23 Aun asi mueren decenas de miles de humanos cada dia al volante. Infalibles oye
#23 Si, pero acaba liandola igual... :shit:
Se supone que llegará un momento que modificar una señal de esa forma hará que te caiga un buen puro. Ahora mismo es como si te pillan fundiendo las luces de un semáforo o desactivando un radar.

Nuevos tiempos, nuevas leyes.
#20 No creo que a día de hoy sea legal modificar esas señales de ninguna forma...
Hombre, y si la pegatina es suficientemente grande también engañas al conductor humano :-P
#24 Lo interesante es que justamente puedas poner una pegatina que solo engañe a la máquina y pase desapercibida a los conductores. Si manipulas una señal de 120 en un tramo de 40 lo mismo tienes varias llamadas de conductores o vecinos quejándose. También podemos esperar que los conductores intuyan que la señal está mal y rectifique (otra cosa es que la respeten :troll:)
#56 hombre, tal vez 120 en uno de 40 no xD pero 140 con unas pegatinas igual daria el pego xD o 180 en uno de 100 xD... o incluso 1120 LOL y obviamente ningun conductor humano intentaria ir a 1120 xD
#57 No entiendo tu comentario, dime dónde pones esa señal y yo lo intento. :troll:
Pero los coches autónomos son seguros... si si claro.
#25 ¿100% seguros? No. ¿Más seguros que el promedio de los conductores? Esa es otra pregunta.
#27 Como te han contestado, un conductor borracho como una cuba, un mero humano, hubiera visto esa señal de STOP.

¿Eres conductor? Esa es una pregunta importante para seguir debatiendo.
#37 Vale, el borracho ve la señal, ¿pero se para?
#84 Pues seguramente su cerebro no interpretara que es una señal de 50MPH o de 100MPH :-)

Repito: ¿Tienes carnet de conducir? :-)
#95 Los conductores borrachos matan bastantes personas como para que confié más en un coche autónomo que un borracho. Y, sí, tengo licencia de conducir.
#95 Soy otra persona, y yo si tengo, aunque no veo la relación con la cuestión.
Volviendo al tema ¿que tienen que ver la señales de velocidad con las de stop y con que un conductor borracho se pare o se salte un stop?
Honestamente, la gente tiene mucho tiempo libre, dedicarle tiempo a hacer que un sistema de reconocimiento de imágenes funcione mal, meparece una chorrada como un templo. Si metes ruido en la señal en algún momento es obvio que el sistema no funcionará correctamente, igual que si eres miope y no ves bien la señal... Si quieres medir rendimientos bien, pero no creo que ningún ingeniero le diera prioridad a un sistema de reconocimiento de señales y acelerara el coche por que si, simplemente…   » ver todo el comentario
No si alguien le ha echado un vistazo al paper. No es que vayan a parar el desarrollo de la conduccion autonoma, sino mas bien la aplicación de redes neuronales en tareas críticas. La razón es que hace unos meses descubrieron los llamados adversarial attacks (en kagle google ha puesto varias competiciones sobre este tema), mediante los cuales se puede engañar a una red neuronal con pequeños cambios en la información de entrada. No olvidemos que existen otras muchas técnicas aparte de estas estructuras y que es probable que en breve alguien descubra como hacerlas robustas a este tipo de ataques.

p.d.: el titular es un poco sensacionalista!!!
#43 No soy tan optimista sobre lo que comentas de que se puedan abordar esos problemas fácilmente justamente porque esos algoritmos de autoaprendizaje son una caja negra, así que básicamente no sabes que hace ni qué características ha aprendido para discriminar unas imágenes de otras.

Lo que se hace es que si el sistema clasifica una imagen mal, entonces la imagen conflictiva se añade al grupo de entrenamiento con el que fue "instruida" esa red.
Y si la tapan con una bolsa de basura una persona sin coche autónomo se puede saltar un stop y matarse. Coste de una bolsa de basura: 0.02€ y no te hace falta ni impresora ni cámara.
#45 Esta es la típica no-noticia (como dice #67). Mañana veremos noticias como:

Hackean automóvil tradicional mediante chinchetas en la calzada
¿Quién ha hecho el sistema que han "hackeado"?,¿ os habéis planteado si ese grupo de estudio no busca más que notoriedad ya que es un tema candente y que puede reportar financiación? ¿Google es tan inútil que nunca ha pensado en este tipo de problemas para su división de Waymo?, ¿quizás saber que el ruido en las imágenes es un tema del que se sabe hace mucho tiempo?

En fin, yo seguiré pensando que los conglomerados de Toyota, Google, Nvidia y demás que dicen traer sistemas de nivel 4…   » ver todo el comentario
#51 En general estoy de acuerdo pero cuando ves algunos de los hacks reales que se han hecho para vehículos autónomos te das cuenta que igual es que no han pensado en muchas cosas. Ahora lo menciono de memoria, uno de ellos tenía que ver con utilizar el mismo bus de conexión para elementos de usuario que para componentes críticos del sistema. Algo que según los autores de dicho hack era de novatos.
Puff, veo cosas raras. Por ejemplo ¿qué vehículo han usado para las pruebas, ¿Acaso tienen un vehículo autónomo en la Universidad?.

Dicho esto, hay varios factores que haràn que este tipo de acciones no sirvan para nada. Uno es el aprendijaje compartido de las flotas. Si otros coches han pasado por ahí, y había un Stop, harà un Stop.

En el futuro no habrá señales ya que toda la información estará en los equipos de los coches y en sus mapas de navegación.
El paper está bien a nivel experimental pero no a nivel real. Me explico: no han atacado ningún sistema real de autoconducción, sino que han diseñado el suyo propio y han atacado a su propio sistema. Pero el paper tiene varios defectos de novatillo:
- El primero es que diseñan su sistema con input de 32x32. Para hacerse una idea, cuando en este mundillo dices que usas una AlexNet, que el input es 224x224, ya no te toman muy en serio, porque sigue siendo un juego de niños. Ni siquiera viene…   » ver todo el comentario
#67 ¿Una red neuronal no es algo muy bestia para utilizar en tiempo real y en un coche real?
#72 Para nada. En una red neuronal lo que se tarda es en entrenar el modelo, es lo que requiere poder de computación. Una vez el modelo está entrenado, la ejecución del modelo es muy rápida. Por ponerte un ejemplo, yo en el móvil llevo dos apps propias hechas con tensorflow, una de ellas para reconocer 50 objetos cotidianos en tiempo real desde la cam del móvil, la otra para reconocer personas por un proyecto que estoy haciendo de drones autónomos para encontrar supervivientes en caso de…   » ver todo el comentario
#67 Positivo aunque no entendí ni papa porque parece que sabes.
#67 No sabía que OpenCV sirviera para eso :-)
Lo he visto en óptica y juegos, pero recientemente, para la implementación de la GameBoyCámera desde la señal de una webcAM hacia la RAM de la GB en un emulador.
#67 Si te he entendido bien, en resumen dices que el sistema que usan para la prueba es un juguete y que con un sistema real (como el que usan para los coches autónomos) eso no tendría validez. ¿O si es posible aunque sería mucho más complicado? Y ya que se ve que sabes del tema, igual nos puedes contar un poco más como van estos sistemas :pagafantas:
Pues igual que atacas al sistema humano si eliminas un stop o un semáforo xD
#70 No entiendo tu comentario, yo suelo apuntar al conductor... :troll:
Si esto es hackeo... Yo "hackeaba" futbolines con un mondadientes en el tirador...
Amenazas cibernéticas impulsan retorno de la radio a la navegación con barco.
es.noticias.yahoo.com/amenazas-cibernéticas-impulsan-retorno-radio-na
Voy a sabotear unas señales de tráfico, luego diré que he hackeado a los conductores cuando no sepan interpretar
las :troll:
«12

menéame