Hace 4 años | Por Mr.Bug a xataka.com
Publicado hace 4 años por Mr.Bug a xataka.com

Un trozo de cinta de cinco centímetros pegado a una señal. Eso es todo lo que han necesitado unos investigadores de McAfee para conseguir engañar a la cámara de un Tesla Model X y Tesla Model S de 2016 y hacer que aceleren automáticamente. En pocas palabras, los investigadores han pegado un trozo de cinta a una señal de 35 mph, de forma que el "3" pareciera un "8", engañando así al sistema.

Comentarios

ElPerroDeLosCinco

#2 Eso es verdad. El engaño puede ser disculpable, pero el coche debería tener reglas para cumplir ciertas normas siempre.

ElTioPaco

#2 #5 Google sabe la velocidad máxima y de hecho la velocidad del tráfico en tiempo real de todas las vías del mundo civilizado. Lo tiene en el Google Maps.

Me cuesta creer que Tesla no llegue a un acuerdo con Google en ese campo.

Pero si, es terrorífico que se pueda engañar con esa facilidad a los sensores.

Darkness00

#48 cuidado! Google tardo tiempo en actualizar las velocidades cuando España paso a 110 de un día para otro, y otro tiempo igual al devolverlo, eso no es inmediato. Personalmente no creo que debamos culpar al coche, salvo un conocimiento de la velocidad máxima del país, acompasado por el conocimiento general de velocidad con el tipo de vía estaría bien, pero no me parece sorpréndete lo que ocurrió. No creo que debamos exigir al menos por el momento una capacidad y pericia comparable al humano, ni la de saber cada ida de pinza de lo que nuestros ayuntamientos ponen en sus calles.

Big_che

#48 y cada cuanto lo actualizan? que prevalece lo que dice una BBDD que vete tu a saber desde cuando esta actualizado o una señal nueva, por ejemplo por obras en la calzada?

ElTioPaco

#69 #71 es velocidad máxima caballeros, solo con tener ambos datos (Maps y sensores leyendo señales) y usar el más bajo de ellos nos aseguramos de que el coche no se vuelve una nave espacial.

La redundancia genera seguridad.

Big_che

#77 y dos dias despues tienes una noticia que dice:

"Engañan a un Tesla para que pase de 120 a 12 km/h automáticamente pegando un trozo de cinta a una señal"

ElTioPaco

#80 mucho más seguro que lo otro. Además los mismos sensores aceleraría si alguien se le va a estampar por detrás.

s

#80
BUeno si sabe que la velocidad mínima es la mitad de la máxima para la vía...

redscare

#77 Si a mi no me tienes que convencer. Diselo a Elon lol

ElTioPaco

#89 Elon es un drogadicto gracioso, pero como todos los drogadictos, nada fiable.

redscare

#100 Que radical, pa una vez que se fuma un porro el hombre lol

redscare

#48 Tesla no usa mapas para el autopilot, usa exclusivamente los sensores del coche. Lo bueno es que no se va a liar si en el mapa pone 120 pero la carretera está en obras con señales de 80. Lo malo es que se lía con absolutamente todo lo demás.

s

#71
hay una escalera de preferencia en las señales. LO de por defecto de la vía, las del suelo, las verticales, las verticales especiales en obras con fondo amarillo, los agentes ,,, etc... Contra. Que si se le enseña esas cosas a las personas para que no se confundan que vayan ampliando el software con todo lo que se ha de aprender un conductor para sacarse el carnet de conducir...

D

#37 Los bricks de El Conquistador con cola se llevaban todo el presupuesto lol

sofazen

#8 "Me encontré con uno que venía de frente ... por el lado de ir." Qué barbaridad, mira que ir por el lado de ir.
😂

D

#10 Ok, no obstante pone claramente que a un humano no podrías engañarlo igualmente, primero porque solo alargaron un poco el rabo del medio del tres, no es que lo cerraran de arriba a abajo para parecer un ocho.
Solo en Texas la velocidad maxima es 85 en autovía, no en el resto de estados. Lo de 90 no se de donde lo sacas.
No obstante, si no está en Texas y no está en autovía el coche debería ignorar esa señal.

chorche77

#13 si, tienes razón, es 85. No se por qué tenía en la cabeza que eran 90.

D

#25 yo recuerdo 90 en Florida pero igual ha cambiado

D

#25 De hecho 85 es solo en alguna autovía, ni siquiera en todas las de Texas.

l

#21 menos extraño son carreteras que engañan y de repente aparece una curva que hay que coger a mucho menos o incluso una rotonda. En Pamplona hay una via que parece que se puede ir mas rapido y aparece la rotonda de repente. No debo ser el unico, porque esta llena de lucecitas de peligro para que no se la salten.

Hay un monton de ilusiones visuales que hackean el cerebro humano. Hay una gallega que hace un concurso de ilusiones visuales en USA.
Tambien son medio famosas las cuestas que desafian la gravedad. Pones una pelota y aparentemente la pelota sube la cuesta.

En el caso de los limites de velocidad se puede solucionar. Por ejemplo, se puede saber las señales por el GPS o incluso la velocidad correspondiente si no hay señales o la velocidad que conviene porque otros coches frenan de repente, etc.

Saul Lopez se queja de algo parecido. Cuando activa el control de crucero, no se selecciona la velocidad que Ya lleva, sino la de una señal que ve y se pone a acelerar.

#9 #14 #6 #18 #4 #3 #20 #10 #13

r

#13 Al humano lo pueden engañar igual, las señales se miran por muy poco tiempo.

D

#56 No, a un humano no lo puedes engañar igual, como tampoco lo puedes engañar en una prueba de alcance poniendo una puta tela con la foto de un coche, o un cartón con un muñeco encima haciendo de ciclista y una cuerda tirando de ella.

villarraso_1

#10 En el polígono donde yo trabajo han puesto una carretera a 30km/h.
Antes, circulando a 50 kilómetros por hora me adelantan todos. Es una vía ancha, no tiene acera, no tiene entradas o salidas de fábricas, a la derecha hay un pequeño montículo y al otro lado el carril contrario a la circulación. Si ese 30 se 'hackea' a 80 la vía continua siendo lógico porque podría interpretarse que está fuera de la ciudad.
Pero bueno, en el caso del Tesla, que yo sepa, no puede circular de manera autónoma, siempre tiene que ir una persona supervisando (por no llamarlo conducir)

D

#2 La Inteligencia Artificial es esto. Una puta mierda.

yopasabaporaqui

#19 Claro, claro : o es IA o puticlús...

Falso dilema diría yo.

Arty_Rider

#28 Parece ser que el concepto de "reducción al absurdo" no lo aprendiste bien. No pasa nada, a todos nos ha pasado alguna vez, no hay de qué avergonzarse.

yopasabaporaqui

#29 Me da que tu tampoco. Hay un montón de falsos argumentos, como para saberlos todos...

chemari

#28 Yo no veo ningún dilema ahí. Puticluses del tirón.

P

#19 Putas para todos, y de nivel como los sindicatos el PSOE,y el PP.

uyquefrio

#15 No te falta razón, hay mucho más de humo que de realidad.

Arty_Rider

#30 Pero qué atrevida es la ignorancia...

uyquefrio

#35 No, no creo que sea ignorancia. Se de lo que hablo y es más que habitual la imagen de medio equipo llevándose las manos a la cabeza cuando nos enteramos de lo que van vendiendo por ahí los comerciales.
Desgraciadamente ese humo que venden los comerciales es la idea (más cercano a lo que se ve en películas que a la realidad) que suele llegar al público general.

Arty_Rider

#45 #42 No... me reafirmo. Los que trabajamos en el sector estamos maravillados con lo que a avanzado la ciencia en computación de IA, y lo que está por venir va a revolucionar al mundo de formas que aún está por imaginar.

https://es.wikipedia.org/wiki/DeepMind

Ale, ya podéis seguir disfrutando de vuestro cubata

Efecto Dunning-Kruger en su máximo explendor

D

#60 Tiene huevos que con lo que has escrito te permitas insultar a la gente. O eres accionista de Tesla o mas crédulo que un fan de apple.

¿Qué cojones tendrá que ver el avance general de la tecnología para negar que el departamento de marketing de tesla nos vende más humo que fuego?

El cubata si me lo bebo no será a tu salud, desde luego no la mental.

Por la sombra.

uyquefrio

#60 Vamos a ver, Freddy Krueger, te lo desmigo que prefiero no pensar que tu comprensión lectora es limitada.
No estoy diciendo que no exista un avance significativo en dichas tecnologías, sino que entre su estado de avance real y lo que venden los comerciales hay un mundo. Y lo que al final le llega al público general es lo que les venden.
No critico la tecnología en si misma, sino la idea que el marketing vende de ella (aún sabiendo de sobra su estado real). Creo que se entiende fácilmente.

Personalmente me ha tocado trabajar con Watson en varios proyectos y bueno, de lo que nos contó el vende humos de IBM a lo que luego hemos sufrido en nuestras carnes hay bastantes desilusiones por así decirlo.

PD: Repudio de las copas, soy cervezero hasta la médula.

D

#35 Ignorante o no ha dado en el clavo.

a

#15 El problema es llamarle inteligencia artificial a esto. Es las expectativas que crea.

Arty_Rider

#108 Tu nivel de cuñado es over 3000.

1 - Estás respondiendo a un hilio que hace respuesta al comentario #15, que habla de IA, no de Tesla.
2 - Pero si quieres, hablemos de Tesla. "el departamento de marketing de Tesla nos vende más humo que fuego" puedes poner algún ejemplo, contrastado, de lo que dices? Un ejemplo en el que Tesla haya dicho "este [producto] puede hacer [cosa], y que luego no haya sido verdad?
3 - Has tenido la oportunidad de conducir un Tesla para poder tener una opinión real sobre lo que criticas con tanta seguridad?

Esto va a ser divertido

yopasabaporaqui

#2 Y por GPS debería saber la velocidad en ese punto de la vía.

ytuqdizes

#23 Los catetos de turno también son útiles para tener los pies en el suelo y contrarestar los que quieren adoptar cualquier cambio sin pensar los peligros / desventajas.

Arty_Rider

#64 claro, porque eso es lo que de toda la vida ha hecho la ciencia: adoptar cualquier cambio sin pensar los peligros / desventajas.

Con este “mercado”, normal que estemos como 50 años por detrás de Europa

ytuqdizes

#78 Yo no he dicho que la proporción catetos / lanzados deba ser un 50-50 lol sólo que tienen su utilidad

Wintermutius

#2 Pues es más grave todavía: el coche no tiene por qué saberlo, pero su inteligencia artificial, sí. Cualquier navegador de tres al cuarto de google, se sabe las velocidades de todas las carreteras, las condiciones del tráfico, las incidencias en el trazado, y obviamente, es más que probable que conozca las señales del camino.

Obviamente, Tesla no tiene por qué desplegar toda la infraestructura que a Google le ha costado una fortuna. Pero sí que podría alquilarle el servicio para sus clientes.

D

#2 A ver han transformado un 3 en un 8, con cinta adhesiva con pintura o lo que quieran, es como si tachan una señal de Stop, pues se lo saltará, además son 136 kilometros no llega a 140, la noticia es completamente sensacionalista,

c

#33 ¿Sensacionalista? Un humano leería sin problemas el 35 en esa señal, así que ahí tienen un problema que corregir. Lo otro se llama redondeo, y teniendo en cuenta que hablamos de doblar el límite de velocidad es perfectamente aceptable.

D

#79 Se llama manipular la información para conseguir un fin en concreto, más visitas, sponsors lo que sea.

c

#88 Si tu lo dices....roll

Aokromes

#33 goto #91 y oh, por 4km de diferencia menos de un 3% no llega a 140, que sensacionalista.

D

#33 Es mucho más sensacionalista decir que han convertido un tres en un ocho tras ver la foto.

T

#2 Es imposible entrenar a una IA, por mucho que se quiera, para que sea eficaz en el 100% de los casos. Esto es un desastre, en efecto.

r

#55 Igual que a los humanos, por eso tenemos miles de muertos en carretera todos los años. Ahora hay que ver cómo muere más gente, si con humanos o IAs conduciendo.

T

#62 Te equivocas de disyuntiva. Aunque no fue por dónde fui en la carrera, algo de redes neuronales e IA sí que di, poca cosa pero algo sí, lo justo para que me picase el gusanillo aunque después no fuese a más. Te puedo asegurar que el reconocimiento de imágenes no es una tarea fácil. Y no es lo mismo hacer un reconocimiento de imágenes de un TAC para detectar un tumor, que siendo algo muy serio, no importa si tarda unos minutos más o menos, a reconocer bien una señal de tráfico, que tiene que estar resuelto, y bien, el 100% de las veces, en milésimas de segundo.

Decía que te equivocas de disyuntiva porque no se trata de ver cómo muere más gente, si por su cuenta o con IAs, se trata de que las IAs deberían ser, como mínimo, igual de buenas conduciendo que los humanos. No me sirve que sean mejores en una parte de la conducción si luego son desastrosas en cosas tan humanamente triviales como es reconocer una señal de tráfico.

r

#73 Yo sí que fuí más lejos, casi 10 años trabajando en I+D con temas relacionados con IA en general y visión por computador en particular.

Para saber qué es "mejor" hay que establecer una métrica. El número de muertos en carretera me parece una buena métrica si hablamos de conducción.

el 100% de las veces, en milésimas de segundo Eso tampoco lo consiguen los humanos.

T

#74 Tú sí ¿qué?

f

#73 Perdona la pregunta por, quizás, indiscreta: ¿en qué año dices que diste algo de redes neuronales e IA?

D

#62 Joder qué falacia, los humanos se matan porque producen temeridades, porque se quedan dormidos..., no porque confundan señales de velocidad. Un dos tres, responda otra vez.

r

#98 ¿Y quién te dice que te vas a matar con IA al volante si supera los límites que establece una señal? ¿Son los límites que se establecen para humanos los mísmos que tendrían sentido para una IA? Mientras los tiempos de reacción de un humano pasan de los 100ms los de un coche autónomo están por debajo de 1ms.

El objetivo es reducir el número de accidentes y el número de muertos y lesionados en accidentes de tráfico, y los Tesla, que símplemetne tienen un asistente a la conducción basado en IA ya lo están consiguendo y son los coches más seguros que hay con menos incidentes por km circulado.

Este tipo de artículos son sensacionalistas a más no poder, primero porque con el software actual de tesla ya no pasa (dicen que era la versión del software de 2016 la que estaba afectada), y segundo por que lo que hay ahora son asistentes a la conducción y no IAs completas. Además de que la información que recogen y usan estos sistemas no és sólo información visual, los Tesla por ejemplo también usan un radar...

La pregunta no és si la condución autónoma va a remplazar a la humana, sino cuándo va a pasar.

balancin

#2 nada que no se pueda resolver con un algoritmo.

Si al ver una señal 180 dudas, es porque tienes almacenada información pre existente contradictoria.
Entoces te paras y buscas otras referencias (lo que hacen otros coches, te paras en una gasolinera y preguntas, etc).

Big_che

#2 pongamos que en una carretera limitada a 100 pasas por un tramo que esta limitado a 50 y un gracioso te cambia la señal y lo pone a 100? o modifica el 50 y pone 80 ¿sabrias identificar el engaño? Pues no.

Aokromes

#72 mira las fotos, ningun ser humano confundiria esos 3 con un 8.

D

#94 Déjalos... si no se habrán leído la noticia, es Tesla, ¿como osas criticarla?

kmon

#2 lo han hecho en un área de pruebas no urbana, no tenemos ni idea de lo que habría hecho el coche en ciudad o carretera así que el experimento demuestra poca cosa, que la cámara no ve la cinta, ya está

MoneyTalks

#2 El dia menos pensado estos concienzudos investigadores me hackean a mi, dibujan una linea blanca en un puerto de montanya que me envie a un acantilado y de noche o con niebla me despanyan los cabrones.

Nadie esta a salvo de los estupidos.

NotVizzini

#2 bueno cuando estuve en Irlanda algún problema tuve con las señales al cambiar de "sur a norte"

heffeque

#2 ¡Un desastre apocalíptico! ¡Imperdonable! Ah, no, que la persona que está detrás del volante es plenamente responsable de la conducción del vehículo, y el AutoPilot (por ahora) es una ayuda a la conducción, no un sustituto.

D

#1 sería más difícil porque una persona tiene luces para saber qué ahí no tiene lógica ir a 85mph. Por ejemplo porque no sea autovía.

Y digo difícil pero no imposible porque hay mucho cenutrio suelto.

tdgwho

#3 https://www.elmundo.es/madrid/2019/12/10/5deff46521efa01b7b8b4580.html

por supuesto que las personas tienen luces si.

cc #4

fugaz

#3 El Tesla tiene un nivel 2 de conducción autónoma. Es decir, que requiere au humano sujetando el volante y atento por si pasan estas cosas.

Cuando el coche tenga un nivel 4 o 5 entonces sí será un problema.

D

#4 Las personas tampoco somos perfectas.

La cuestión es saber quién comete más errores, los coches guiados por IA o los guiados por personas.

Noticia de ahora: https://www.diariodemallorca.es/sucesos/2020/02/19/coche-fuera-control-atropella-peatones/1487615.html

D

#1 la persona es más inteligente valorando si las instrucciones no tienen sentido, por el tipo de vía, por las normas de tráfico y por eso que no tienen las máquinas: sentido común

Polmac

#6 Las personas interpretamos información en base a las reglas que conocemos, no tenemos nada de especial. Al software le puede faltar tener en cuenta algunas de las variables que las personas manejamos. Pero cuando lo haga nos dejará en la cuneta por velocidad y capacidad de procesamiento.

Siento55

#1 Primero que sigue poniendo 35 y un humano no leería ahí 85, y segundo que el humano sabe interpretar el entorno y darse cuenta de que esa vía no es para ir a 140km/h.

tusitala

#1 Hay engaños y efectos ópticos con los que puedes engañar a una persona y no a una inteligencia artificial.
Me acuerdo de esa carretera en la que los árboles estaban colocados de tal forma que, al pasar entre ellos la luz, producían ataques a los epilépticos. Eso nunca le pasaría a una inteligencia artificial.
Además detectando estos fallos se pueden arreglar a la vez en todos los coches, cosa que no se puede hacer con todos los humanos.

D

#1 Difícil

bubiba

#1 bueno si va muy pasado quizás... Pero dudo que alguien sobrio se trague una señal de 140 km por hora en una carretera donde se puede ir a 60....

Aokromes

#1 no de una forma tan burda una persona no confunde un 3 alargado con un 8 ni un trozo de cinta de otro color con un 8.

D

Yo dudaría si esa señal es legítima, la máquina actúa sin interpretar. ¿Es la duda lo que nos hace humanos?

Homertron3

#9 déjame que lo dude

D

#9 en cierto sentido yo diría que si. La duda es una señal que nuestro cerebro utiliza parámetros y reglas de decisión mucho más complejos (e interconectados) que los de una AI de hoy.

oso_69

El navegador de Google tiene una función que te avisa si superas el límite de velocidad de la vía. Y ese límite está definido por los mapas, no por las señales de tráfico. Eso sí, no tiene en cuenta las señales de velocidad temporales como las de obras, por ejemplo.

Teranosaurus

Y si le llegan a poner un cero a la derecha viaja al pasado.

m

#7: Si pusieran un par de trozos más podrían trucar el 5 dejando un 8 para hacer los 88 MPH de #BTTF.

powernergia

En realidad es facil engañar a los sistemas, lo cual no es demasiado relevante.
Lo verdaderamente relevante es que a causa de los falsos positivos (cosas que suceden continuamente delante de cámaras y sensores, y que con realmente difíciles de interpretar, como viento, lluvia, peatones), la IA siempre actuará del modo mas conservador, con lo que los bloqueos, frenazos y paradas serán continuos.

Por eso esto está muy, muy lejos.

D

Lo de usar cinta de electricista para hacer números es algo que se emplea desde siempre, básicamente convierten el 3 en un 8, la noticia es Sensacionalista total, es como tachar una señal de Stop, no se que ganaran los de Xataka con estas noticias.

Aokromes
reithor

Buah, esto con un Tesla de 2016. Ya han dicho que en los de 2020 no sucede, así que los Tesla son como los iPhone, hay que cambiarlos cada uno o dos años. Tener un Tesla de 2016 es de pobres.

fugaz

#51 O bien aceptar que el coche aún no puede conducir sin vigilancia humana constante.

pedrobz

Me ha parecido curioso esta parte del ultimo párrafo: MobilEye afirma que "... para garantizar la fiabilidad de la información recibida de los sensores de la cámara y ofrecer despidos y seguridad".
Ofrecer despidos.... esta claro que se lo quieren vender a los empresarios para automatizar aun mas la empresa

devnull

#41 Estoy seguro de que en el artículo original usaban la palabra "redundancy" y han usado el google traductor roll roll

A

Para que los coches autónomos tenga realmente fiabilidad, es posible que aún tengan que pasar 40 o 50 años. Se trata de manejar cientos de millones de variables en unas carreteras que no están adaptadas a la conducción autónoma.

Otra cosa es que las carreteras se adapten a este tipo de conducción y esto facilite el trabajo. Por ejemplo, si toda señal está geolocalizada, sea fija o temporal y subida en una base de datos mapeada a la que tenga acceso el vehículo en todo momento, se podría prescindir de leer las señales. Es decir, los humanos facilitaríamos el trabajo a la máquina adaptándonos a sus necesidades y no al revés. Siempre será más efectivo adaptarnos nosotros, y más seguro.

masde120

#24 yo creo que mil o dos mil años al menos...

D

#24 Si la disponibilidad de 5G URLLC es una precondicion para que existan autos autonomos, diez años por lo menos ya que esa red ni siquiera se comenzo a verificar en campo.

S

... la semana próxima: Engañan a un Tesla para que se despeñe por un barranco pegando unos trozos de cinta blanca en la carretera

f

un tesla, un condensador de fluzo y unas pegatinas..... y a viajar al futu... a la cuneta .

D

A ver. To tengo un Model 3 y cuando vas en Autopilot adapta la velocidad según las señales y el gps. Nunca me ha pasado lo de esta prueba, pero si no pasar de 70 kmh en una autovía recién inaugurada todavia no cartografiada. Y ahí hay señalea claras de 120, pero el coche en ese tramo no se pone a 120.

ramon_lopez

#67 claramente el tuyo al ser modelo español es mucho más pillo y difícil de engañar #83

swapdisk

alguien en la sala que nos pueda decir cuál es la pena en este país por manipular con fines delictivos una señal de tráfico, por favor

JBM00

No sé las demás marcas, pero por ejemplo Mercedes Benz comprueba vía cartografía si la señal que está visualizando corresponde con la de su base de datos

poyeur

¿Qué te había dicho, Marty? ¡140 kilometros por horaaaaaa!

baronrampante

La pasta y el marketing mandan. Los ciudadanos deberíamos ser más críticos con la adopción temprana de nuevas tecnologías.

D

que buena excusa para correr más y recurrir multas

ramon_lopez

Yo siempre intento engañar a mi tostadora pero nunca lo he conseguido.
Muy mal utilizado el verbo ese de "engañar", engañamos a las máquinas y lo siguiente será herir sus sentimientos.
- Yo no hackee el cajero ni aproveché una vulnerabilidad señor juez, lo engañe y el soltó el dinero voluntariamente.

CtrlAltSup

Fallo de la máquina por no preveer que un humano falsificaría la señal.
Si metemos a un ser humano en una ecuación el resultado tiende a ser impredecible.
Desde luego si queremos que los coches conduzcan solos una de las medidas que habría que buscar es que no hubiese humanos conduciendo junto a ellas.

Aokromes

#52 mira las fotos, en ningun lugar un humano confundiria esos 3 con un 8.

CtrlAltSup

#93 Estoy de acuerdo. También te digo que me gustaría ver cuantos humanos han visto el 35 claramente y aun así no lo han cumplido por decisión propia.

1 2