Hace 5 años | Por Reynier_Benitez a xataka.com
Publicado hace 5 años por Reynier_Benitez a xataka.com

Pues parece que al final no fue el LIDAR ni ningún otro componente del coche autónomo del Uber. La culpa de que el coche hubiese atropellado y matado a Elaine Herzberg, de 49 años de edad, habría sido un fallo en la programación y configuración del software del vehículo autónomo.

Comentarios

moraitosanlucar

Me imagino que pasó algo así

D

#19 Me ha costado verlo lol

kucho

#22 me ha pasado.

D

#22 Una ayudita a los que no lo vemos

D

#64 Go to #43

D

#19 jajajajajaja =

oriola

#19 Será que aún es muy temprano, pero no lo cojo.

D

#6 no son casos homólogos. Del coche esperas que funcione solo, la pistola no.

Yosemite

#7 Una pistola cargada, mata. Un coche en movimiento, mata. En ambos casos los activa una persona.
Pero no pretendo que te quedes con el símil de la pistola, que parece que has ignorado todo lo demás, sino que te des cuenta que hay una persona responsable de un vehículo *en pruebas*, en beta, inseguro por definición, y al conductor le ha faltado sacarse la guitarra mientras conduce.

Sh0ni0

#9 Estaria bien probar en las mismas condiciones a varios conductores a ver cuál sería su reacción. Lo mismo el atropello era inevitable. No sé a mi si se me cruza alguien de noche no sé cómo reaccionaría ya qu de momento mi visión se enfoca en unos 100 grados (50 a cada lado). Mi visión solo se va hasta los 180 en momentos puntuales como pueden ser pasos de peatones, maniobras de cambio de carril, en línea recta y sin nada excepcional en la vía mi mirada va al frente y como mucho a los espejos.

Yosemite

#80 En cualquier caso, el tiempo de reacción es decisivo, y trascurre mucho muuucho tiempo desde que la persona se asusta hasta que coloca cada mano y cada pie en el sitio correspondiente. De haber ido alerta, sin duda habría pegado un frenazo. Quizá con las mismas consecuencias, no lo sé, pero el conductor iba tremendamente distraído, es una negligencia.

M

#7 No es en absoluto cierto. Ahora mismo en los sistemas de coches autónomos se requiere que el usuario preste atención a la carretera, precisamente porque no han sido debidamente testeados. La conductora no solo no prestaba la debida atención, no prestaba ninguna en absoluto por estar mirando su móvil.

Otra cosa es si le hubiese dado tiempo a una persona de frenar de todos modos, teniendo en cuenta que básicamente la mujer se arrojó delante del coche. Para mi, la principal responsable sigue siendo la peatón.

Gotnov

#24 La culpa no puede ser del coche. En todo caso será del diseñador del coche, del programador del coche, del que le hace el mantenimiento, del responsable del coche...

Al coche no lo vas a meter en la cárcel o hacerle pagar una multa para que aprenda a no cometer errores

M

#24 Pues no, como tantas otras cosas que facilitan trabajos pero requieren supervisión. Que algunos usuarios no queráis entender cómo funcionan las cosas no es un problema de diseño.

dreierfahrer

#78 es un problema de diseño pq el ser humano no esta preparado para prestar atencion durante horas a la carretera sin interactuar con lo q hace...

Eso es garantia de q se va a aburrir y va a dejar de prestar atencion.

Creo claro q ese sistema no puede ser convalidado para andar en carreteras si es asi.

ChukNorris

#21 Si a 60km/h no eres capaz de ver y frenar a tiempo cuando un peaton cruza la carretera desde el carril izquierdo, es que eres un peligro al volante.
cc/ #18

perrico

#59 A ver, será cosa del vídeo que yo vi, pero en ese vídeo se aparece de repente una tía que no se ve de donde sale justo antes de la colisión.
Tengo carnet de conducir desde hace más de 30 años y nunca he provocado ningún accidente.
En el vídeo aparentemente estaba oscuro. Dicen por ahí que estaba oscurecido, pero hasta donde yo he visto. Aparece de repente.

ChukNorris

#70 Es cosa del vídeo, la transeúnte cruza caminando la calzada desde el otro lado, no hay niebla, ni lluvia ni nada que evite tener una visibilidad correcta y que de tiempo de sobra a frenar.

#77 El peatón no "se tira" a 5 metros, cruza caminando desde el lado contrario de la calzada ... si a 60Km/h de noche y sin otros problemas de visibilidad no lo ves hasta que lo tienes a 5 metros de distancia es que tienes un problema.

M

#81 igual tengo muy olvidado el vídeo, ya lo buscaré, pero creo recordar que estaba oscuro y que aparecía por la derecha y ya prácticamente delante del coche

ChukNorris

#83 Revísalo y te en cuenta que la visibilidad real no es la que se ve en el vídeo, es más parecida a la que pone 76 (no se por qué me tiene ignorado y no me deja enlazar el comentario).

M

#59 si te crees capaz de frenar un coche a 60 km/h cuando un peatón se tira delante del coche a 5 metros de distancia, es que sobrevaloras tus capacidades y eres tú el peligro al volante

D

#7 si lo es. El coche "se espera", en un futuro, que funcione solo.

Por ahora está en pruebas y las pruebas obligan que haya un conductor responsable, su principal función es, precisamente, corregir al coche si la caga.

Lo que creo... Es que es muy probable que los trabajadores que van dentro de esos coches no hayan interiorizado bien los riesgos legales y físicos que corren.

Vamos: ¿Son conscientes de que van en una máquina que va sola y que si lo considera (por error, o por salvar la vida de un transeunte) puede decidir estrellarse con una farola?... Por mucho que te fies de la IA... en las primeras pruebas... ¿No llevas casco?.

Y otro vamos: legalmente tiene que haber un conductor, y legalmente el conductor es el responsable de lo que suceda... ¿Y no vas mirando pa alante?

johnyfw

#13 el tema es que se supone que el señor que estaba de piloto estaba mirando el sistema del vehiculo, cuando habian puesto la configuracion del coche en minimo y tenia que estar atento a la conduccion....

againandagain

#12 #6 todas las investigaciones de graves errores acaban siempre encontrando un culpable mindundi.

W

#14 Es lo que pasa cuando se ponen directivos que no tienen ni idea pero que cobran por la responsabilidad de su cargo para luego elegir a un mindundi al que se le pague cuatro duros por un trabajo en el que de verdad tiene responsabilidad.

Al final los de arriba nunca tienen ni idea y al que han pagado con cacahuetes ha resultado ser un mono.

D

#3 Es que los coches autónomos todavía requieren supervisión humana constante. Que el coche falle y que el responsable fallase son dos cosas independientes.o

perrico

#3 Después de visto el video, el conductor no creo que hubiese podido hacer nada de la forma en que se cruza la tía de la bici, que parece que sale de la nada.
Si voy por la carretera con todos mis sentidos puestos, no creo que la hubiese podido evitar.

dreierfahrer

#21 el video te engaña, pues.

Es una recta. Un conductor q fuera viendo la carretera la habria visto.

y

#25 Creo que cuando yo me sacaba el carnet, si alguien cruza mal, y lo hace en una recta, en caso de accidente, la culpa es del peatón, si lo hace después de un cruce o curva, es del conductor del vehículo.

Sh0ni0

#25 un conductor que va en una recta sin paso de peatones va mirando unos 50 metros al frente no a los lados eso implica que con el ángulo de visión fijado al frente fácilmente el conductor tiene el punto de visión de dónde aparece el peatón en su centro unos 100 metros antes. Esto implica que si el peatón no estaba en ese punto o cuando estaba no hacía ademán de cruzar el conductor lo cataloga de no amenaza y mantiene su foco al frente. Es muy fácil hablar de reacciones y como debería de haber actuado desde fuera.

A mí se me cruzó un tío en una recta a plena luz del día y casi le atizó y eso que le vi las intenciones y me lo vi venir de lejos. Si cruza un poco más tarde estando yo más cerca le atizo fijo pese a haberle visto.

ChukNorris

#82 "un conductor que va en una recta sin paso de peatones va mirando unos 50 metros al frente no a los lados eso implica que con el ángulo de visión fijado al frente fácilmente el conductor tiene el punto de visión de dónde aparece el peatón en su centro unos 100 metros antes. Esto implica que si el peatón no estaba en ese punto o cuando estaba no hacía ademán de cruzar el conductor lo cataloga de no amenaza y mantiene su foco al frente"

¿Perdona? El coche va a 16.6 m/s, la distancia total de frenado son 35 metros (0.75 seg y 12 m por el tiempo de reacción y 23 m de frenado) ...
¿Dices que si 100m antes no estaba haciendo ademán de cruzar te lo comes? Pero si vas a tardar más de 6 segundos en pasar por ahí ... le da tiempo al peatón a cruzar 2 veces la calzada antes de que llegues y dices que t lo vas a comer porque no te da tiempo ... lol

Sh0ni0

#93 Digo que 100 metros antes es cuando estas mirando la posición del peatón y que si no hace ademán de cruzar en ese momento no lo detectas como amenaza y sigues mirando al frente. No hablamos de un paso de cebra en el que según te acercas tu vista va hacia los lados en busca de peatones. No digo que si detectas una amenaza a 100 metros no te de tiempo a frenar.

ChukNorris

#95 Dices o entiendo que dices que si no lo detectas a 100m no lo vas a detectar. ¿ves a 100m con las luces de noche? ¿Se te pone a cruzar un peatón 50 metros delante tuyo y dices que no lo ves?

Sh0ni0

#99 Digo que igual no lo ves. Por eso las rectas largas son peligrosas porque se produce el efecto túnel. Ese es uno de los motivos de que algunos atropellos a ciclistas se produzcan en largas rectas con buena visibilidad ( obviamente quitando los que directamente están relacionados con alcohol, negligencia del conductor o del ciclista). En mi primer mensaje ya pongo que sería bueno simular las condiciones y ver qué harían distintos conductores. Es fácil pensar que 100 de 100 todos verían al peatón pero igual hay algo puntual en esa zona que llame la atención de los conductores (por ejemplo un semáforo más adelante) y su concentración pasa a anticipar eso dejando de lado lo de alrededor. Nuestros sentidos son limitados, de no ser así los magos no podrían hacer muchísimos de sus trucos.

No intento exculpar al conductor me gusta ver todas las posibilidades. A veces tú puedes hacer todo bien y aún así que ocurra un accidente. No sé si hay un vídeo desde fuera porque ahí se vería en qué punto empieza a cruzar. Lo demás son suposiciones que hacemos.

S

#29 Con niebla espesa si que se puede ir a 30, pero en ese video no se ve niebla. El problema es que el peatón ni lleva chaleco reflectante, ni luces, ni nada... (Vamos, como algunos ciclistas que se creen seres de luz). La conductora no debía que andar despistada, pero creo que en ese caso no hubiera marcado diferencia.

kucho

#63 ese tema ya esta mas que hablado. que el peaton lleve o no lleve ropa reflectante es irrelevante. se ve de sobra con las luces del coche. le dio tiempo a atravesar la calle de lado a lado y el coche la cogio con la esquina derecha. con levantar el pie del acelerador habria sido suficiente para no atropellarla, sin tener en cuenta que cualquiera habria frenado o pegado un volantazo.

S

#87 En el video que yo he visto, aparece de repente de la nada y a mí no me hubiera dado tiempo de reaccionar. Pero si tu dices que ya está más que hablado, pues vale.

kucho

#91 en el video que tu viste no ves la mitad de la imagen porque la luz del coche ciega la camara. aun asi, te da tiempo a ver como la tipa cruza la carretera y casi se salva. no iba corriendo. si hubiera salido de la derecha y recibido el golpe en el mismo sitio probablemente habria sido dificil de evitar, pero tal y como fue, con levantar el pie, frenar o pegar un volantazo habria bastado.

si, se ha hablado largo y tendido en su dia.

D

#91 Por si acaso, ese efecto es el mismo que pasa cuando intentar tomar fotos con alto contraste entre luces y sombras, al final no puedes tomar la foto porque aunque tus ojos vean perfectamente la foto sale una mierda.

g

#3 Vaya, que cosas, de nuevo la culpa ha sido del conductor:

Al conductor no le pagaban por chatear con el móvil en un asiento de coche...

johnyfw

#48 miraba la pantalla de sistema DEL VEHICULO, no estaba con el whatssap

g

#74 miraba la pantalla de sistema DEL VEHICULO, no estaba con el whatssap

No tenía ni idea. En cualquier caso, parte de la responsabilidad es suya, si está ahí es porque no estaba garantizado que el sistema autónomo no fallase, y su trabajo es tomar el control del vehículo cuando éste falla

D

#2 la culpa es del de operaciones

W

#2 Pues igual que cuando se produce un accidente por un error humano y no por un defecto de fábrica, que puede afectar a más vehículos.

sevier

#2 Quizás lo conocía y lo quería atropellar aposta.

Aergon

#2 la tecnologia en la que se invierte millonadas siempre es infalible y si no es que fue un fallo humano ¿no lo sabias?

D

#2 Y que la inutil de la mujer, cruzaba de noche, en una zona sin iluminar y sin mirar si venian coches. Darwin... roll

avalancha971

#56 Lo de la mujer efectivamente es de premio Darwin...

Pero una pregunta, ¿el coche era eléctrico?

Igual en la cabeza de la mujer el ruido que generaba el coche tampoco llegaba al umbral como para ser interpretado por su cerebro como un coche.

D

#65 A 60 Km/h el ruido de rodadura es más que evidente sea el coche eléctrico o no, así que dudo que la culpa sea de eso. Los coches eléctricos son silenciosos solamente cuando van muy despacito.

avalancha971

#72 No lo había pensado, gracias por la información.

h

#65 supongo que también tendría las luces encendidas el coche.

D

#2 es que no es lo mismo, en este caso no es un bug sino una feature. en el menú de configuración del uber por lo visto tienes la opción: "desea que el coche autónomo vaya atropellando ciclistas?
[] de vez en cuando
[] que no quede ni uno vivo
[] solo si van con mallas
[] no, que acabo de lavar el coche

xenko

#4 el titular es confuso, sino falso. Si ha sido un falso negativo, entonces el sistema no ha detectado al peatón.

powernergia

#23 Un falso positivo es que el coche detecta algo que descarta porque no lo considera obstáculo, por eso no frena.

Los VA tienen que descartar continuamente cosas a su alrededor que detectan pero que no se consideran obstáculos, ya sea porque no están en la trayectoria directa (aunque tal vez se dirijan a ella), o porque el vehículo ya esta girando, o porque sea por ejemplo una bolsa de plástico volando.

skatronic

#28 Eh, no. Un falso positivo en este caso es cuando el vehículo actúa como si hubiera un obstáculo cuando no lo hay. Detectar una bolsa e ignorarla no es un falso positivo ni negativo, es el comportamiento esperado.
En el caso de la ciclista, si no la ha detectado, sería un falso negativo, es decir, el coche dice que no hay peligro (negativo), cuando es falso.

powernergia

#32 En realidad es lo mismo dicho de otra manera.

En este caso es positivo porque "hay algo pero OK se puede seguir", y eso es falso.

Y también podemos decirlo como tu indicas, son solo maneras de hablar.

r

#34 lo que tú dices se llama falso negativo. Si dices falso positivo, alguien que se dedique a estas cosas no te entenderá (o te malinterpretará)

powernergia

#38 La misma noticia habla de "decidió" que no era necesario tomar medidas evasivas al marcarla como un falso-positivo", e insisto en que se trata solo de un convencionalismo.

skatronic

#40 No es un convencionalismo. Si lo detectó como un positivo pero decidió no actuar, es un positivo mal tratado, no sería en ningún caso un falso negativo (que es cuando no hay detección).

powernergia

#52 Claro que no es un falso negativo, es lo que estoy diciendo.

powernergia

#44 Falso positivo: Considerar Ok cuando hay un problema.
Falso negativo: Considerar problema cuando es OK.

Aplicable a muchos campos y con posibilidad de verlo de formas diferentes.
Si nos centramos en vehículos autónomos (no es mi campo específico), no tengo claro cual es el que se utiliza y probablemente sea como tu dices, aunque en todas las búsquedas sobre esto hablan de "falso positivo", y con el termino "falso negativo" se van a los test de embarazo.

https://goo.gl/WLS255

Y todo sin descartar que en ingles y/o por los expertos sobre el asunto, sea justo al revés.

Que paseis un buen día.

CC #32 #38

D

#47 Que no, que es igual en todos los campos y lo que tu escribes es justo al contrario.

D

#34 No, no es lo mismo.

Falso positivo: considerar que hay algo cuando en realidad no lo hay
Falso negativo: considerar que no hay nada, cuando sí lo hay.

D

#44 tienes toda la razón....estás utilizando las definiciones estándar de falso negativo y falso positivo...creo que el otro usuario con el que estas dialogado no sabe de la existencia de esas definiciones e intenta ceñirse a un problema semántico...cuando no lo es...

D

#66 Sí, eso parece

D

En el vídeo se ve como la señora sale de un túnel espacio temporal donde antes no había nada.
Vamos, que la tía cruzó por donde no debía.

Poignard

#5 quien esté libre de pecado...

D

#27 que le pregunten a Caitlin Jenner

D

#76 Además, aunque esté bien configurada, probablemente la visión que tenga una persona sea mejor que la del vídeo. Quien haya intentado hacer fotos con poca iluminación o con un alto contraste entre luces y sombras sabrá a qué me refiero.

sorrillo

#88 Si hay indicios suficientes para avalar la tesis que su presencia en las calles, en sustitución a conductores humanos, supone una reducción del riesgo en las carreteras lo negligente sería no aprobar el desarrollo de esa tecnología por los medios que sean necesarios.

Incluso si por ahora únicamente existiera el potencial y las pruebas en circunstancias reales fueran necesarias para avanzar también estaría perfectamente justificada su presencia en las calles.

Podemos por ejemplo compararlo con los estudios de salud o medicina, donde se aprueban ensayos con humanos cuando hay indicios de que el producto es suficientemente seguro como para que pueda salvar más vidas de las que pone en riesgo. Y esos ensayos se van extendiendo conforme se identifican sus resultados como exitosos.

No hay que tener miedo al progreso, tampoco a los riesgos inherentes que conlleva llegar hasta éste.

D

¿La culpa? Del informático

polvos.magicos

¿Seguro que el coche no era Christine?

Noctuar

«La rebelión de las máquinas»

MacMagic

Me quedo más tranquilo sabiendo que cualquier error puede matarme, algúna condición lógica mal pensada y pam, por el puente te vas

D

#20 Mucho mejor que saber que cualquier mono te puede matar al volante (incluido tú mismo)

MacMagic

#45 si tu eres manco no es mi problema, y si te piensas que eres un mono de feria pues chico, no puedo hacer nada.

Por lo demás, 0 argumentos, así que tu gran aportación queda registrada en mi base de datos invisible.

e

sorrillosorrillo espero que ahora entiendas que los coches autónomos si que salvarán vidas, siempre y cuando la empresas prioricen la seguridad antes de sacar un producto a la carretera a medio hacer.

Estaba bastante claro, que era muy complicado que el vehículo no consiguiera detectar a un peatón cruzar 3 carriles y no se trataba de una conspiración para dejar en mal lugar al coche autónomo.

sorrillo

#49 Para determinar si su presencia en las carreteras salva vidas hay que medirlo con datos estadísticos, no con datos anecdóticos.

Que un vehículo mate a una persona en un accidente no es ninguna novedad, lleva pasando desde que se inventaron los vehículos. La novedad sería que esa cifra se redujera gracias a la tecnología de conducción autónoma, y eso se mide estadísticamente.

e

#50 Aquí no hablamos si los coches autónomos salvaran vidas, hablamos de que las autoridades han sido negligentes en asegurarse de que una tecnología disruptiva, como los coches autónomos, han sido correctamente validados para su uso en las calles.

a

Todo lo que dice Enrique Dans sobre conducción autómoma e IA queda una vez más en entre dicho porque para muchos de nosotros, aún ciertos adelantos no son una realidad. Solo se puede decir que nos vamos acercando, pero la meta es todavía una promesa sin fecha.

D

#57 Es buena gente, pero se le va la pinza con la ilusión.

Cuando mi mujer dice un segundo, suele ser un minuto, y cuando Enrique dice que en 3 años se implementará el coche autónomo, serán 30...

No se lo tomes a mal. El que tiene boca se equivoca, y cuando acertamos hay mucho hater que seguirá escupiendo mierda.

p

la culpa es del informático

D

Vamos, lo típico, te dejas el kill_pedestrian_flag a 1 y pasa lo que pasa

D

Quien tiene la responsabilidad con los coches autonomos en caso de accidente? Que seguro es el que debe actuar?

M

... pero pensó: que se jodan... (pensamiento de moda)

D

¿pero tenía que haber frenado antes en el tiempo o en el espacio?

n

Esto es claramente un problema de programacion. Su sistema de detección de peatones no es demasiado fiable, por este motivo aun que el vehículo solo se detectó como si hubiera sido un obstáculo en caso de estar muy seguro.

Cuando los sistemas de detección no son 100% perfectos, es fácil de seleccionar cuando no hay nada que pueda suceder con los autos que los sigan cuando esté muy seguro.

Los sistemas que están en el mercado y que han sido aprobados por los fabricantes de vehículos aceptan falsas frecuencias, todos los kilómetros de kilómetros y por este motivo lo venden como un sistema de ayuda a la conducción, ya que el conductor tiene que estar siempre pendiente para los mismos. casos que se escapan al sistema. Mientras tanto todas las magufadas de start ups tienen soluciones que son autonomas de nivel 4 (que no fallan nunca con redundancia de sensores para no fallar nunca) cuando en realidad siguen muy lejos de funcionar en la mayoría de casos.

j

Y para cuándo la corrección en los fallos en la programación y configuración del humano?

Por la noche, rapido, sin mirar, y por donde le sale de las pelotas: así cruza un peatón una vía de varios carriles

a

los fallos que estan apareciendo en estos sistemas son los mismos fallos que tubieron los programas de CNC de mecanizado, pero se solucionaran con el tiempo, recuerdo cuando desaparecian de los programas un simple cero y causaban averias costosas, estos mismos fallos que ahora esta ocurriendo en la conduccion pero es cuestion de tiempo que se solucionen y no tardaran mucho

D

El problema de estos sistemas es complicado reducir la magnitud de la tasa de fallo, y esta siempre va a ser grande.

M

#1 Lo bueno es que las IA son "inmortales". Un conductor humano puede llegar a ser muy bueno al cabo de 30 años conduciendo, pero llegará un día en que morirá y, con él, todo lo que ha aprendido.

Las IA pueden tener fallos ahora, pero cada fallo queda registrado y sirve de "training data" para la siguiente generación del software. Cada accidente hace que los algoritmos puedan ser mejorados, y esto es un proceso que sigue generación tras generación.

No se si ya se ha llegado al punto en que los coches autónomos tienen menos accidentes que los conducidos por humanos, pero lo que está claro es que un día conducirán muchísimo mejor que nosotros. Y no sólo con más seguridad, si no también de un modo más rápido y eficiente.

D

#86 Me pregunto como tomarán decisiones como las de la palanca y el tren.
Yo personalmente no me subiría en un coche que eligiese en esos casos el mal menor y me mate a mi.

D

#90 El problema no es tanto ¿qué elegira el coche en situaciones de riesgo?, como ¿quiénes provocan dichas situaciones de riesgo? Al final los problemas los causan los conductores muy mayores que entran a la autopista al revés porque ya no se enteran, los míticos que piensan que después de 5 cubatas aún pilotan perfectamente, los que combaten la frustración de no haber llegado a piloto de fórmula 1 echándose carreras con los colegas, etc. Queremos creer que los humanos somos conductores superiores porque podemos improvisar, pero al final esa capacidad improvisación el 90% de las veces solo nos servirá para salvar nuestro culo de las barbaridades cometidas por otros conductores.

M

#90 Si resulta que aún asi la probabilidad de morir en ese coche es menor que la probabilidad de morir en un coche conducido por ti, tendría sentido que eligieras el coche autónomo.

De todos modos, los humanos somos muy malos a la hora de valorar riesgos. Por eso hay gente que se muere de miedo cuando se sube a un avión, pero luego no tiene problemas en ir en bici sin casco.

D

#1 Una afirmacion completamente infundada. La capacidad de estos sistemas ha ido aumentando desde hace años exponencialmente. El coche de google ha recorrido mas de un millon de kilometros sin provocar ningun accidente, un registro poco corriente para un conductor humano y muy por encima de la media para humanos.

No es exagerar decir que dentro de pocos años los coches autonomos conduciran con mas fiabilidad por la gran mayor parte de las vias.

1 2