Hace 5 años | Por Reynier_Benitez a xataka.com
Publicado hace 5 años por Reynier_Benitez a xataka.com

Pues parece que al final no fue el LIDAR ni ningún otro componente del coche autónomo del Uber. La culpa de que el coche hubiese atropellado y matado a Elaine Herzberg, de 49 años de edad, habría sido un fallo en la programación y configuración del software del vehículo autónomo.

Comentarios

moraitosanlucar

Me imagino que pasó algo así

skatronic

#28 Eh, no. Un falso positivo en este caso es cuando el vehículo actúa como si hubiera un obstáculo cuando no lo hay. Detectar una bolsa e ignorarla no es un falso positivo ni negativo, es el comportamiento esperado.
En el caso de la ciclista, si no la ha detectado, sería un falso negativo, es decir, el coche dice que no hay peligro (negativo), cuando es falso.

D

#2 es que no es lo mismo, en este caso no es un bug sino una feature. en el menú de configuración del uber por lo visto tienes la opción: "desea que el coche autónomo vaya atropellando ciclistas?
[] de vez en cuando
[] que no quede ni uno vivo
[] solo si van con mallas
[] no, que acabo de lavar el coche

D

#19 Me ha costado verlo lol

r

#34 lo que tú dices se llama falso negativo. Si dices falso positivo, alguien que se dedique a estas cosas no te entenderá (o te malinterpretará)

perrico

#59 A ver, será cosa del vídeo que yo vi, pero en ese vídeo se aparece de repente una tía que no se ve de donde sale justo antes de la colisión.
Tengo carnet de conducir desde hace más de 30 años y nunca he provocado ningún accidente.
En el vídeo aparentemente estaba oscuro. Dicen por ahí que estaba oscurecido, pero hasta donde yo he visto. Aparece de repente.

dreierfahrer

#21 el video te engaña, pues.

Es una recta. Un conductor q fuera viendo la carretera la habria visto.

D

#2 la culpa es del de operaciones

D

En el vídeo se ve como la señora sale de un túnel espacio temporal donde antes no había nada.
Vamos, que la tía cruzó por donde no debía.

sevier

#2 Quizás lo conocía y lo quería atropellar aposta.

D

#6 no son casos homólogos. Del coche esperas que funcione solo, la pistola no.

oriola

#19 Será que aún es muy temprano, pero no lo cojo.

D

#22 Una ayudita a los que no lo vemos

D

#64 Go to #43

Yosemite

#7 Una pistola cargada, mata. Un coche en movimiento, mata. En ambos casos los activa una persona.
Pero no pretendo que te quedes con el símil de la pistola, que parece que has ignorado todo lo demás, sino que te des cuenta que hay una persona responsable de un vehículo *en pruebas*, en beta, inseguro por definición, y al conductor le ha faltado sacarse la guitarra mientras conduce.

M

#7 No es en absoluto cierto. Ahora mismo en los sistemas de coches autónomos se requiere que el usuario preste atención a la carretera, precisamente porque no han sido debidamente testeados. La conductora no solo no prestaba la debida atención, no prestaba ninguna en absoluto por estar mirando su móvil.

Otra cosa es si le hubiese dado tiempo a una persona de frenar de todos modos, teniendo en cuenta que básicamente la mujer se arrojó delante del coche. Para mi, la principal responsable sigue siendo la peatón.

xenko

#4 el titular es confuso, sino falso. Si ha sido un falso negativo, entonces el sistema no ha detectado al peatón.

M

#90 Si resulta que aún asi la probabilidad de morir en ese coche es menor que la probabilidad de morir en un coche conducido por ti, tendría sentido que eligieras el coche autónomo.

De todos modos, los humanos somos muy malos a la hora de valorar riesgos. Por eso hay gente que se muere de miedo cuando se sube a un avión, pero luego no tiene problemas en ir en bici sin casco.

W

#2 Pues igual que cuando se produce un accidente por un error humano y no por un defecto de fábrica, que puede afectar a más vehículos.

W

#14 Es lo que pasa cuando se ponen directivos que no tienen ni idea pero que cobran por la responsabilidad de su cargo para luego elegir a un mindundi al que se le pague cuatro duros por un trabajo en el que de verdad tiene responsabilidad.

Al final los de arriba nunca tienen ni idea y al que han pagado con cacahuetes ha resultado ser un mono.

D

#19 jajajajajaja =

kucho

#22 me ha pasado.

D

#44 tienes toda la razón....estás utilizando las definiciones estándar de falso negativo y falso positivo...creo que el otro usuario con el que estas dialogado no sabe de la existencia de esas definiciones e intenta ceñirse a un problema semántico...cuando no lo es...

jixbo

#113 Estoy de acuerdo en todo lo que has dicho. Pero además, el casco reduce bastante poco el riesgo cuando te golpeas la cabeza, y accidentes con golpe en la cabeza son un porcentaje bastante pequeño. Además mucha gente lo lleva mal sujeto y es más peligroso que no llevarlo.

En la línea de lo que comentas, hay varios experimentos en UK que demuestran que los conductores se confían cuando los ciclistas llevan casco y les dejan menos espacio cuando adelantas.

A todo esto, yo llevo casco.

Gotnov

#24 La culpa no puede ser del coche. En todo caso será del diseñador del coche, del programador del coche, del que le hace el mantenimiento, del responsable del coche...

Al coche no lo vas a meter en la cárcel o hacerle pagar una multa para que aprenda a no cometer errores

D

#7 si lo es. El coche "se espera", en un futuro, que funcione solo.

Por ahora está en pruebas y las pruebas obligan que haya un conductor responsable, su principal función es, precisamente, corregir al coche si la caga.

Lo que creo... Es que es muy probable que los trabajadores que van dentro de esos coches no hayan interiorizado bien los riesgos legales y físicos que corren.

Vamos: ¿Son conscientes de que van en una máquina que va sola y que si lo considera (por error, o por salvar la vida de un transeunte) puede decidir estrellarse con una farola?... Por mucho que te fies de la IA... en las primeras pruebas... ¿No llevas casco?.

Y otro vamos: legalmente tiene que haber un conductor, y legalmente el conductor es el responsable de lo que suceda... ¿Y no vas mirando pa alante?

powernergia

#32 En realidad es lo mismo dicho de otra manera.

En este caso es positivo porque "hay algo pero OK se puede seguir", y eso es falso.

Y también podemos decirlo como tu indicas, son solo maneras de hablar.

powernergia

#38 La misma noticia habla de "decidió" que no era necesario tomar medidas evasivas al marcarla como un falso-positivo", e insisto en que se trata solo de un convencionalismo.

powernergia

#44 Falso positivo: Considerar Ok cuando hay un problema.
Falso negativo: Considerar problema cuando es OK.

Aplicable a muchos campos y con posibilidad de verlo de formas diferentes.
Si nos centramos en vehículos autónomos (no es mi campo específico), no tengo claro cual es el que se utiliza y probablemente sea como tu dices, aunque en todas las búsquedas sobre esto hablan de "falso positivo", y con el termino "falso negativo" se van a los test de embarazo.

https://goo.gl/WLS255

Y todo sin descartar que en ingles y/o por los expertos sobre el asunto, sea justo al revés.

Que paseis un buen día.

CC #32 #38

powernergia

#52 Claro que no es un falso negativo, es lo que estoy diciendo.

D

#3 Es que los coches autónomos todavía requieren supervisión humana constante. Que el coche falle y que el responsable fallase son dos cosas independientes.o

D

#65 A 60 Km/h el ruido de rodadura es más que evidente sea el coche eléctrico o no, así que dudo que la culpa sea de eso. Los coches eléctricos son silenciosos solamente cuando van muy despacito.

M

#59 si te crees capaz de frenar un coche a 60 km/h cuando un peatón se tira delante del coche a 5 metros de distancia, es que sobrevaloras tus capacidades y eres tú el peligro al volante

skatronic

#40 No es un convencionalismo. Si lo detectó como un positivo pero decidió no actuar, es un positivo mal tratado, no sería en ningún caso un falso negativo (que es cuando no hay detección).

perrico

#3 Después de visto el video, el conductor no creo que hubiese podido hacer nada de la forma en que se cruza la tía de la bici, que parece que sale de la nada.
Si voy por la carretera con todos mis sentidos puestos, no creo que la hubiese podido evitar.

sorrillo

#49 Para determinar si su presencia en las carreteras salva vidas hay que medirlo con datos estadísticos, no con datos anecdóticos.

Que un vehículo mate a una persona en un accidente no es ninguna novedad, lleva pasando desde que se inventaron los vehículos. La novedad sería que esa cifra se redujera gracias a la tecnología de conducción autónoma, y eso se mide estadísticamente.

M

#1 Lo bueno es que las IA son "inmortales". Un conductor humano puede llegar a ser muy bueno al cabo de 30 años conduciendo, pero llegará un día en que morirá y, con él, todo lo que ha aprendido.

Las IA pueden tener fallos ahora, pero cada fallo queda registrado y sirve de "training data" para la siguiente generación del software. Cada accidente hace que los algoritmos puedan ser mejorados, y esto es un proceso que sigue generación tras generación.

No se si ya se ha llegado al punto en que los coches autónomos tienen menos accidentes que los conducidos por humanos, pero lo que está claro es que un día conducirán muchísimo mejor que nosotros. Y no sólo con más seguridad, si no también de un modo más rápido y eficiente.

sorrillo

#88 Si hay indicios suficientes para avalar la tesis que su presencia en las calles, en sustitución a conductores humanos, supone una reducción del riesgo en las carreteras lo negligente sería no aprobar el desarrollo de esa tecnología por los medios que sean necesarios.

Incluso si por ahora únicamente existiera el potencial y las pruebas en circunstancias reales fueran necesarias para avanzar también estaría perfectamente justificada su presencia en las calles.

Podemos por ejemplo compararlo con los estudios de salud o medicina, donde se aprueban ensayos con humanos cuando hay indicios de que el producto es suficientemente seguro como para que pueda salvar más vidas de las que pone en riesgo. Y esos ensayos se van extendiendo conforme se identifican sus resultados como exitosos.

No hay que tener miedo al progreso, tampoco a los riesgos inherentes que conlleva llegar hasta éste.

MacMagic

Me quedo más tranquilo sabiendo que cualquier error puede matarme, algúna condición lógica mal pensada y pam, por el puente te vas

D

¿La culpa? Del informático

powernergia

#23 Un falso positivo es que el coche detecta algo que descarta porque no lo considera obstáculo, por eso no frena.

Los VA tienen que descartar continuamente cosas a su alrededor que detectan pero que no se consideran obstáculos, ya sea porque no están en la trayectoria directa (aunque tal vez se dirijan a ella), o porque el vehículo ya esta girando, o porque sea por ejemplo una bolsa de plástico volando.

polvos.magicos

¿Seguro que el coche no era Christine?

D

#34 No, no es lo mismo.

Falso positivo: considerar que hay algo cuando en realidad no lo hay
Falso negativo: considerar que no hay nada, cuando sí lo hay.

D

#20 Mucho mejor que saber que cualquier mono te puede matar al volante (incluido tú mismo)

e

sorrillosorrillo espero que ahora entiendas que los coches autónomos si que salvarán vidas, siempre y cuando la empresas prioricen la seguridad antes de sacar un producto a la carretera a medio hacer.

Estaba bastante claro, que era muy complicado que el vehículo no consiguiera detectar a un peatón cruzar 3 carriles y no se trataba de una conspiración para dejar en mal lugar al coche autónomo.

D

#47 Que no, que es igual en todos los campos y lo que tu escribes es justo al contrario.

D

#2 Y que la inutil de la mujer, cruzaba de noche, en una zona sin iluminar y sin mirar si venian coches. Darwin... roll

a

Todo lo que dice Enrique Dans sobre conducción autómoma e IA queda una vez más en entre dicho porque para muchos de nosotros, aún ciertos adelantos no son una realidad. Solo se puede decir que nos vamos acercando, pero la meta es todavía una promesa sin fecha.

Noctuar

«La rebelión de las máquinas»

ChukNorris

#21 Si a 60km/h no eres capaz de ver y frenar a tiempo cuando un peaton cruza la carretera desde el carril izquierdo, es que eres un peligro al volante.
cc/ #18

D

#66 Sí, eso parece

ChukNorris

#70 Es cosa del vídeo, la transeúnte cruza caminando la calzada desde el otro lado, no hay niebla, ni lluvia ni nada que evite tener una visibilidad correcta y que de tiempo de sobra a frenar.

#77 El peatón no "se tira" a 5 metros, cruza caminando desde el lado contrario de la calzada ... si a 60Km/h de noche y sin otros problemas de visibilidad no lo ves hasta que lo tienes a 5 metros de distancia es que tienes un problema.

ChukNorris

#83 Revísalo y te en cuenta que la visibilidad real no es la que se ve en el vídeo, es más parecida a la que pone 76 (no se por qué me tiene ignorado y no me deja enlazar el comentario).

ChukNorris

#82 "un conductor que va en una recta sin paso de peatones va mirando unos 50 metros al frente no a los lados eso implica que con el ángulo de visión fijado al frente fácilmente el conductor tiene el punto de visión de dónde aparece el peatón en su centro unos 100 metros antes. Esto implica que si el peatón no estaba en ese punto o cuando estaba no hacía ademán de cruzar el conductor lo cataloga de no amenaza y mantiene su foco al frente"

¿Perdona? El coche va a 16.6 m/s, la distancia total de frenado son 35 metros (0.75 seg y 12 m por el tiempo de reacción y 23 m de frenado) ...
¿Dices que si 100m antes no estaba haciendo ademán de cruzar te lo comes? Pero si vas a tardar más de 6 segundos en pasar por ahí ... le da tiempo al peatón a cruzar 2 veces la calzada antes de que llegues y dices que t lo vas a comer porque no te da tiempo ... lol

ChukNorris

#95 Dices o entiendo que dices que si no lo detectas a 100m no lo vas a detectar. ¿ves a 100m con las luces de noche? ¿Se te pone a cruzar un peatón 50 metros delante tuyo y dices que no lo ves?

MacMagic

#45 si tu eres manco no es mi problema, y si te piensas que eres un mono de feria pues chico, no puedo hacer nada.

Por lo demás, 0 argumentos, así que tu gran aportación queda registrada en mi base de datos invisible.

g

#3 Vaya, que cosas, de nuevo la culpa ha sido del conductor:

Al conductor no le pagaban por chatear con el móvil en un asiento de coche...

D

#27 que le pregunten a Caitlin Jenner

y

#25 Creo que cuando yo me sacaba el carnet, si alguien cruza mal, y lo hace en una recta, en caso de accidente, la culpa es del peatón, si lo hace después de un cruce o curva, es del conductor del vehículo.

D

#57 Es buena gente, pero se le va la pinza con la ilusión.

Cuando mi mujer dice un segundo, suele ser un minuto, y cuando Enrique dice que en 3 años se implementará el coche autónomo, serán 30...

No se lo tomes a mal. El que tiene boca se equivoca, y cuando acertamos hay mucho hater que seguirá escupiendo mierda.

e

#50 Aquí no hablamos si los coches autónomos salvaran vidas, hablamos de que las autoridades han sido negligentes en asegurarse de que una tecnología disruptiva, como los coches autónomos, han sido correctamente validados para su uso en las calles.

jixbo

#103 El casco en la bici, sobretodo en ciudad, tiene poca efectividad probada. Quizá funcionaría mejor una analogía con algo realmente peligroso, como ir en moto (el porcentaje de mortalidad es mucho mayor que en bicicleta), bañarse en el mar o fumar.

p

la culpa es del informático

D

Vamos, lo típico, te dejas el kill_pedestrian_flag a 1 y pasa lo que pasa

D

#90 El problema no es tanto ¿qué elegira el coche en situaciones de riesgo?, como ¿quiénes provocan dichas situaciones de riesgo? Al final los problemas los causan los conductores muy mayores que entran a la autopista al revés porque ya no se enteran, los míticos que piensan que después de 5 cubatas aún pilotan perfectamente, los que combaten la frustración de no haber llegado a piloto de fórmula 1 echándose carreras con los colegas, etc. Queremos creer que los humanos somos conductores superiores porque podemos improvisar, pero al final esa capacidad improvisación el 90% de las veces solo nos servirá para salvar nuestro culo de las barbaridades cometidas por otros conductores.

dreierfahrer

#78 es un problema de diseño pq el ser humano no esta preparado para prestar atencion durante horas a la carretera sin interactuar con lo q hace...

Eso es garantia de q se va a aburrir y va a dejar de prestar atencion.

Creo claro q ese sistema no puede ser convalidado para andar en carreteras si es asi.

againandagain

#12 #6 todas las investigaciones de graves errores acaban siempre encontrando un culpable mindundi.

Poignard

#5 quien esté libre de pecado...

Aergon

#2 la tecnologia en la que se invierte millonadas siempre es infalible y si no es que fue un fallo humano ¿no lo sabias?

D

Quien tiene la responsabilidad con los coches autonomos en caso de accidente? Que seguro es el que debe actuar?

M

... pero pensó: que se jodan... (pensamiento de moda)

S

#29 Con niebla espesa si que se puede ir a 30, pero en ese video no se ve niebla. El problema es que el peatón ni lleva chaleco reflectante, ni luces, ni nada... (Vamos, como algunos ciclistas que se creen seres de luz). La conductora no debía que andar despistada, pero creo que en ese caso no hubiera marcado diferencia.

avalancha971

#56 Lo de la mujer efectivamente es de premio Darwin...

Pero una pregunta, ¿el coche era eléctrico?

Igual en la cabeza de la mujer el ruido que generaba el coche tampoco llegaba al umbral como para ser interpretado por su cerebro como un coche.

avalancha971

#72 No lo había pensado, gracias por la información.

kucho

#63 ese tema ya esta mas que hablado. que el peaton lleve o no lleve ropa reflectante es irrelevante. se ve de sobra con las luces del coche. le dio tiempo a atravesar la calle de lado a lado y el coche la cogio con la esquina derecha. con levantar el pie del acelerador habria sido suficiente para no atropellarla, sin tener en cuenta que cualquiera habria frenado o pegado un volantazo.

D

#86 Me pregunto como tomarán decisiones como las de la palanca y el tren.
Yo personalmente no me subiría en un coche que eligiese en esos casos el mal menor y me mate a mi.

S

#87 En el video que yo he visto, aparece de repente de la nada y a mí no me hubiera dado tiempo de reaccionar. Pero si tu dices que ya está más que hablado, pues vale.

kucho

#91 en el video que tu viste no ves la mitad de la imagen porque la luz del coche ciega la camara. aun asi, te da tiempo a ver como la tipa cruza la carretera y casi se salva. no iba corriendo. si hubiera salido de la derecha y recibido el golpe en el mismo sitio probablemente habria sido dificil de evitar, pero tal y como fue, con levantar el pie, frenar o pegar un volantazo habria bastado.

si, se ha hablado largo y tendido en su dia.

Yosemite

#80 En cualquier caso, el tiempo de reacción es decisivo, y trascurre mucho muuucho tiempo desde que la persona se asusta hasta que coloca cada mano y cada pie en el sitio correspondiente. De haber ido alerta, sin duda habría pegado un frenazo. Quizá con las mismas consecuencias, no lo sé, pero el conductor iba tremendamente distraído, es una negligencia.

D

#103 Si hay una accidente prefiero la bici, quédate tú con el avión.

M

#104 Ves... Lo que decía. roll

D

#103 Es cierto que somos malos valorando riesgos, pero también hay que tener en cuenta la sensibilidad que tenemos a los accidentes, por ejemplo, ahora parece que mientras menos machismos hay se genera más intolerancia a cualquier cosa que suene a machismo.

A lo que voy, es a que cuando la seguridad aumente y lo que veamos en las noticias sean muertes porque un coche autónomo toma una decisión mala para el conductor (incluso a pesar de que haya sido generada por la imprudencia de un peatón) entonces eso será lo único que se vea porque la alternativa no existe o no sucede.

G

Me lo creo. Si se cargaron un cohete por una simple sentencia mal puesta, cómo no me voy a creer ésto? Una coma de más, y a tomar por culo todo el invento.

D

#91 Por si acaso, ese efecto es el mismo que pasa cuando intentar tomar fotos con alto contraste entre luces y sombras, al final no puedes tomar la foto porque aunque tus ojos vean perfectamente la foto sale una mierda.

D

#76 Además, aunque esté bien configurada, probablemente la visión que tenga una persona sea mejor que la del vídeo. Quien haya intentado hacer fotos con poca iluminación o con un alto contraste entre luces y sombras sabrá a qué me refiero.

M

#112 Se habló del tema del casco y las bicicletas y es bastante más complejo.

Usar casco reduce el riesgo de accidente, pero hacerlo obligatorio desincentiva el uso de la bicicleta.

La paradoja es que aunque, evidentemente usar casco es lo más seguro, el hecho de que haya muchas bicicletas usando la vía pública hace a los conductores de coches se acostumbren a compartir las calles con bicicletas, sean más cuidadosos y se reduzca el riesgo relativo de accidentes.

D

El problema de estos sistemas es complicado reducir la magnitud de la tasa de fallo, y esta siempre va a ser grande.

D

¿pero tenía que haber frenado antes en el tiempo o en el espacio?

1 2