Hace 7 años | Por Unregistered a es.gizmodo.com
Publicado hace 7 años por Unregistered a es.gizmodo.com

Chritoph von Hugo, responsable de los sistemas de asistencia al conductor de Mercedes-Benz respondió a la famosa pregunta del 'dilema del tranvía': “Todos los coches autónomos de Mercedes-Benz darán prioridad a los pasajeros que llevan a bordo. Si sabes que puedes salvar a una persona, al menos una persona, debes salvar a aquel que viaja en el coche. Si sabes que se puede prevenir alguna muerte la prioridad es la del pasajero”.

Comentarios

Psicobicho

#38 Pues ese día no cogen la bici. Están cazando pokemones y no puedes cambiarlos por niños más inteligentes.

D

#41 Si están cazando pokemones merecen ser atropellados

zenislev_v

#33 toma, te lo has dejado en el comentario.

Es un escenario posible en un universo infinito, aunque realmente improbable.

Para empezar porque la velocidad en un entorno urbano nunca puede ser tal que no permita reacción en un caso semejante o implique riesgo para el pasajero... Mucho menos habrá problemas para una máquina en controlar la situación. Ante un fallo mecánico es posible que sucediera pero estarías en la misma situación con un coche no autónomo.

D

#47 aquí tienes el segundo,por tu referencia encubierta a Luis Barcenas

sotillo

#33 Venga a suponer situaciones:Vas en tu coche con tu familia y se cruzan dos borrachos en bicicleta y no solo borrachos, son malas personas, tan malas que vienen de celebrar un pelotazo urbanístico y uno es el promotor y otro el concejal de urbanismo y tu coche por salvarlos da un volantazo y se mete en la via del AVE que viene a toda ostia pero el coche lo ignora por que han cambiado el horario a última hora y fin

D

#51 Y el conductor del AVE era Albert Einstein.

sotillo

#66 ¿No será Bob Dylan?

Psicobicho

#51 Supongo que cuento con cierta capacidad para posicionarse en diferentes puntos de vista y me equivoco. Da igual si el ejemplo lo protagonizan aliens. Blade runner propone un dilema moral muy sensato. Se trata de pensar porque algo está bien o mal dependiendo de punto de vista que tomes. Si no puedes salir del 'esto está bien porque el que se salva soy yo', pues qué quieres que te diga. Yo ya.

Comentario duplicado por ahí, sorry.

D

#51 si el coche ve a los ciclistas como borrachos y malas personas,habran clonado la mente de un conductor...IA

stigma1987

#4 Discrepo de ese planteamiento, es más, si mercedes hace eso, es que no están siendo coherentes. Entre un accidente con un mercedes a 40Km/h donde la posibilidad de fallecer del pasajero es mínima, o atropellar a una persona, el coche debería saber que el menor daño posible es el pegar volantazo y estampanarse, aunque en si defecto, debería ser como el Tesla y frenar en seco, salvando el accidente, pero claro... Entre TESLA y Mercedes, en sistemas autónomos, hay como años de diferencia.

D

#42 Mejor verlo desde el punto de vista económico.

Si te atropello, te indemnizará mi seguro.

Si te esquivo y me estrello contra una pared, me vas a pagar los 40.000 euros del coche que he destrozado para salvarte la vida?

P.D: A 40 km/h te puedes hacer mucho más daño del que piensas, aunque vayas en un mercedes.

stigma1987

#45 Si antepones el valor económico a una vida humana, pues si, yo no lo veo así.

P.D: Seguro que el daño que te hagas tu a 40Km/h comparado con el del peatón, no es que sea insignificante, es que sería despreciable.

D

#70 es cuestión de evitarse problemas.

Te atropello. Mi seguro se hace responsable: no hay problema.

Te esquivo, me hago daño, pierdo el coche, tú te escaqueas: Muchos problemas.

Yo lo tengo claro.

HyperBlad

#73 Tendrás bastantes menos problemas, económicos y de cualquier tipo (excepto el daño que te puedas hacer tú), estampando el coche contra una pared que atropellando a una persona.

stigma1987

#78 Creo que tiene que estar troleando..no me puedo creer que haya alguien que de verdad prefiera atropellar a una persona, con su consecuente muerte o invalidez, por no dañar un flamante mercedes, seguramente con seguro a todo riesgo que no tendría problema alguno en repararlo...

D

#89 si lo piensas, con los coches autónomos eso del seguro tal y como se entiende ahora no tendrá mucho sentido. Yo diría que si hay serian a todo riesgo para todos.

#92 Si el coche es 100% autónomo el conductor es el propio coche, por lo que la responsabilidad recaería en la empresa constructora.

Otro problema en un coche autónomo es que perfectamente podría ir vacío o con una carga poco importante.

D

#45 los 40000 los tendrá que pagar el seguro,mercedes o el propio conductor...el conductor puede tener la culpa,pero responsabilidad civil...no creo
Si yo voy despistado y cruzó sin mirar,es en el conductor donde recae la última reaponsabilidad.Si esta respetando la velocidad,señales y distancias de seguridad,no puede haber accidente

editado:
perdón no había leído tu comentario #73

Yoryo

#4 Dándole razones a Farruquito & Carromero

ﻞαʋιҽɾαẞ

#48 Aquí se está hablando de inteligencia artificial. No incluyas a esos dos elementos.

A

#4 El problema vendrá cuando tu Mercedes decida estrellarse porque en tu coche vais tres personas, y en el otro Mercedes que viene contra ti a toda pastilla van cuatro borrachos.
El siguiente paso es la comunicación de los coches entre si para saber si en uno van pelirrojos, judíos o gitanos.

shem

#6 Pues esto que para ti es tan obvio te sorprendería para la de gente que no. Hace un tiempo se montó un debate así aquí mismo:
El dilema de si tu coche autónomo debería ponerte en peligro en caso de accidente si así se salvan más vidas

Hace 9 años | Por --144198-- a xataka.com

zenislev_v

#10 Ojo, no que pueda, sino que lo haría... La prioridad de seguridad ya no sería el ocupante sino lo externo.

#5 No es egoísmo es instinto de supervivencia.

#6 No creo que deba ser algo centrado en la marca... El coche autónomo debe de tener claro que los ocupantes son su prioridad no el que está fuera.

D

#6 ¿En qué circunstancia un peatón puede poner en peligro la integridad de un vehículo autónomo? quedan pocas estupideces que soltar en este hilo

D

#5 ¿Al egoísmo?. No se si se podría definir como "egoísmo".

D

#9 El tiempo de reacción, los sensores de los coches autónomos, y su comunicación constante, harán que esas circunstancias no sean posibles.

El único riesgo será con usuarios de la vía que no estén conducidos por IAs interconectadas.

Y aún así será muy complicado que la vida de nadie esté en riesgo.

G

#15 Si analizado los sensores una maquina determina que solo hay una escapatoria, siendo la misma maquina, ambas seleccionaran la misma escapatoria, lo que dará un inminente choque o en el mejor de los casos otra situación de riesgo a analizar y que ambas analizaran con los mismos algoritmos.

Actualmente no hay interconexiones en los coches y dudo que la haya, por que hay riesgo de yo engañe a tu coche modificando los datos que envía mi coche, y si te fias de los datos de mi coche igual acabas en desfiladero con el tuyo.

D

#20 Obvias que hablan entre sí.

1º para que se de esa situación, tienen que alinearse los planetas de una manera prácticamente imposible.
Los vehículos autónomos realizarán conducción preventiva. Por ejemplo, la velocidad y la trayectoria se ajustará a visibilidad, de modo que ningún riesgo probable pueda poner al coche en dicha situación de vida o muerte.

2º Los vehículos se comunicarán entre sí, de modo que la "visibilidad" de cada uno de ellos será más amplia e incluirá las intenciones del resto.

Estamos preocupándonos por tonterías.

¿Eres capaz de proponer un ejemplo de situación en la que se produzca lo que dices, teniendo en cuenta que lo que he dicho?

G

#25

Te repito que los vehiculos no se comunican entre si.

Hay mil situaciones que se puedan dar en el que haya solo una salida, donde el freno para evitar un choque ya no es una opción y solo un volantazo a una dirección es posible.
Dos coches enfrentados en choque frontal con una salida de un volantazo.

Pero la cosa aun puede ser peor, que existan dos salidas, dar un volantazo hacia la izquierda o hacia la derecha, pero que una ofrezca más garantías y fiabilidad que otra según sus logaritmos, y ambos coches al tener el mismo algoritmo elijan la más fiable que seria salir hacia X, y mientras se salvarían los dos del choque frontal si uno pegara volantazo hacia X y otro a Y, por logaritmo ambos eligieron salir por X y el coche se producirá.

w

#34 Mmmm....veo un fallo en tu lógica.
Cambiamos el ejemplo a tu y yo andando de frente uno hacia otro...si los dos tomamos la misma decisión (esquivar por nuestra derecha) , los dos elegimos X ...pero tu vas hacia tu derecha y yo voy hacia tu izquierda...ergo no nos chocamos.

Saludos

G

#53 dije X y evite Izquierda derecha por eso mismo, la X marca el lugar , y vas y metes izquierda y derecha para indicar la X, para mataros lol

#61 Una colisión frontal a X velocidad o una colisión frontal después de una curva sin tiempo a reaccionar.

Los sistemas de detección funcionan a unos 200 metros, si bien los sistemas de detección la latencia es muy poca la posibilidad de frenado es muy muy limitada a X velocidad, por ejemplo tendríamos que calcular si le da tiempo a frenar a dos coches que van a 100km/h cada uno frontalmente en 200 metros. Y no siempre va a existir esa visibilidad frontal.

Cambio de rasante... la detección maxima no tiene por que ser los 200m
Invasión del carril por error humano, reventon, etc, puede ser antes o después de 200m
Después de una curva, donde el sistema no puede detectar antes de los 200 metros y se reduce considerablemente el margen indeferentemente de la velocidad.

D

#65 ¿que parte de "conducción preventiva" no entiendes?

La velocidad debe ajustarse a la velocidad para que con el tiempo de respuesta necesario sea inferior al tiempo de reacción disponible.

G

#67 Eso es posible a un alcance por detrás, aun alcance frontal con un sistema autonomo te repito CABEZON que hasta los 200metros no detecta nada.

O sea si vas a 100km/h hasta que 200 metros el sistema no puede preever una mierda, una vez detecta el coche si ambos vais a 100k/h (lo acabo de ver) la distancia de frenado estimada por ejemplo por BMW (que es lo que vi) es de unos 120 metros (120 por cada coche = 240 metros) ya no hay tiempo a evitar con seguridad el choque frenando ambos o reduciendo la velocidad "preventivamente", solo queda corregir la trazada para evitar el choque.

Y te repito que no siempre hay forma de que sepa antes de los 200 metros que va a ver un choque frontal, lo que hace que la posibilidad de adecuar preventivamente la velocidad ante un vehículo frontal no funcione en muchos casos.

¿no es tan dificil eh?

HyperBlad

#69 Creo que lo que intenta decir es que, si tiene un alcance de 200 metros y esa visibilidad no garantiza que pueda frenar para evitar una colisión a 100km/h... no irá a 100km/h. Cosa que, de hecho, es lo que estamos obligados a hacer los conductores: si no eres capaz de frenar en lo que abarca tu campo de visión, es que vas demasiado rápido.

G

#83 Y yo lo que intento decir es que hasta que detecta en 200 metros que viene un coche a 100km no puedes prevenir eso y bajar tu 100km/h. Y cuando lo detecta un choque frontal es inevitable el volantazo, si se dan esas velocidad o superiores (imaganita ambos a 120km/h) el frenar o reducir ambos para prevenir ya no es opción.

La posibilidad o prevención de un choque frontal no entran las normas comunes de prevención o visión, por que si no tendrías que pararte o reducir tu velocidad cada vez que viene alguien por el carril contrarío en previsión de que invada tu carril.

Por eso son los más peligrosos, mortales y inevitables.

Vas correctamente a 100km/h con la carretera despejada y en la siguiente curva se sale uno a 100m de ti invadiendo tu carril, eso no es previsible de ninguna manera, y la unica opción es el volantazo.

La única forma de evitar, prevenir o anticiparte a un choque frontal suele ser no andar en coche.

D

#34 no se comunican hoy.

De todos modos, con una condición preventiva, la única posibilidad de que se vean inmersos en una situación así es un evento completamente inesperado como una roca que cae en la carretera...


No pasa muy amenudo.

Tú no eres una inteligencia artificial, pero a qué cuando pasas al lado de un autobús escolar del cual se están bajando niños, reduces la velocidad por si alguno que no estás viendo porque lo tapa el autobus le da por cruzar corriendo??

Casi nunca tendrás que dar un frenazo no un volantazo si conduces con cabeza.

D

#20 Sería como jugar a un MMO sin servidor central. Aunque algo parecido a eso también podría existir en un futuro.

G

#27 Sin servidor central cualquiera puedes engañar al juego.

Yoryo

#9 La decisión a ese dilema ya esta instalada en el firmware... el mas caro vive

gonas

¿Realmente van a tener los coches automáticos poder de decisión para estas cosas o es puro marketing?

averageUser

#12 Para que un coche sea verdaderamente autónomo ha de tener la capacidad de reconocer a transeúntes y otros vehículos. Si tiene esa capacidad en algún momento se encontrará en la posición de "decidir".

Robus

#12 uy! Hay muchos estudios sobre el tema, pero si el coche es lo suficientemente "inteligente" para conducir solo debe poder detectar, por ejemplo, un grupo de ciclistas y saber que si continua a su velocidad y rumbo actual se los va a llevar por delante.

Entonces la cosa es simple, reducir la velocidad y cambiar de rumbo... pero ¿que pasa si la reducción de velocidad no es suficiente para evitar la colisión y el único cambio de rumbo posible es salir de la carretera?

Aquí viene donde la programación debe decidir si evitar el atropello de los ciclistas o evitar salir de la carretera y asegurar lo mejor para el conductor del vehículo (que quizas se mataría o resultaría herido al chocar contra un obstaculo o caer por un terraplen).

Este señor está indicando que los Mercedes preferirán atropellar a los ciclistas que poner en riesgo al pasajero de su vehiculo.

Evidentemente, ya que nadie comprará un coche que pueda decidir que la vida de un extraño es más importante que la suya y la de su familia.

redscare

#12 Obviamente si. Estamos hablando de coches 100% autónomos, que en el futuro no tendrán volante.

r

Si el coche autónomo es 100x100 fiable y no comete imprudencias. En caso de que haya un accidente y tenga que elegir debería ser el que muera el imprudente. No voy a morir yo por la culpa de otro. Es decir si hay dos peatones cruzando mal y para salvarlos mi coche tiene que tomar una acción evasiva tirandose por un precipicio esta claro quien debe morir

nospotfer

Ahora imaginaros terroristas con acceso a modificar el firmware de esos coches de forma masiva y sincronizada.

sorrillo

#77 Claro que nadie espera morir al intentar evitar golpear a un perro, lo que esperan es que tanto ellos como el perro salgan ilesos y asumen un riesgo al hacer la maniobra.

Los vehículos autónomos no actuarán en base a certidumbre al igual que no actuamos nosotros en base a certidumbre, actuarán en base a riesgos y probabilidades.

¿Si el ser humano decide asumir el riesgo de salvar la vida al perro por que motivo no debería hacerlo el vehículo en nuestro nombre?

Voy más allá, si la lógica de conducción fuera deterministica y exactamente la misma para todos los vehículos el consumidor no tendría ningún sentimiento de responsabilidad respecto a lo que ocurriera en el accidente, si por contra esa lógica se usase a nivel comercial y el consumidor comprase un coche que se promociona con unos criterios u otros tras el accidente bien podría sentirse responsable de lo ocurrido en base a su decisión de compra.

Hay ciudadanos que han matado en un accidente a familias enteras con niños pequeños y aunque sepan objetivamente que ellos cumplían las normas y esa familia estaba cometiendo una infracción y una imprudencia los remordimientos de conciencia suelen estar ahí igualmente. El ser humano no suele ser suficientemente frío y calculador como para no sentirse culpable ante esos casos (de hecho cuando ocurre suele calificarse de enfermedad mental).

Si cuando adquirimos un vehículo lo hacemos tomando decisiones sobre cómo conduce por nosotros eso mismo puede seguir ocurriendo, a pesar que el vehículo haga lo "correcto" si hemos comprado un coche que mata a una familia entera con niños pequeños priorizando nuestra vida sobre la de ellos, sin asumir riesgos para intentar salvarlos a todos, entonces el sentimiento de culpabilidad aparecerá en muchos casos.

Añado que la conducción deterministica parece una utopía y todo apunta al uso de redes neuronales y aprendizaje, donde es mucho más complejo, a veces imposible, determinar el motivo por el que se ha tomado la decisión final.

Azucena1980

Obviamente, el cliente.

No van a dejar morir al cliente y salvar a alguien que seguramente no tenga para pagarse un Mercedes.

Catacroc

Deberia de poder configurarse en el modo de conduccion, como el sport o el eco, que se configure en "mi seguridad primero" o "respetemos al desconocido".

D

Que raro que venga de Alemania el NacionalAutomovilismo, ¡los nuestros primero! El siguiente paso será decidir entre atropellar a un perro o a un judío.

D

#14 pobre perro

D

Los suicidas que viajan por el carril contrario aplauden esta medida.

D

#37 Es verdad tienes razon, si de verdad son autonomos no pueden ser conducidos, por eso Tesla recalca que su coche no es autonomo sino que cuenta con un sistema de ayuda a la conduccion y se me habia olvidado.

Dene

no se yo por qué, pero me da que la industria del automovil empieza a necesitar mas filosofos y humanistas que ingenieros...

D

#8 Un perro no es una arma y los peatónes no son bultos que te molestan al conducir...

y

#93 he dicho yo lo contrario?

D

#96 me lo había parecido,disculpa.
Hay mucha gente que lo piensa

YisasL

#7 Deberías replantearte la pregunta. ¿Cuántos clientes van a comprar un coche que puede matarlos? Seguro que eres el primero en evitarlo.

D

#10 veo que el que pueda matar a otras personas no te plantea absolutamente ningún dilema.

Y que yo sepa cualquier coche que te compres hoy en día puede matarte.

sorrillo

Era previsible que las empresas tomasen ese enfoque comercial.

Si la sociedad no está en general de acuerdo con ese enfoque se puede regular por ley un enfoque distinto.

s

#1 Enfoque comercial? Yo no quiero que mi propiedad me sacrifique para que un político se lleve un puñado de votos.

sorrillo

#72 No son pocos los conductores que para evitar atropellar a un perro o a un gato han acabado perdiendo la vida con ello.

¿Si el ser humano en ocasiones toma esas decisiones por que no iba a tomarlas también un vehículo que conduce en nombre de las personas?

s

#76 Porque es un reflejo y nadie espera morir al intentar evitar golpear a un perro.

De verdad no sé de dónde habéis salido.

redscare

#77 La única vez que me ha pasado eso (carretera secundaria perdida de la mano de dios), agarre bien fuerte el volante y me prepare para llevarme al perro por delante. No voy a dar un volantazo y arriesgar mi vida y la del pasajero que iba conmigo por un perro. De todas formas fue final feliz, el bicho se aparto a tiempo.

D

Los comentarios de este hilo denotan una brutal ignornacia sobre el funcionamiento del coche autónomo

Walldrop

Claro! El dilema del tranvía cambia mucho cuando se pregunta a una empresa en vez de a una persona que era como lo había planteado siempre hasta ahora! Hummmmm

c

Yo no veo dilema ninguno. La conducción autónoma sustituye al conductor, no a un Dios omnipresente u omnisciente. Por lo tanto debe tomar la decisión que tomaría un conductor en cada situación.

Jokessoℝ

Mi coche matará a quien yo le mande, o no me lo compro

Yoryo

Voy a ir ahorrando para un tanque

sinap

Unos coches muy Alemanes.

Stash

10 Randomize(100)
20 End

Solucionado.

sorrillo

#81 Si existen en el mercado otros modelos con criterios distintos y tu decides adquirir y financiar ese tipo de coches entonces tienes una parte de co-responsabilidad.

D

Yo creo que lo suyo sería dejarlo como un coche normal.

A elección del usuario.

powernergia

Esto es una de esas cosas que se llaman "problemas del primer mundo".
Con lo lejos que están los coches autónomos de verdad, como para preocuparse por estas cosas, algo así como preocuparnos por como ordenar el aparcamiento de naves espaciales en Marte.

a

Está claro que dependerá del poder adquisitivo de la persona. Han de proteger su negocio dirigido a un determinado status social.

D

A los que no les parece bien serían los primeros en morir por creer que el ser humano es luz y bondad y que no hay gente que forzaría situaciones de accidente en la que el sistema decidiría matar al inocente sólo por diversión

Marcelo987

Este es el tipo de cosa que deberia ser regulado por la UE u organismo internacional. Leyes del Comportamiento de Vehiculos Autonomos. Las mismas para todos, indistinto el precio y/o marca del coche.

kucho

en caso de accidente, el coche toma la decision que tomaria cualquier conductor con sus hijos de pasajeros.

D

¿Y si cae un árbol encima de un peatón y el coche tiene la posibilidad de salvarlo poniéndose debajo del árbol (saltándose las normas de tráfico)?

xkill

#81 Me da a mi que el fabricante discrepará y te dirá que tú eres el responsable de activar el modo automático.

xkill

¡Aunque te puedas convertir en un asesino!

Ejemplo:
Vas por la calle en ciudad, con un solo carril a 50km/h, de repente aparece un kamikaze en sentido contrario a más de 50km/h. A tu izquierda, por ejemplo arboles u otros coches en sentido contrario a tu marcha, a tu derecha una calle llena de gente, es la salida de un colegio. ¿Elección del coche? Según Mercedes, ir a la izquierda y pillar a cuantos peatones sea necesario con tal de salir con vida. ¿Cuál sería la decision correcta?

D

#26 Quien sabe si los peatones te ven venir y se apartan.

xkill

#44 ¿Quién sabe si te estrellas de frente, salta el airbag y no te matas?

redscare

#26 Si tu no conduces, el asesino sera el fabricante del coche, no tu.

D

Madre mía, mira que leo meneame a menudo pero es el titular más sensacionalista que veo en semanas. Se libra del negativo porque es el mismo del artículo original.

r

o sea. robo un camión de basura. entro en dirección contraria por la autopista y evidentemente tengo más probabilidades de sobrevivir. basura 100. mercedes zero. en fin.

Psicobicho

Supongo que cuento con cierta capacidad para posicionarse en diferentes puntos de vista y me equivoco. Da igual si el ejemplo lo protagonizan aliens. Blade runner propone un dilema moral muy sensato. Se trata de pensar porque algo está bien o mal dependiendo de punto de vista que tomes. Si no puedes salir del 'esto está bien porque el que se salva soy yo', pues qué quieres que te diga. Yo ya.

D

Estáis divagando sobre cosas que no van a suceder, los fabricantes no van a decidir cómo va a reaccionar su vehículo, al final se legislará cómo debe "decidir" el vehículo, seguramente con un sistema de decisión mediante que calcule el menor riesgo posible para personas, más o menos como los usados en juegos como el ajedrez.

D

Situación hipotética: un grupo de escolares cruzando una calle y un coche con una persona al volante. Choque inminente sin posibilidad de frenar. Opciones: Atropellar a los crios o desviarse y caer a un barranco de 100 metros de altura.

Si yo soy el conductor, pues lo siento, no soy un héroe, frenaría por mucho que no hubiese tiempo suficiente y que tengan suerte los crios. Lo de tirarme por el barranco ni se me pasaría por la cabeza por mucho que el remordimiento me perseguiese el resto de mi vida.

redscare

#74 Para empezar el coche autonomo no va a ir a 100 por hora en ciudad. Y tendra su radar para detectar a los chavales a cientos de metros incluso de noche. Mejor y mas rapido que un humano. Si el coche autonomo los detecta tarde un humano se los llevaria por delante antes de poder dar el volantazo. Y si la situacion es tal que incluso el coche autonomo los detecta tan tarde que las unicas opciones son tirarte por un barranco o llevartelos por delante... la pregunta es que cojones hacen esos escolares en mitad de una carretera de montaña en una curva cerrada y en mitad de una ventisca lol

D

#82 Sí, en el fondo el ejemplo lo que viene a recalcar es que el hecho de que la IA de un coche anteponga la seguridad de la mayoría antes que la de su dueño hará que al dueño no le haga ninguna gracia y se compre otro coche sin esa IA. Preservación del individuo frente al de la especie. Ilógico pero totalmente comprensible.

ipanies

Que se den por jodidos los judío si Mercedes decide entre un ario y un judío El único consuelo es que a lo mejor entre un palestino y un judío el coche los mata a los dos lol

1 2