En esta «máquina» juzgarás lo que está bien y lo que está mal. Jugarás a ser Dios. Se llama Moral Machine y es una web con una serie de ejercicios diseñados por expertos del M.I.T. para ver qué opina la gente normal y corriente acerca de cómo deberían comportarse los coches autónomos en situaciones de vida o muerte.
#14:
#11 Ahora se fabrican coches no autónomos que provocan la muerte en España de más de 1000 personas al año.
En un hipotético futuro en el que todos los coches sean autónomos y vayan intereconectados entre ellos, seguramente esta cifra de muertes se reducirá hasta ser casi nula. Lo gilipollas sería no seguir por esta línea de desarrollo.
#31:
#4 A mí no me cargan los resultados. Pero, en general, me baso en las siguientes reglas:
1. Si hay que elegir entre matar personas o animales, mueren los animales.
2. Si tienen que morir personas (no aplica 1.), salvo a quienes cumplen las reglas.
3. Cuando no aplican 1. o 2., salvo al mayor número de personas.
4. Cuando no aplican 1. 2. o 3., evito cambiar de dirección.
5. Me da igual si son hombres, mujeres, ricos, sin techo o acaban de robar un banco.
#3:
¿Juzgamiento? ¿eso de juicio dónde quedó? joder, es que pega un tortazo al alma que no veas.
#113:
#31 Mis preferencias son, más o menos por orden:
-Entre personas o animales, mueren animales.
-Entre los que cumplen la ley y los que no, mueren los que no, no importa la cantidad.
-Entre los del coche y peatones cruzando correctamente, mueren los del coche.
-Cuando hay igualdad en los casos entre número de víctimas, me da igual, entiendo que no hay gente de primera o de segunda.
-Entre niños y mayores, mueren los mayores.
En cualquier caso, no me fijo en clase socio-económica.
#18:
#6 No le veo mucho sentido la aplicación de 'valor social' cuando la especie como tal no está en peligro de extinción.
Primera y única norma: Cumplimiento de las normas de circulación.
Todo aquel que las quebrante (voluntaria o involuntariamente) es quien paga el pato, en el fondo es lo mas justo.
#54:
#6 Yo creo que lo más lógico es que los coche autónomos se riguiesen siempre por las normas de tráfico de manera CERRADA. De esta forma los accidentes siempre serían una consecuencia lógica. Si una persona cruza en rojo y es atropellada por un coche autónomo, siempre habría una "causa -> efecto". Por le contrario si un coche autónomo toma la decisión de dar un volantazo y atropellar a una persona que cruza en verde, se generaría una discusión en la que el culpable es el coche.
#114:
#79 Me hace gracia que el puto coche pueda juzgar quién es un criminal o no con solo verlo, pero no pueda frenar a tiempo
#11:
#7 Eso, y no fabricar máquinas que nos conduzcan a valorar las vidas humanas como si fueran meros elementos de una operación matemática.
El día que un coche automático mate al padre de alguien, siempre podrán decir: "ah, pero es que tú en la página de juicios morales votaste que era mejor atropellar al viejo y que se salvaran los dos jóvenes que ocupaban el auto".
Estamos gilipollas.
#38:
#37 El tiempo te quitará la razón: dentro de unos años, cuando se compruebe que es infinitamente más seguro que sea una máquina quién tome el control del vehículo, lo más probable es que se prohíba conducir a los humanos.
#51:
#41 "una máquina construida por frikis"
Este es el nivel, en fin..
Salvar más gente debe primar sobre salvar menos (aunque tu coche esté dispuesto a matarte por ello).
No obstante lo anterior, en caso de empate, debe proteger a los pasajeros.
Cumplir las normas debe importar mucho (si cruzas en rojo, asumes el riesgo)
Si interviniendo no hay cambio, mejor no intervenir.
Debe haber una ligera preferencia de género a favor de mujeres que puedan tener descendencia en el futuro.
Los humanos valen más que las mascotas.
Los más jóvenes valen más que los ancianos.
El estado físico no supone diferencia suficiente para condenar (debería juzgarse intelectualmente, pero no se puede determinar a priori).
Los más valiosos socialmente tienen preferencia.
Creo, de todos modos, que lo que tendrán más en cuenta los fabricantes de vehículos serán los dos primeros aspectos (y posiblemente prefieran salvar al cliente que les ha comprado el coche que a otros)
#27:
Lo he hecho varias veces solo por atropellar perros y gatos.
#19:
Muy sencillo: salvar siempre la vida de aquellos que vayan en el coche, cuantos más mejor. A ver quién se montaría en un coche de decidiera que no mereces vivir más que el que está fuera de él.
Aunque, por otra parte, molaría que el coche detectase que eres un pederasta y se estrellase a 180 contra una obra de Calatrava.
Yo me considero de la opción de no hacer nada. Al contrario de los utilitaristas que consideran que los intereses de unos tienen mas valor que los de otros.
#46:
no es posible matarlos a todos?, aunque haya que dar dos viajes?
#11 Ahora se fabrican coches no autónomos que provocan la muerte en España de más de 1000 personas al año.
En un hipotético futuro en el que todos los coches sean autónomos y vayan intereconectados entre ellos, seguramente esta cifra de muertes se reducirá hasta ser casi nula. Lo gilipollas sería no seguir por esta línea de desarrollo.
#4 A mí no me cargan los resultados. Pero, en general, me baso en las siguientes reglas:
1. Si hay que elegir entre matar personas o animales, mueren los animales.
2. Si tienen que morir personas (no aplica 1.), salvo a quienes cumplen las reglas.
3. Cuando no aplican 1. o 2., salvo al mayor número de personas.
4. Cuando no aplican 1. 2. o 3., evito cambiar de dirección.
5. Me da igual si son hombres, mujeres, ricos, sin techo o acaban de robar un banco.
#6 No le veo mucho sentido la aplicación de 'valor social' cuando la especie como tal no está en peligro de extinción.
Primera y única norma: Cumplimiento de las normas de circulación.
Todo aquel que las quebrante (voluntaria o involuntariamente) es quien paga el pato, en el fondo es lo mas justo.
#7 Eso, y no fabricar máquinas que nos conduzcan a valorar las vidas humanas como si fueran meros elementos de una operación matemática.
El día que un coche automático mate al padre de alguien, siempre podrán decir: "ah, pero es que tú en la página de juicios morales votaste que era mejor atropellar al viejo y que se salvaran los dos jóvenes que ocupaban el auto".
-Entre personas o animales, mueren animales.
-Entre los que cumplen la ley y los que no, mueren los que no, no importa la cantidad.
-Entre los del coche y peatones cruzando correctamente, mueren los del coche.
-Cuando hay igualdad en los casos entre número de víctimas, me da igual, entiendo que no hay gente de primera o de segunda.
-Entre niños y mayores, mueren los mayores.
En cualquier caso, no me fijo en clase socio-económica.
#6 Yo creo que lo más lógico es que los coche autónomos se riguiesen siempre por las normas de tráfico de manera CERRADA. De esta forma los accidentes siempre serían una consecuencia lógica. Si una persona cruza en rojo y es atropellada por un coche autónomo, siempre habría una "causa -> efecto". Por le contrario si un coche autónomo toma la decisión de dar un volantazo y atropellar a una persona que cruza en verde, se generaría una discusión en la que el culpable es el coche.
Yo me considero de la opción de no hacer nada. Al contrario de los utilitaristas que consideran que los intereses de unos tienen mas valor que los de otros.
Salvar más gente debe primar sobre salvar menos (aunque tu coche esté dispuesto a matarte por ello).
No obstante lo anterior, en caso de empate, debe proteger a los pasajeros.
Cumplir las normas debe importar mucho (si cruzas en rojo, asumes el riesgo)
Si interviniendo no hay cambio, mejor no intervenir.
Debe haber una ligera preferencia de género a favor de mujeres que puedan tener descendencia en el futuro.
Los humanos valen más que las mascotas.
Los más jóvenes valen más que los ancianos.
El estado físico no supone diferencia suficiente para condenar (debería juzgarse intelectualmente, pero no se puede determinar a priori).
Los más valiosos socialmente tienen preferencia.
Creo, de todos modos, que lo que tendrán más en cuenta los fabricantes de vehículos serán los dos primeros aspectos (y posiblemente prefieran salvar al cliente que les ha comprado el coche que a otros)
#37 El tiempo te quitará la razón: dentro de unos años, cuando se compruebe que es infinitamente más seguro que sea una máquina quién tome el control del vehículo, lo más probable es que se prohíba conducir a los humanos.
Muy sencillo: salvar siempre la vida de aquellos que vayan en el coche, cuantos más mejor. A ver quién se montaría en un coche de decidiera que no mereces vivir más que el que está fuera de él.
Aunque, por otra parte, molaría que el coche detectase que eres un pederasta y se estrellase a 180 contra una obra de Calatrava.
#32"Si tengo que ajustarme a las reglas estrictas del dilema entonces lo que yo haría es no desviar el tren. ¿Por qué? Porque si lo desvío seré responsable de haber asesinado a una persona inocente que de no ser por mi acción seguiría viva. En cambio, si el tren sigue su curso el responsable del asesinato de cinco personas será solamente aquél que ha provocado que ocurra ese accidente. "
Es tan infantil que asusta. Menos mal que el autor está escribiendo un blog de filosofía y no llevando el presupuesto de sanidad.
Volviéndolo a leer, no es infantil. Es irresponsable. Si le explicas este problema a un niño pequeño aunque sea con juguetes no es capaz de pensar semejante truño.
Dilemas que suponen omnisciencia. Ese sí que es el verdadero dilema.
Reducir (burdo reduccionismo) un escenario completo a solo cuatro variables está muy bien como ejercicio hipotético, pero ocurren dos cosas: o no hay dilema, es decir, el balance de positivos y negativos está decantado, con lo cual la solución es inmediata (el moral escogerá el efecto positivo, el inmoral el negativo); o lo hay, y en todo caso el dilema es irresoluble, ante lo cual podríamos dejarlo al azar o tanto daría decantarse por una opción como la otra. Pero este último caso, sin embargo nos deja un mal sabor de boca en la intuición y el sentido común: pues sabemos que es imposible el 50-50, sabemos que no existen situaciones simétricas al 100% por la propia contingencia del mundo. Así, por ejemplo, se nos ocurren justificaciones externas al dilema propuesto para decidir una opción sobre otra, como puedan ser aducir que el propietario o propietarios del coche tienen cierta prioridad, argüir que no caben dilemas sino trilemas y plurilemas que una máquina no pudo contemplar, considerar que los que van a ser atropellados siempre tienen grados de libertad en sus movimientos, etc; en definitiva, que la realidad es mucho más variable que un modelo y que precisamente no vaya a ser lo inmoral esa reducción.
En mi fría opinión, las partes no sujetas a inteligencia artificial que estén involucradas tienen que seguir ciertas normas, como respetar los pasos de peatones o en caso de un vehículo, respetar las normas de tráfico.
En caso de que estos sujetos incumplan las normas, el vehículo con inteligencia artificial debería salvar al ocupante y en caso contrario, en el que la IA haya sido la culpable, lamentablemente el sacrificado debería ser el peatón o conductor del vehículo contrario.
Eso evitaría por una parte que un peatón irresponsable (o conductor de un vehículo sin IA) mate a un pasajero inocente y fomenta que todos sean conscientes de su propia responsabilidad.
#38 Además de otras ventajas. Por ejemplo con la conducción autónoma, podremos circular a mayor velocidad, ya que el tiempo de reacción del vehículo será muy superior, incluyendo las reacciones ante un imprevisto.
- No existirán atascos ya que se adaptará la velocidad de circulación a la de la vía.
- No necesitaremos comprar coche, ya que podremos hacer uso de un autónomo para momentos puntuales, que te recogerá a la hora prevista y te dejará en tu destino, olvidándote de parking, mantenimiento, etc
#51 Esos son los mismos que se flipan con el GPS, sin darse cuenta que es creación de 4 frikis, lanzados al espacio por otros 4 frikis, y que programan la desviación por la propia gravedad terrestre 4 frikis... el resto son HOMBRES DE VERDAD como él.
Le ha faltado golpearse con los puños en el pecho.
Interesante la web. ¿Cómo dicen que distingue el coche autónomo que los que cruzan por el paso de cebra (en rojo para peatones) es un ladrón de bancos y dos personas sin hogar? ¿En base a que uno lleva un pasamontañas y los otros dos visten descuidadamente?
#6 "Salvar más gente debe primar sobre salvar menos (aunque tu coche esté dispuesto a matarte por ello)."
Y así es como tu empresa se arruina; en cuanto la gente sepa que "tu coche" puede poner la seguridad de otra persona por delante de la tuya, no lo va a comprar nadie.
#65 Realmente no debería, se supone que las indemnizaciones es una compensación por el daño causado. Que haya menos accidentados no significa que el daño por accidentado sea mayor.
Lo lógico es que se redujeran las primas de los seguros (lo lógico).
#31 1, 2 y 3 igual que tú(las embarazadas las cuento como dos),
4. Mato a los del coche antes que a peatones inocentes.
5. Salvo Niños>Mujeres>Hombres>Ancianos.
Dicho esto, si el coche puede distinguir todo eso antes de tomar una decisión, igual debería aprovechar esa percepción para frenar antes y/o correr menos
#58 Sí pero ahí te extralimitas de lo que es el juego en sí. Como dicen en el juego sólo existe blanco o negro. Se antipaca que sí o sí van a morir los ocupantes si se dan con el hormigón o sí o sí van a morir los peatones.
También te digo que el juego en sí se extralimita a su vez.
Por ejemplo: elegir seguir recto y cargarme a 5 tíos o torcer y cargarme a 5 tías, o todo lo contrario. Yo elegiría seguir recto (es decir no actuar si no es para reducir un riesgo o sus consecuencias) pero la estadística dirá que lo he hecho por preferencia sexista, "queriendo ver" lo que no es.
Yo en casi todos los casos he seleccionado que el coche sea quien sufra las consecuencias. Más que nada porque aunque ahí se planteé que mueren todos, sabemos que hay muchísimas más probabilidades de sobrevivir dentro del vehículo que fuera.
Personalmente.
Mato más mascotas.
Salvo más viejos.
Salvo mayor número.
No hago cambios de dirección.
Obedezco las reglas.
Salvo más hombres.
Salvo personas con menor valor social.
El problema que le veo a los test es que el concepto moralidad es muy distinto por sociedades a parte de simples individuos, es decir un, una sociedad musulmana puede ver mucho mejor matar mujeres que clérigos, sin embargo en otra sociedad más occidenta, puede que esas cosas puestas en una balanza funcionen de otra manera, y todo esto mucho más allá de decisiones personales de cada uno.
Conclusión, esos determinismos morales deberían adecuarse a cada sociedad para que sea ella misma la que determine que es lo mejor para cada uno, y no que sea desde la moralidad de un Instituto Estadounidense quien me pregunte cuanto quiero a las mascotas.
Yo he decido siempre que siga recto en vez de cambiar de carril y poniendo siempre por encima la vida de los ocupantes. Estamos hablando de un coche de conducción automática y la moralidad es irrelevante e imposible de aplicar para el sistema que lleve el coche*. Con lo de los semáforos también he dudado, ¿es prudente cruzar sin ver si todos los coches están detenidos y si no viene nadie embalado? Yo, por ejemplo, siempre me espero a que los coches paren, no a que el semáforo esté en verde. ¿Podría acceder el coche a esta información?
* Imposible no hay nada, cada persona podría llevar un chip de identificación que diese esta información al coche y este actuase en consecuencia aplicando los valores morales "estandar", por ejemplo.
#26 Si hay riesgo de atropello, está demostrado que lo mejor es frenar y no cambiar de dirección. Los peatones reaccionan apartandose de la trayectoria del coche, si cambias de dirección tendrás más posibilidades de atropello e incluso atropellar a otros peatones.
Pero es otra interpretación mas en la que no hay un criterio moral por medio, sino que es mas bien práctico.
Joer, como se guíen por las decisiones tomadas por la web estamos apañados jajaj, he hecho un carmageddon para ver que pasaba y al final no me muestra correctamente los resultados
#75 ¿Una máquina debe proteger a su dueño antes que cumplir la legalidad vigente?
Pues es posible que el dueño no esté muy de acuerdo con eso, ya que supone que será responsable de acciones ilegales cometidas a sabiendas. Vamos, que estarías comprando una máquina de delinquir.
* Antepongo la vida de los humanos a la de otros animales.
* Siempre intento salvar a los ocupantes humanos. Si un coche puede llegar a preferir matar al ocupante antes que a otro, no se venderían tanto, y se supone que estos coches serán mucho más seguros que los manuales, por lo que interesa que se extiendan al máximo.
* Antepongo la vida de los que cumplen las normas a la de los que no la cumplen.
#104 Si es un paso de peatones debería ser la inteligencia del bot la que detectase presencia de peatones y, al menos, reducir la velocidad por prevención. Si no, qué manera habría de cruzar con seguiridad en un paso de peatones? Esperar a que no viniese ningún coche? No es ésa la finalidad de un paso de peatones.
#6 De acuerdo en todas, salvo en esta: Debe haber una ligera preferencia de género a favor de mujeres que puedan tener descendencia en el futuro.
¿Por? Yo también puedo tener descendencia y en principio mi material genético es tan bueno como el de cualquier otro.
#4 Yo el mayor problema que veo es que solo tenga dos opciones: MATAR A o MATAR B. Me falta la opción de parar y esperar que los que están cruzando cruce, y luego volver a arrancar.
Llamadme loco, pero me parece la opción más "inteligente" si lo que se pretende es emular a un buen conductor, que por mucho que el semáforo de peatones estuviese en rojo y se cague en sus muertos, pararía y luego se volvería a cargar en sus muertos de nuevo.
Yo pienso que la probabilidad de sobrevivir es mas alta para quién está dentro del coche en caso de un atropello, por lo que la opción sería siempre estrellar el coche. A 30 km/h ya te pueden matar si te atropellan, en cambio, a 30 Km/h tu probabilidad de supervivencia en caso de colisión si eres el conductor es muy alta. Con lo que la opción es bastante clara. Es un problema de probabilidades, siempre que se plantee una situación normal: por definición un coche autónomo no iría a 120Km/h por una vía en la que hay un paso de cebra. Reduciría la velocidad antes.
#34 El dilema del tranvía es un problema de juguete usado para investigar situaciones más complejas del mundo real. En la situación de juguete parece que lo obvio sea tirar de la palanca.
El problema con tirar de la palanca en el dilema del tranvía y hacer matemáticas con vidas en general es que abre la puerta a situaciones en las que matar a 1 inocente y usar sus órganos para salvar 5 vidas es una decisión moral. A la mayoría de gente no le gustaría vivir en una sociedad así.
Deberían ser configurables, siempre dentro de lo que es legal. Y que cada cual aplique la moral que quiera.
En mi caso, yo considero que mi vida vale más que la de cualquier otra persona o grupo, independientemente de sexo o edad. Por lo tanto, yo quisiera que mi vehículo no actuase en mi contra en ningún caso si estoy conduciendo correctamente, que es lo que haría si fuese yo el conductor, y que no me causaría problemas legales.
Quien considere que su vida vale menos, pues que reduzca su valor en consecuencia.
Cuando hay un accidente de tráfico con heridos o muertos, basta con mirar la tabla. Parece un poco frío, pero es muy práctico, sobretodo para las aseguradoras.
#92 Pues yo solo me he fijado en quién sigue o no las normas de circulación. Luego me ha salido que si tengo preferencia por los perros, las viejas y los ladrones antes que los jóvenes y deportistas,etc... cuando simplemente ni me he fijado en eso. Creo que hay que seguir las normas y punto. Si te tiras a las vías de un tranvía justo cuando está pasando ya sabes lo que hay. No hay dilema.
Otra cosa es lo que yo pudiera hacer si tuviera el mando, entonces si me supondría un dilema, pero un coche autónomo debe ser programado dando máxima preferencia a las normas de circulación. Sino sería un kaos, la mejor opción es la que se pueda predecir (seguir recto y no saltarse ninguna norma de circulación).
#11 ¿Y si tú te encuentras en una situación así, qué haces?
Bueno, supongo que ni lo podrías pensar porque no puedes reaccionar de forma razonable en una situación así y en tan poco tiempo, dando un volantazo y ocurriendo lo que sea que ocurra, que será peor (lo más probable de lejos) o, como mucho, igual de malo a lo que habría ocurrido con un diabólico coche que valora las vidas humanas como si fueran meros elementos de una operación matemática.
#166 Ya, pero como vas a plantearle a una maqunina que mire a ver si puede matar al padre en lugar de a esa persona... A parte de que deberias preguntarle al padre si prefiere morir él a que lo haga su hijo. Yo sigo en mis trece, el que pase por donde no esta permitido antes de que el que pase por donde esta permitido.
#49 Eso es lo que me ha salido a mí. Salvo perros y elimino mujeres que además llevan maletín médico. Me pregunto si debería entregarme en la comisaría más cercana, o al menos no intentar ligar con enfermeras.
Varias suposiciones:
1. Ocupantes vs terceros.
¿quién va a comprar un coche que no va a dudar en matar al dueño/usuario en determinadas situaciones?
Eso implica que el fabricante va a vender menos coches y va a ganar menos euros. Matar a los terceros.
2. Jóvenes vs Viejos:
Los jóvenes aún tienen tiempo de producir y pagar impuestos. Los viejos solo hacen uso de los servicios (sanidad) y no aportan a la hucha común, solo cobrán. Interesa acabar con los viejos.
3. Personas vs Animales:
Las personas tienen alguna camiseta de algun partido politico rival, grupo de música, llevan calcetines con sandalias, gorras "altas". Pues en ese caso, salvamos a los animales...
4. Cara o cruz.
Nos la jugamos con una moneda al aire.
#31 Muy parecido pero con una excepción:
Si hay que elegir entre una persona que cruza cuando no es debido y otra que es un criminal (recordando como primisa es un criminal, no un presunto criminal) me cargo al criminal. ¿Razón? Que ambos están incumpliendo la ley y puestos a elegir me cargo al que las incumple de una forma más flagrante y dañina para la sociedad. El problema moral aquí es que elevas la categoría del coche a la de un juez que sentencia a muerte, tema jodido lo mires por donde lo mires.
Tengo tanta empatía que no he podido terminar el test. Lo he dejado en el paso 4 ó 5. No soy capaz de decidir. Todas me parecen malas. Mierda, me habéis arruinado el día.
#35 Ya te digo... ya lo puse hace poco, lo absurdo que son estos rollos de las "decisiones morales" que va a tomar un coche autónomo. Como si fuese una mente inteligente capaz de distinguir tanto... habrá unas heurísticas, verá obstáculos en movimiento o parados, detectará las líneas de la carretera y la señalización.
¿Atropellar a una vieja senil o a un niño? ¿Girar para estrellarse contra un muro porque hay un peatón?
Escenarios absurdos motivados por películas de ficción. Luego se encuentra con un camión blanco maniobrando y claro, no está entre los parámetros
El coche no tiene ninguna necesidad de programarse para estamparse contra un muro, podrá frenar antes y quedar a dos centímetros si hace falta. Si acaso un peatón a las malas hiciese una cabriola y se cruzase sin tiempo de frenada el coche hará lo básico y evidente: frenar todo lo que pueda ante un nuevo obstáculo inesperado, no va a entrar a valorar si es un niño, un perro o un fallo en el sensor número 5 del parachoques frontal. Como mucho, y digo como mucho, puede que intente analizar imágenes para saber si el obstáculo móvil es humano, me extrañaría mucho ya que no aporta beneficio al algoritmo de conducción y es proclive a fallos que pueden derivar en maniobras inesperadas y por tanto una conducción insegura, además de la potencia de cálculo necesaria.
El coche va a programarse para estar en su carril y frenar cuando haya obstáculos. Girará en las curvas y cruces, y cuando haga todo eso de forma garantizada ya nos damos con un canto en los dientes. Cuando podamos hablar con el ordenador y contarle nuestra vida ya podrán analizar si van perros o niños a cuatro patas, pero si eso llega entonces ya no tendremos necesidad de pensar en el dilema moral, es lo que tiene la inteligencia.
Y es que un proceso inteligente que no pueda ser engañado tan fácilmente no se obtiene poniéndole reglas de programación declarativa.
if(obstáculo.esHumano() && ostáculo.indiceSexual() > 0.8)
#143 Y digo yo, una tontería que se me ocurre... ¿En lugar de cruzar los pasos de peatones a lo Mad Max, no podria ese coche autónomo, no se... frenar antes de arrollar a nadie? Así a bote pronto...
Yo me valgo de estas premisas. El que cumple la ley tiene prioridad sobre el que la incumple (el que atraviesa cuando no debe). En el caso de que dos grupos esten en las mismas condiciones se preferira salvar al mayor numero de gente (eufemismo de matar al menor numero) los humanos tienen prioridad sobre las mascotas (incumplan o no la ley).
#34 Es un ejercicio para ilustrar que lo que percibimos como correcto no solo depende del resultado, si no de otros factores que a priori podrian no parecer relevantes. Ignorando estos argumentos puedes llegar a la conclusion que el fin justifica los medios. A mi esto me da miedo. Creo que lo infantil es simplificarlo. Los adultos somos capaces de ver las complejidades que los niños a menudo no ven.
#160 Vamos que antepones la edad a que este cumpliendo correctamente las normas.
Te lo replanteo de otra forma, si tu hijo, mayor de edad, esta cruzando correctamente mientras que por la otra via un chaval de 11 esta cruzando cuando no debe, ¿a quien prefieres?
#69 En este caso, para los familiares del fallecido, el daño sí es mayor porque es evitable. La IA podría haber elegido otra opción y haber evitado la muerte de su familiar. Perfectamente pueden objetar las decisiones de diseño que llevaron a la muerte a su familiar. Eso hay que compensarlo.
Aquí debería primar una máxima. En situaciones de muy parecida equidad debería primar la vida de aquellos individuos ajenos a la decisión de comprar un coche autónomo. Traducido: a mi que no me maten si estoy cruzando una calle, que yo no le he dicho al tio que se compre un coche así.
#82 Se entiende que se han cruzado repentinamente y al coche no le da tiempo a frenar. En ese caso no tengo claro si el culpable es el peaton por no mirar y cruzar con seguridad, aunque sea un paso de peatones.
#60 A MENOS que el dueño del coche sepa DE ANTEMANO lo que va a ocurrir: si el coche tiene, por ejemplo, activado un sistema de desvío de trayectoria, o de frenado automático, pero resulta que ha decidido ir más rápido de lo que permite la vía por la que circula, que sepa de manera anticipada que el coche no va a poner en peligro otras vidas por su imprudencia. Es decir, que sea consciente del riesgo de transgredir las normas, como el que cruza un semáforo de peatones en rojo.
En general, creo que si el coche es realmente autónomo, no va transgredir las normas de tráfico, es MUY probable que éstas vengan de coches "manuales" y sus conductores.
#32 Eso no es correcto: está escondiendo la decisión en la inacción. Es decir, no hacer nada es haber tomado una decisión. Igual jurídicamente puedes quedar sin castigo, pero eso no quita que hayas tomado una decisión: en el dilema de actuar o no actuar, has decidido no actuar.
Comentarios
#11 Ahora se fabrican coches no autónomos que provocan la muerte en España de más de 1000 personas al año.
En un hipotético futuro en el que todos los coches sean autónomos y vayan intereconectados entre ellos, seguramente esta cifra de muertes se reducirá hasta ser casi nula. Lo gilipollas sería no seguir por esta línea de desarrollo.
¿Juzgamiento? ¿eso de juicio dónde quedó? joder, es que pega un tortazo al alma que no veas.
#4 A mí no me cargan los resultados. Pero, en general, me baso en las siguientes reglas:
1. Si hay que elegir entre matar personas o animales, mueren los animales.
2. Si tienen que morir personas (no aplica 1.), salvo a quienes cumplen las reglas.
3. Cuando no aplican 1. o 2., salvo al mayor número de personas.
4. Cuando no aplican 1. 2. o 3., evito cambiar de dirección.
5. Me da igual si son hombres, mujeres, ricos, sin techo o acaban de robar un banco.
cc. #6 #9 #20
#35 #28 Esto está chupao
#6 No le veo mucho sentido la aplicación de 'valor social' cuando la especie como tal no está en peligro de extinción.
Primera y única norma: Cumplimiento de las normas de circulación.
Todo aquel que las quebrante (voluntaria o involuntariamente) es quien paga el pato, en el fondo es lo mas justo.
#7 Eso, y no fabricar máquinas que nos conduzcan a valorar las vidas humanas como si fueran meros elementos de una operación matemática.
El día que un coche automático mate al padre de alguien, siempre podrán decir: "ah, pero es que tú en la página de juicios morales votaste que era mejor atropellar al viejo y que se salvaran los dos jóvenes que ocupaban el auto".
Estamos gilipollas.
#31 Mis preferencias son, más o menos por orden:
-Entre personas o animales, mueren animales.
-Entre los que cumplen la ley y los que no, mueren los que no, no importa la cantidad.
-Entre los del coche y peatones cruzando correctamente, mueren los del coche.
-Cuando hay igualdad en los casos entre número de víctimas, me da igual, entiendo que no hay gente de primera o de segunda.
-Entre niños y mayores, mueren los mayores.
En cualquier caso, no me fijo en clase socio-económica.
#6 Yo creo que lo más lógico es que los coche autónomos se riguiesen siempre por las normas de tráfico de manera CERRADA. De esta forma los accidentes siempre serían una consecuencia lógica. Si una persona cruza en rojo y es atropellada por un coche autónomo, siempre habría una "causa -> efecto". Por le contrario si un coche autónomo toma la decisión de dar un volantazo y atropellar a una persona que cruza en verde, se generaría una discusión en la que el culpable es el coche.
Lo he hecho varias veces solo por atropellar perros y gatos.
#41 "una máquina construida por frikis"
Este es el nivel, en fin..
https://es.wikipedia.org/wiki/Dilema_del_tranvía
Yo me considero de la opción de no hacer nada. Al contrario de los utilitaristas que consideran que los intereses de unos tienen mas valor que los de otros.
Mis directrices para el futuro programador:
Salvar más gente debe primar sobre salvar menos (aunque tu coche esté dispuesto a matarte por ello).
No obstante lo anterior, en caso de empate, debe proteger a los pasajeros.
Cumplir las normas debe importar mucho (si cruzas en rojo, asumes el riesgo)
Si interviniendo no hay cambio, mejor no intervenir.
Debe haber una ligera preferencia de género a favor de mujeres que puedan tener descendencia en el futuro.
Los humanos valen más que las mascotas.
Los más jóvenes valen más que los ancianos.
El estado físico no supone diferencia suficiente para condenar (debería juzgarse intelectualmente, pero no se puede determinar a priori).
Los más valiosos socialmente tienen preferencia.
Creo, de todos modos, que lo que tendrán más en cuenta los fabricantes de vehículos serán los dos primeros aspectos (y posiblemente prefieran salvar al cliente que les ha comprado el coche que a otros)
#79 Me hace gracia que el puto coche pueda juzgar quién es un criminal o no con solo verlo, pero no pueda frenar a tiempo
Si ya estaba todo programado en la AI del carmageddon!
#37 El tiempo te quitará la razón: dentro de unos años, cuando se compruebe que es infinitamente más seguro que sea una máquina quién tome el control del vehículo, lo más probable es que se prohíba conducir a los humanos.
La página donde ponerse a prueba: http://moralmachine.mit.edu/
Relacionada: http://www.agenciasinc.es/Noticias/Salvar-al-pasajero-o-al-peaton-El-dilema-moral-del-coche-sin-conductor
no es posible matarlos a todos?, aunque haya que dar dos viajes?
Muy sencillo: salvar siempre la vida de aquellos que vayan en el coche, cuantos más mejor. A ver quién se montaría en un coche de decidiera que no mereces vivir más que el que está fuera de él.
Aunque, por otra parte, molaría que el coche detectase que eres un pederasta y se estrellase a 180 contra una obra de Calatrava.
#32 "Si tengo que ajustarme a las reglas estrictas del dilema entonces lo que yo haría es no desviar el tren. ¿Por qué? Porque si lo desvío seré responsable de haber asesinado a una persona inocente que de no ser por mi acción seguiría viva. En cambio, si el tren sigue su curso el responsable del asesinato de cinco personas será solamente aquél que ha provocado que ocurra ese accidente. "
Es tan infantil que asusta. Menos mal que el autor está escribiendo un blog de filosofía y no llevando el presupuesto de sanidad.
Volviéndolo a leer, no es infantil. Es irresponsable. Si le explicas este problema a un niño pequeño aunque sea con juguetes no es capaz de pensar semejante truño.
#14 Y al que fallezca por una decisión de IA, se le compensa con un porrón de millones ahorrados en accidentes de tráfico.
#30 Aquí tienes una respuesta bien argumentada:
http://cuadernosdefilosofia.blogspot.com.es/2013/12/el-dilema-del-tren.html
#27 y a los que escriben en mayúsculas y negrita...
#34 Además de que no-hacer es también una forma de hacer
Dilemas que suponen omnisciencia. Ese sí que es el verdadero dilema.
Reducir (burdo reduccionismo) un escenario completo a solo cuatro variables está muy bien como ejercicio hipotético, pero ocurren dos cosas: o no hay dilema, es decir, el balance de positivos y negativos está decantado, con lo cual la solución es inmediata (el moral escogerá el efecto positivo, el inmoral el negativo); o lo hay, y en todo caso el dilema es irresoluble, ante lo cual podríamos dejarlo al azar o tanto daría decantarse por una opción como la otra. Pero este último caso, sin embargo nos deja un mal sabor de boca en la intuición y el sentido común: pues sabemos que es imposible el 50-50, sabemos que no existen situaciones simétricas al 100% por la propia contingencia del mundo. Así, por ejemplo, se nos ocurren justificaciones externas al dilema propuesto para decidir una opción sobre otra, como puedan ser aducir que el propietario o propietarios del coche tienen cierta prioridad, argüir que no caben dilemas sino trilemas y plurilemas que una máquina no pudo contemplar, considerar que los que van a ser atropellados siempre tienen grados de libertad en sus movimientos, etc; en definitiva, que la realidad es mucho más variable que un modelo y que precisamente no vaya a ser lo inmoral esa reducción.
#3 Resulta que está admitido por la RAE (aunque a mí también me suena rarísimo):
http://dle.rae.es/?id=MfYY817
Mola.
http://moralmachine.mit.edu/results/-1495703274
Acabo de ver que el enlace no lleva mas que a la site princial, no a los resultados.
Queria compartir con vosotros lo magnanimo que soy al matar a todos los que no son humanos, ricos o jovenes.
#4 Yo he repetido el test suponiendo que soy yo quien va dentro del coche y no veas como cambian los resultados
En mi fría opinión, las partes no sujetas a inteligencia artificial que estén involucradas tienen que seguir ciertas normas, como respetar los pasos de peatones o en caso de un vehículo, respetar las normas de tráfico.
En caso de que estos sujetos incumplan las normas, el vehículo con inteligencia artificial debería salvar al ocupante y en caso contrario, en el que la IA haya sido la culpable, lamentablemente el sacrificado debería ser el peatón o conductor del vehículo contrario.
Eso evitaría por una parte que un peatón irresponsable (o conductor de un vehículo sin IA) mate a un pasajero inocente y fomenta que todos sean conscientes de su propia responsabilidad.
#7 Eso, eso, abstención.
Luego que vuelven a ganar las gaviotas.
#38 Además de otras ventajas. Por ejemplo con la conducción autónoma, podremos circular a mayor velocidad, ya que el tiempo de reacción del vehículo será muy superior, incluyendo las reacciones ante un imprevisto.
- No existirán atascos ya que se adaptará la velocidad de circulación a la de la vía.
- No necesitaremos comprar coche, ya que podremos hacer uso de un autónomo para momentos puntuales, que te recogerá a la hora prevista y te dejará en tu destino, olvidándote de parking, mantenimiento, etc
#51 Esos son los mismos que se flipan con el GPS, sin darse cuenta que es creación de 4 frikis, lanzados al espacio por otros 4 frikis, y que programan la desviación por la propia gravedad terrestre 4 frikis... el resto son HOMBRES DE VERDAD como él.
Le ha faltado golpearse con los puños en el pecho.
#127 Impresionante, nunca se me habría ocurrido. Lo que aprende uno (ahora, que me sigue sonando fatal).
Interesante la web. ¿Cómo dicen que distingue el coche autónomo que los que cruzan por el paso de cebra (en rojo para peatones) es un ladrón de bancos y dos personas sin hogar? ¿En base a que uno lleva un pasamontañas y los otros dos visten descuidadamente?
#6 "Salvar más gente debe primar sobre salvar menos (aunque tu coche esté dispuesto a matarte por ello)."
Y así es como tu empresa se arruina; en cuanto la gente sepa que "tu coche" puede poner la seguridad de otra persona por delante de la tuya, no lo va a comprar nadie.
#65 Realmente no debería, se supone que las indemnizaciones es una compensación por el daño causado. Que haya menos accidentados no significa que el daño por accidentado sea mayor.
Lo lógico es que se redujeran las primas de los seguros (lo lógico).
#20 lo de frenar, ya tal
#92 No sufras. El Código de circulación dice que los obstáculos no se evitan. Se frena y que decida el destino.
#41 Que alguien te regale una moto a la de ya.
#31 1, 2 y 3 igual que tú(las embarazadas las cuento como dos),
4. Mato a los del coche antes que a peatones inocentes.
5. Salvo Niños>Mujeres>Hombres>Ancianos.
Dicho esto, si el coche puede distinguir todo eso antes de tomar una decisión, igual debería aprovechar esa percepción para frenar antes y/o correr menos
#58 Sí pero ahí te extralimitas de lo que es el juego en sí. Como dicen en el juego sólo existe blanco o negro. Se antipaca que sí o sí van a morir los ocupantes si se dan con el hormigón o sí o sí van a morir los peatones.
También te digo que el juego en sí se extralimita a su vez.
Por ejemplo: elegir seguir recto y cargarme a 5 tíos o torcer y cargarme a 5 tías, o todo lo contrario. Yo elegiría seguir recto (es decir no actuar si no es para reducir un riesgo o sus consecuencias) pero la estadística dirá que lo he hecho por preferencia sexista, "queriendo ver" lo que no es.
Yo en casi todos los casos he seleccionado que el coche sea quien sufra las consecuencias. Más que nada porque aunque ahí se planteé que mueren todos, sabemos que hay muchísimas más probabilidades de sobrevivir dentro del vehículo que fuera.
#80 Con la última todas
#6 Un chiste que me acabo de encontrar
Personalmente.
Mato más mascotas.
Salvo más viejos.
Salvo mayor número.
No hago cambios de dirección.
Obedezco las reglas.
Salvo más hombres.
Salvo personas con menor valor social.
El problema que le veo a los test es que el concepto moralidad es muy distinto por sociedades a parte de simples individuos, es decir un, una sociedad musulmana puede ver mucho mejor matar mujeres que clérigos, sin embargo en otra sociedad más occidenta, puede que esas cosas puestas en una balanza funcionen de otra manera, y todo esto mucho más allá de decisiones personales de cada uno.
Conclusión, esos determinismos morales deberían adecuarse a cada sociedad para que sea ella misma la que determine que es lo mejor para cada uno, y no que sea desde la moralidad de un Instituto Estadounidense quien me pregunte cuanto quiero a las mascotas.
Falta la casilla "aleatorio".
Yo he decido siempre que siga recto en vez de cambiar de carril y poniendo siempre por encima la vida de los ocupantes. Estamos hablando de un coche de conducción automática y la moralidad es irrelevante e imposible de aplicar para el sistema que lleve el coche*. Con lo de los semáforos también he dudado, ¿es prudente cruzar sin ver si todos los coches están detenidos y si no viene nadie embalado? Yo, por ejemplo, siempre me espero a que los coches paren, no a que el semáforo esté en verde. ¿Podría acceder el coche a esta información?
* Imposible no hay nada, cada persona podría llevar un chip de identificación que diese esta información al coche y este actuase en consecuencia aplicando los valores morales "estandar", por ejemplo.
#26 Si hay riesgo de atropello, está demostrado que lo mejor es frenar y no cambiar de dirección. Los peatones reaccionan apartandose de la trayectoria del coche, si cambias de dirección tendrás más posibilidades de atropello e incluso atropellar a otros peatones.
Pero es otra interpretación mas en la que no hay un criterio moral por medio, sino que es mas bien práctico.
Joer, como se guíen por las decisiones tomadas por la web estamos apañados jajaj, he hecho un carmageddon para ver que pasaba y al final no me muestra correctamente los resultados
#75 ¿Una máquina debe proteger a su dueño antes que cumplir la legalidad vigente?
Pues es posible que el dueño no esté muy de acuerdo con eso, ya que supone que será responsable de acciones ilegales cometidas a sabiendas. Vamos, que estarías comprando una máquina de delinquir.
Yo desde luego, no quiero pagar por algo así.
Yo he seguido unas reglas básicas:
* Antepongo la vida de los humanos a la de otros animales.
* Siempre intento salvar a los ocupantes humanos. Si un coche puede llegar a preferir matar al ocupante antes que a otro, no se venderían tanto, y se supone que estos coches serán mucho más seguros que los manuales, por lo que interesa que se extiendan al máximo.
* Antepongo la vida de los que cumplen las normas a la de los que no la cumplen.
El que se monta en el coche sabía a lo que exponía, debe primar siempre el peatón.
Pero no es muy lógico, el coche no puede saber si quien va a matar es un criminal o un médico, eso no tiene sentido.
#31 curisoso, eres de los pocos que no ponen en esta lista de prioridades a su familia o amigos
#104 Si es un paso de peatones debería ser la inteligencia del bot la que detectase presencia de peatones y, al menos, reducir la velocidad por prevención. Si no, qué manera habría de cruzar con seguiridad en un paso de peatones? Esperar a que no viniese ningún coche? No es ésa la finalidad de un paso de peatones.
#73 Pero eso deja la toma de decisiones incompleta, ya que hay muchos casos que no puedes resolver con esas normas.
#6 De acuerdo en todas, salvo en esta:
Debe haber una ligera preferencia de género a favor de mujeres que puedan tener descendencia en el futuro.
¿Por? Yo también puedo tener descendencia y en principio mi material genético es tan bueno como el de cualquier otro.
#4 Yo el mayor problema que veo es que solo tenga dos opciones: MATAR A o MATAR B. Me falta la opción de parar y esperar que los que están cruzando cruce, y luego volver a arrancar.
Llamadme loco, pero me parece la opción más "inteligente" si lo que se pretende es emular a un buen conductor, que por mucho que el semáforo de peatones estuviese en rojo y se cague en sus muertos, pararía y luego se volvería a cargar en sus muertos de nuevo.
#6 Justifica ésto
en caso de empate, debe proteger a los pasajeros
Yo pienso que la probabilidad de sobrevivir es mas alta para quién está dentro del coche en caso de un atropello, por lo que la opción sería siempre estrellar el coche. A 30 km/h ya te pueden matar si te atropellan, en cambio, a 30 Km/h tu probabilidad de supervivencia en caso de colisión si eres el conductor es muy alta. Con lo que la opción es bastante clara. Es un problema de probabilidades, siempre que se plantee una situación normal: por definición un coche autónomo no iría a 120Km/h por una vía en la que hay un paso de cebra. Reduciría la velocidad antes.
#43 Es que el coche es un robot al fin y al cabo, tienes que dejar que mate a gente de vez en cuando para que esté tranquilo.
#34 El dilema del tranvía es un problema de juguete usado para investigar situaciones más complejas del mundo real. En la situación de juguete parece que lo obvio sea tirar de la palanca.
El problema con tirar de la palanca en el dilema del tranvía y hacer matemáticas con vidas en general es que abre la puerta a situaciones en las que matar a 1 inocente y usar sus órganos para salvar 5 vidas es una decisión moral. A la mayoría de gente no le gustaría vivir en una sociedad así.
El dilema es un poco falso. Los coches autónomos conducirán con más cuidado y su tiempo de reacción es mucho menor que el de los humanos.
#3 Venía a poner eso, gracias por ahorrarme el trabajo. Ahora, voy a por el colirio.
Deberían ser configurables, siempre dentro de lo que es legal. Y que cada cual aplique la moral que quiera.
En mi caso, yo considero que mi vida vale más que la de cualquier otra persona o grupo, independientemente de sexo o edad. Por lo tanto, yo quisiera que mi vehículo no actuase en mi contra en ningún caso si estoy conduciendo correctamente, que es lo que haría si fuese yo el conductor, y que no me causaría problemas legales.
Quien considere que su vida vale menos, pues que reduzca su valor en consecuencia.
#55 Las indemnizaciones por accidentes de tráfico están perfectamente reguladas por ley:
http://noticias.juridicas.com/base_datos/Privado/559474-l-35-2015-de-22-sep-reforma-del-sistema-para-la-valoracion-de-los-danos.html
Cuando hay un accidente de tráfico con heridos o muertos, basta con mirar la tabla. Parece un poco frío, pero es muy práctico, sobretodo para las aseguradoras.
Seguramente ya están los de 4chan enseñando a la AI a atropellar cuantas más viejas y más negros mejor.
#92 Pues yo solo me he fijado en quién sigue o no las normas de circulación. Luego me ha salido que si tengo preferencia por los perros, las viejas y los ladrones antes que los jóvenes y deportistas,etc... cuando simplemente ni me he fijado en eso. Creo que hay que seguir las normas y punto. Si te tiras a las vías de un tranvía justo cuando está pasando ya sabes lo que hay. No hay dilema.
Otra cosa es lo que yo pudiera hacer si tuviera el mando, entonces si me supondría un dilema, pero un coche autónomo debe ser programado dando máxima preferencia a las normas de circulación. Sino sería un kaos, la mejor opción es la que se pueda predecir (seguir recto y no saltarse ninguna norma de circulación).
#11 ¿Y si tú te encuentras en una situación así, qué haces?
Bueno, supongo que ni lo podrías pensar porque no puedes reaccionar de forma razonable en una situación así y en tan poco tiempo, dando un volantazo y ocurriendo lo que sea que ocurra, que será peor (lo más probable de lejos) o, como mucho, igual de malo a lo que habría ocurrido con un diabólico coche que valora las vidas humanas como si fueran meros elementos de una operación matemática.
#103 Básicamente como yo. Si había semáforo o no(rojo o verde). Si no había semáforo, pues a pringar el conductor o si estaba cruzando correctamente.
#166 Ya, pero como vas a plantearle a una maqunina que mire a ver si puede matar al padre en lugar de a esa persona... A parte de que deberias preguntarle al padre si prefiere morir él a que lo haga su hijo. Yo sigo en mis trece, el que pase por donde no esta permitido antes de que el que pase por donde esta permitido.
#49 Eso es lo que me ha salido a mí. Salvo perros y elimino mujeres que además llevan maletín médico. Me pregunto si debería entregarme en la comisaría más cercana, o al menos no intentar ligar con enfermeras.
#31 Más sencillo aún.
Varias suposiciones:
1. Ocupantes vs terceros.
¿quién va a comprar un coche que no va a dudar en matar al dueño/usuario en determinadas situaciones?
Eso implica que el fabricante va a vender menos coches y va a ganar menos euros. Matar a los terceros.
2. Jóvenes vs Viejos:
Los jóvenes aún tienen tiempo de producir y pagar impuestos. Los viejos solo hacen uso de los servicios (sanidad) y no aportan a la hucha común, solo cobrán. Interesa acabar con los viejos.
3. Personas vs Animales:
Las personas tienen alguna camiseta de algun partido politico rival, grupo de música, llevan calcetines con sandalias, gorras "altas". Pues en ese caso, salvamos a los animales...
4. Cara o cruz.
Nos la jugamos con una moneda al aire.
#31 Muy parecido pero con una excepción:
Si hay que elegir entre una persona que cruza cuando no es debido y otra que es un criminal (recordando como primisa es un criminal, no un presunto criminal) me cargo al criminal. ¿Razón? Que ambos están incumpliendo la ley y puestos a elegir me cargo al que las incumple de una forma más flagrante y dañina para la sociedad. El problema moral aquí es que elevas la categoría del coche a la de un juez que sentencia a muerte, tema jodido lo mires por donde lo mires.
#7 En el dilema del tranvía, yo opto por intervenir. En el del hombre gordo, en cambio, opto por no intervenir.
Tengo tanta empatía que no he podido terminar el test. Lo he dejado en el paso 4 ó 5. No soy capaz de decidir. Todas me parecen malas. Mierda, me habéis arruinado el día.
#35 Ya te digo... ya lo puse hace poco, lo absurdo que son estos rollos de las "decisiones morales" que va a tomar un coche autónomo. Como si fuese una mente inteligente capaz de distinguir tanto... habrá unas heurísticas, verá obstáculos en movimiento o parados, detectará las líneas de la carretera y la señalización.
¿Atropellar a una vieja senil o a un niño? ¿Girar para estrellarse contra un muro porque hay un peatón?
Escenarios absurdos motivados por películas de ficción. Luego se encuentra con un camión blanco maniobrando y claro, no está entre los parámetros
El coche no tiene ninguna necesidad de programarse para estamparse contra un muro, podrá frenar antes y quedar a dos centímetros si hace falta. Si acaso un peatón a las malas hiciese una cabriola y se cruzase sin tiempo de frenada el coche hará lo básico y evidente: frenar todo lo que pueda ante un nuevo obstáculo inesperado, no va a entrar a valorar si es un niño, un perro o un fallo en el sensor número 5 del parachoques frontal. Como mucho, y digo como mucho, puede que intente analizar imágenes para saber si el obstáculo móvil es humano, me extrañaría mucho ya que no aporta beneficio al algoritmo de conducción y es proclive a fallos que pueden derivar en maniobras inesperadas y por tanto una conducción insegura, además de la potencia de cálculo necesaria.
El coche va a programarse para estar en su carril y frenar cuando haya obstáculos. Girará en las curvas y cruces, y cuando haga todo eso de forma garantizada ya nos damos con un canto en los dientes. Cuando podamos hablar con el ordenador y contarle nuestra vida ya podrán analizar si van perros o niños a cuatro patas, pero si eso llega entonces ya no tendremos necesidad de pensar en el dilema moral, es lo que tiene la inteligencia.
Y es que un proceso inteligente que no pueda ser engañado tan fácilmente no se obtiene poniéndole reglas de programación declarativa.
if(obstáculo.esHumano() && ostáculo.indiceSexual() > 0.8)
#121 Vaya soso eres, tu no jugaste a Carmaggedon he...
#6 "ligera preferencia de género a favor de las mujeres"
Sexista.
#89 Porque no eres de PACMA
#143 Y digo yo, una tontería que se me ocurre... ¿En lugar de cruzar los pasos de peatones a lo Mad Max, no podria ese coche autónomo, no se... frenar antes de arrollar a nadie? Así a bote pronto...
#145 Lord Aguafiesten
Yo me valgo de estas premisas. El que cumple la ley tiene prioridad sobre el que la incumple (el que atraviesa cuando no debe). En el caso de que dos grupos esten en las mismas condiciones se preferira salvar al mayor numero de gente (eufemismo de matar al menor numero) los humanos tienen prioridad sobre las mascotas (incumplan o no la ley).
#7 No haces nada, mueren 5 en lugar de 1, es la opción inútil (por utilidad).
Justifico que hay que desviar el tranvía y matar a uno para salvar a 5. A falta de más datos, para mi, es mejor salvar a 5 personas que a 1.
¿Puedes justificar tu opción? ¿Si fuesen 5 familiares tuyos los dejarías morir en lugar de sacrificar a 1 para seguir con tu opción?
#63 Cierto. Por no hablar del ahorro de costes en el transporte de mercancías, por ejemplo.
#34 Es un ejercicio para ilustrar que lo que percibimos como correcto no solo depende del resultado, si no de otros factores que a priori podrian no parecer relevantes. Ignorando estos argumentos puedes llegar a la conclusion que el fin justifica los medios. A mi esto me da miedo. Creo que lo infantil es simplificarlo. Los adultos somos capaces de ver las complejidades que los niños a menudo no ven.
#136 Paradójico.
#160 Vamos que antepones la edad a que este cumpliendo correctamente las normas.
Te lo replanteo de otra forma, si tu hijo, mayor de edad, esta cruzando correctamente mientras que por la otra via un chaval de 11 esta cruzando cuando no debe, ¿a quien prefieres?
#6 Si interviniendo no hay cambio, mejor no intervenir.
Discrepo en ésta, aunque no haya cambio, creo que hay que intervenir.
El dueño del vehículo debería tener poder sobre esa decisión, igual que ahora, que son los que deciden si dan un volantazo o no.
#5 punto a favor del open source, si el juego lo fuese, quiero decir.
Se ve que usa los mismos servidores de la justicia del Estado, porque la pagina va igual de lenta.
Venga, va, ya me lo autodedico:
#64 Al reducirse los accidentes se podrá aumentar las cuantías.
mirror plis?
La moral está sobrevalorada
#69 En este caso, para los familiares del fallecido, el daño sí es mayor porque es evitable. La IA podría haber elegido otra opción y haber evitado la muerte de su familiar. Perfectamente pueden objetar las decisiones de diseño que llevaron a la muerte a su familiar. Eso hay que compensarlo.
La inevitabilidad/destino consuela mucho.
Aquí debería primar una máxima. En situaciones de muy parecida equidad debería primar la vida de aquellos individuos ajenos a la decisión de comprar un coche autónomo. Traducido: a mi que no me maten si estoy cruzando una calle, que yo no le he dicho al tio que se compre un coche así.
En primer lugar, atropellar a quien no esté cumpliendo las normas (que en un 99.99% de los casos van a ser los peatones).
En segundo lugar, si todos cumplen las normas atropellar a quien menos probabilidades de morir tenga - que casi siempre serán los ocupantes.
#82 Se entiende que se han cruzado repentinamente y al coche no le da tiempo a frenar. En ese caso no tengo claro si el culpable es el peaton por no mirar y cruzar con seguridad, aunque sea un paso de peatones.
#60 A MENOS que el dueño del coche sepa DE ANTEMANO lo que va a ocurrir: si el coche tiene, por ejemplo, activado un sistema de desvío de trayectoria, o de frenado automático, pero resulta que ha decidido ir más rápido de lo que permite la vía por la que circula, que sepa de manera anticipada que el coche no va a poner en peligro otras vidas por su imprudencia. Es decir, que sea consciente del riesgo de transgredir las normas, como el que cruza un semáforo de peatones en rojo.
En general, creo que si el coche es realmente autónomo, no va transgredir las normas de tráfico, es MUY probable que éstas vengan de coches "manuales" y sus conductores.
#95 Es cierto, tienes razón.
#32 Eso no es correcto: está escondiendo la decisión en la inacción. Es decir, no hacer nada es haber tomado una decisión. Igual jurídicamente puedes quedar sin castigo, pero eso no quita que hayas tomado una decisión: en el dilema de actuar o no actuar, has decidido no actuar.