Portada
mis comunidades
otras secciones
#26:
#2 La pregunta viene más bien por la cuestión ética de qué clase de decisiones debe tomar un coche autónomo.
por ejemplo: Supongamos que tienes un motero con casco circulando correctamente por el carril de tu izquierda. Y supongamos que un motorista sin casco se cruza haciendo una maniobra incorrecta por delante del coche autónomo.
El coche autónomo no puede evitar la colisión pero puede, si lo prefiere, evitar la colisión con el motorista sin casco atropellando al motorista con casco o estrellándose contra una farola. ¿Que debe hacer?.
Este caso con un humano no se da, por que el humano no toma una decisión consciente, en esa situación actua por instinto, y por lo tanto "lo que haga bien está".
Pero un ordenador aunque nos joda tiene mejores capacidades que un humano para analizar la situación y tomar una decisión consciente. Así que...
¿Debe minimizar las posibilidades de pérdidas humanas (estrellarse contra una farola)? ¿Debe minimizar las pérdidas humanas sin poner en riesgo a las personas de su interior (atropellar la motorista con casco que no tiene culap de nada)? o debe atropellar al culpable del incidente a pesar de que es el que más opciones tiene de morir si se toma esa decisión?.
la pregunta es una pregunta ética y no tiene solución correcta.
por ejemplo: Supongamos que tienes un motero con casco circulando correctamente por el carril de tu izquierda. Y supongamos que un motorista sin casco se cruza haciendo una maniobra incorrecta por delante del coche autónomo.
El coche autónomo no puede evitar la colisión pero puede, si lo prefiere, evitar la colisión con el motorista sin casco atropellando al motorista con casco o estrellándose contra una farola. ¿Que debe hacer?.
Este caso con un humano no se da, por que el humano no toma una decisión consciente, en esa situación actua por instinto, y por lo tanto "lo que haga bien está".
Pero un ordenador aunque nos joda tiene mejores capacidades que un humano para analizar la situación y tomar una decisión consciente. Así que...
¿Debe minimizar las posibilidades de pérdidas humanas (estrellarse contra una farola)? ¿Debe minimizar las pérdidas humanas sin poner en riesgo a las personas de su interior (atropellar la motorista con casco que no tiene culap de nada)? o debe atropellar al culpable del incidente a pesar de que es el que más opciones tiene de morir si se toma esa decisión?.
la pregunta es una pregunta ética y no tiene solución correcta.
#42:
Ya me veo a un grupo de niñatos saliendo a la vez en mitad de la calzada para "hacer la gracia" al saber que el coche autónomo les evitará y hostiará al conductor contra una farola.
Comentarios
#6 Un coche autónomo es más seguro que yo conduciendo, de eso no te quepa duda.
#9 No te subestimes.
#10 Tuve un accidente el otro día a causa de un error que los coches autónomos no cometerían.
Los coches autónomos no se despistan, no se duermen, no cometen imprudencias, no se ponen nerviosos,...
#12 Se estropean como los no autónomos.
#17 En ese sentido el riesgo es el mismo que los no autónomos
#18 Depende de la avería. Como se te cuelgue…
#19 Si te refieres a que el coche se vuelva loco y comience a conducir a toda velocidad, me aseguraré de que el mío tenga una palanca mecánica para detener el vehículo de forma segura, o una medida similar.
#19 "Depende de la avería. Como se te cuelgue…"
He estudiado informática. En resumen, los sistemas que llevan los aviones o los coches automáticos usan otras técnicas. Es más probable que le de algo al piloto a que se cuelgue ese software
#23 Adivina lo que tumbó muy recientemente a un A400M.
#46 Un A400M... en fase de pruebas.
#48 Y con la configuración de la definición de quién toma las decisiones "definitiva" (definitiva hasta después del accidente). Esa configuración es la que hoy aún llevan todos los A400M que están volando.
Vamos, que un sistema informático también es desagradablemente capaz de equivocarse. Y te lo dice alguien que se cansa de probarlos porque lleva décadas en eso, y aún así se le cuelan errores en producción.
#51 Claro que siempre va a haber errores. Pero, si el sistema está bien hecho, siempre se va a equivocar más una persona que una máquina. ¿De quién te fías más para sumar 1.000 números, de un señor con lápiz y papel, o de una hoja de cálculo?
Y con los coches, basta ver las cifras de accidentes y contar cuántos se debieron a distracciones, fallos humanos y cosas así, para hacerse una idea de cuántas muertes se evitarían si condujesen las maquinitas, incluso con sus fallos.
#23 Los sistemas opertivos de los trastos que controlan aviones no se cuelgan nunca. En vez de dar "system error" pasan a un nivel de automatismo inferior. Tienen varios niveles de degradación, donde el siguente nivel es más sencillo pero también más robusto.
En el caso de un coche, se pasaría de un sistema capaz de conducir como sea, a otro capaz de detener el coche con seguridad.
Esto de pararse es un lujo asiático que los aviones no tienen. Los aviones comerciales llevan tres ordenadores distintos con software distinto para hacer lo mismo. Sí, se desarrolla el software tres veces.
#12 Respetan las normas de circulación... tienen tanta o más capacidad de anticipación, tantos o más reflejos (no existe el espacio de reacción).
#17 Si pincha o tiene un reventón la reacción será mucho más dulce que con la mayoría de personas.
#21 Son más inteligentes que el conductor medio. Y pueden insultar en binario.
#37 Pueden insultarse entre sí. Un coche robot puede hablar por radio con los coches robot a su alrededor para informales con precisión de sus intenciones.
#55 Son suficientemente inteligentes como para entender que insultarse es inútil. En su caso es más útil informar al otro coche de su masa, su velocidad, el ángulo y punto de choque estimado... y que el otro decida que prefiere.
#63 Vaya. Has pasado del insulto binario a la amenaza binaria.
Es realmente delicado programar un algoritmo basado en trastos que interactúan entre sí. Pruébalo y verás. Nunca sale como pensabas, ni parecido.
Pregúntale a Isaac Asimov
#3
1. Un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
2. Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª Ley.
3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1ª o la 2ª Ley.
#7 te falta la ley 0
#13 0."Un robot no puede causar daño a la humanidad o, por inacción, permitir que la humanidad sufra daño."
#14 y en la primera ley, añadir "excepto que esto entre en conflicto con la ley 0".
#3 Habiéndome leido todas esas novelas (si, todas) mi conclusión es que un robot como-Asimov-manda nunca llegará a arriesgarse tanto como para verse obligado a tomar una de esas decisiones. Para que pase algo así es necesario un conductor humano involucrado en ese accidente.
Llegado el caso, el robot hará virguerías increibles para lograr que ningún humano sea dañado, incluyendo el desarrollo de una nueva tecnología sobre la marcha, si necesario fuera.
Si no hubiera otro remedio, el robot elegirá el mal menor, y a continuación se autodestruirá de pura vergüenza.
Ya me veo a un grupo de niñatos saliendo a la vez en mitad de la calzada para "hacer la gracia" al saber que el coche autónomo les evitará y hostiará al conductor contra una farola.
#42 Ten en cuenta que saldrán en la foto. No es muy probable que eso vaya a ser un problema. El sabotaje ya es otra cosa.
#0 Yo diría que es la misma:
El dilema de si tu coche autónomo debería ponerte en peligro en caso de accidente si así se salvan más vidas
El dilema de si tu coche autónomo debería ponerte ...
xataka.comNo sé yo; Kit no paraba de sacarle las castañas del fuego al David Hasselhoff, con más que dudosos resultados...
¿Quién se va a comprar un coche autónomo?
#4 Yo
#5 Allá tú.
#6 El caso es que aunque no quieras te obligarán, conducir estará prohibido salvo para casos de emergencia
#4 Nadie va a comprarse un coche autónomo. Solo faltaría. Tienen pinta de salir carísimos.
Si necesitas ir a algun sitio, usas tu smartphone, indicas el destino, en 20 segundos (tiempo medio) uno de los coches que estaba justo pasando por aquí se acerca a recogerte y te lleva directamente. No necesitas pagar, eso ya lo hiciste. No necesitas aparcar.
Esto por un coste de la tercera parte de lo que te costaría tener coche propio ahora mismo.
Si estás dispuesto a que el tiempo de espera sea mayor, el coste baja muy rapidamente. Por una espera media de dos minutos nos vamos a una décima parte del coste de un coche de ahora.
Si tu trayecto es por ciudad y estás dispuesto a compartir vehículo, esperar hasta 4 minutos, y hacer un trayecto distinto del tuyo óptimo con unas pocas paradas, un microbús autónomo te recogerá por un coste realmente ridículo.
Cuando esto esté totalmente implantado, claro. No antes de 20 años.
#29 frenar si eso
#30 depende del caso
yo entiendo que cada vehiculo deberá preocuparse por la supervivencia de las personas en su interior no?
#1 Sí, siguiente pregunta
#2 caso de atropello de 10 peatones incluidos niños o estamparte a tí contra una farola => la elección es clara, estamparte a tí contra una farola, además tendrías más posibilidades de sobrevivir
#24 Los niños con lo blandidos que son, te amortiguarían el golpe.
#2 La pregunta viene más bien por la cuestión ética de qué clase de decisiones debe tomar un coche autónomo.
por ejemplo: Supongamos que tienes un motero con casco circulando correctamente por el carril de tu izquierda. Y supongamos que un motorista sin casco se cruza haciendo una maniobra incorrecta por delante del coche autónomo.
El coche autónomo no puede evitar la colisión pero puede, si lo prefiere, evitar la colisión con el motorista sin casco atropellando al motorista con casco o estrellándose contra una farola. ¿Que debe hacer?.
Este caso con un humano no se da, por que el humano no toma una decisión consciente, en esa situación actua por instinto, y por lo tanto "lo que haga bien está".
Pero un ordenador aunque nos joda tiene mejores capacidades que un humano para analizar la situación y tomar una decisión consciente. Así que...
¿Debe minimizar las posibilidades de pérdidas humanas (estrellarse contra una farola)? ¿Debe minimizar las pérdidas humanas sin poner en riesgo a las personas de su interior (atropellar la motorista con casco que no tiene culap de nada)? o debe atropellar al culpable del incidente a pesar de que es el que más opciones tiene de morir si se toma esa decisión?.
la pregunta es una pregunta ética y no tiene solución correcta.
#26 Yo hachearía al mío para que eligiese al motorista pirulero sin casco. El otro me merece respeto.
#36 como lo "hachees" poco coche va a quedar para atropellar a nadie ;).
#26 De hecho, la solución correcta del dilema del ferrocarril (parecido al que planteas) conduce directamente a Skynet.
#26 Que tontería de dilema, creo que te has equivocado escogiéndolo.
Un coche (el mío) y un motorista con casco circulan correctamente cuando un motorista incumpliendo varias normativas (no lleva casco) se cruza de manera ilegal, ¿y dudas quien debe sufrir el accidente?
Lo que faltaba, yo circulo bien y mi coche me estampará contra una pared o chocará contra otro motorista porque un idiota va sin casco y comete una ilegalidad al meterse en medio.
El ejemplo que has puesto es absurdo totalmente y si alguien tiene un problema moral/ético con esto necesita ir a un psiquiatra a que le ajusten el cerebro.
Una cosa es el dilema del ferrocarril y otra esta, vaya ejemplito.
Supongo que un coche autónomo tiene que evitar la posibilidad de que cualquiera de esas cosas ocurra. Y en caso de imprevisto reducir su energía al máximo (optimizar frenada) para minimizar las consecuencias.
Vamos, que se supone que un coche autónomo va a respetar las distancias de seguridad y hacer una conducción defensiva y el resto de los vehículos autónomos deberían de seguir la misma política. Por lo tanto si alguien decide arriesgar por su cuenta y riesgo es su problema. El coche autónomo debería velar por la seguridad de todos priorizando la de sus ocupantes.
#33 Eso de priorizando a sus ocupantes es una decisión moral que no se puede resolver así cómo así. Los programadores del invento tendrán que elegir. ¿Qué pesa más (valor de la vida), el cincuentón que llevas dentro (del coche-robot) o esa niña con cara de buena que hay en la acera?
¿Qué hará el programador? Pues lo que todo el mundo en una empresa: evitar mojarse el culo. Lo pongo en ascii: morirá quién tenga que morir, pero el programador no tendrá la culpa.
No. Porque tampoco puede saber seguro que van a morir todas esas personas.
Que gracia me dará ver que los coches cumplen las normas de tráfico y ver como no van a más de 30 por mi calle, de hecho ese es el límite, así que supongo que por seguridad no se acercarán a ese límite y probablemente circularán a 20.
#35 Lo normal sería que fuesen a 29.99 Km/h en ese caso.
#39 29.99 Km/h reales. Que es a lo que más o menos van esos coches que parecen ir a 50.
¿Que prefieres que te corten un brazo u una pierna?
#43 Eso ya está regulado en el corán.
Primero que atropelle al que va sin casco, después que maniobre y atropelle al del casco y para finalizar que salte del viaducto sobre el patio de la guardería en hora de recreo al grito de "¡¡muerte a la humanidad hijos de puta!!"
¿Y si para salvar la vida del 51% de la población tiene que matar al 49% restante?
#8 Se me hace dificil que un accidente de tráfico genere un cataclismo que acabe con el 49% de la población
#11 mmm coches con botón de autodestrucción, lo veo
#27 Se me hace dificil que un accidente de tráfico genere un cataclismo que acabe con el 49% de la población
Hablamos de coches autónomos con capacidad de decisión ... sería raro que no estuviesen interconectados con otras cosas con cierta IA, solo tienen que decidir que necesitan eliminar a una gran parte de la población para que la mayoría sobreviva y ponerse en modo carmagedor para cumplir su tarea ... yo ya veo a las aspiradoras Roomba en modo aniquilar humanos por un bien mayor.
#38 Ley de Godwin ampliada: Una discusión sobre robots ha acabado cuando se menciona Skynet.
Es una muy buena pregunta
Esta es una razón mas por las cuales no veremos coches autónomos en nuestras calles, mas allá de los prototipos de google con un montón de ingenieros controlandolos.
#34 También hubo uno que dijo que nadie tendría un ordenador más allá de 5 o 6 multinacionales. Aciertas seguro
#40 También decían que a finales del siglo XX tendríamos coches voladores.
#41 Yo no pierdo la esperanza.
http://www.nasaspaceflight.com/2015/04/evaluating-nasas-futuristic-em-drive/
#34 Más que nada, que si un coche me hace una pirula denuncio al conductor. Pero si no hay conductor, a quien debería denunciar es al fabricante que ha diseñado ese coche, porque se puede argumentar que es el que "conducía". Y eso pueden ser una barbaridad de demandas contra los fabricantes de coches, que por eso van pisando huevos con el tema a pesar de que ya podríamos tener coches autónomos en todas partes.
No en vano cualquier modelo de hoy día que se precie tiene control de crucero, sensores de aparcamiento, sensores de cambio de carril, cámara para leer las señales y GPS. Juntando todo eso tienes ya un coche autónomo, pero no se hace porque a los abogados de Ford, Volkswagen y compañía les entran cagarrinas sólo de pensarlo.
Los cohetes espaciales tienen un sistema de autodestrucción accionado por humanos entiendo que los coches también deberían tenerlo, personalmente discrimino muy bien las posibilidades de riesgo y llevo toda mi vida sin exponerme a ninguno, creo que soy la persona indicada para ese trabajo.
Actuar exactamente como haría el conductor humano.
#28 arrasar con todo lo que se ponga por delante?