EDICIóN GENERAL
131 meneos
4551 clics
The Moral Machine crea el primer árbol poligenético de la ética humana

The Moral Machine crea el primer árbol poligenético de la ética humana  

Más de 40 millones de decisiones recogidas por una web en 18 meses han permitido elaborar el primer árbol poligenético moral de la humanidad. Se ha construido sobre algo tan elemental como el transporte cotidiano y los posibles dilemas que puede plantearnos. No son los resultados de una encuesta cualquiera, sino de una web creada en 2016 por investigadores franceses (CNRS), del MIT y de las universidades de Harvard y de la Columbia Británica, para preguntar a los internautas sobre los dilemas a los que se enfrentan los vehículos autónomos.

| etiquetas: moral machine , ética , árbol , poligenético
63 68 0 K 304 ocio
63 68 0 K 304 ocio
son los resultados del primer estudio realizado por esta web que salió en www.meneame.net/story/maquina-juzgamiento-moral

Enlace a The Moral Machine moralmachine.mit.edu
Ostia Haravacard, un estudio con sello propio :roll: {0x1f525}
Yo no voy a comprar un coche autónomo que tome la decisión de matar a los pasajeros aunque a cambio salve 10 veces más vidas.
Vamos, es muy bonito visto desde fuera, pero yo no tendría ninguna confianza en un cacharro así.
Además seguro que se pueden hacer mecanismos que impidan que se den estas situaciones.
#3 Bueno, yo creo que la aplicación de este estudio a los coches autónomos es la última de las cosas, por mucho que te vendan lo contrario.

Se ha analizado la opinión moral de muchos hombres de entre 20 y 30 años de todo el mundo. Los coches es lo de menos, lo importante es la información. Si sabes que preferencias morales tiene una parte de la población, sabes que información hacerle llegar para posicionarla delante de una situación conflictiva.
#3 Cuando un nación estado hackee la red que intecomunica a todos los coches autónomos verás lo poco que nos importa la moral y el sentido común...
#8 ¿Tú crees que los coches autónomos no tienen su propio procesador y que los maneja una red central o algo así?
#11 Bueno, se actualizan conectandose a un servidor en red, si alguien mete un firmware con una pequeña modificacion...
#15 Si eso fuese tan sencillo podría pasar exactamente lo mismo con Windows, Linux, Android, etc... Y que yo sepa no pasa. Es la propia Microsoft la que la caga en esos asuntos, y puede que la cague algún fabricante de coches también, pero también la cagan con los coches actuales, no me parece un tema como para alterarse.
#11 No, pero para evitar atascos, hablarse entre ellos, y tal, no lo van a hacer de manera descentralizada, no? O al menos viendo el ritmo de implementación de medidas de seguridad en la industria y sobretodo, en la parte del código cerrado pues la verdad es que no tengo mucha esperanza de que se tomen las medidas de seguridad necesarias para evitar de manera adecuada cualquier tipo de escenario de hackeo.

Sí, hablo en términos generales y no específicos. Yo solamente digo que tener tu red de transporte interconectada siempre supone un gran peligro.
#23 Y unas grandes ventajas, el problema es ¿Qué pesa más?
#23 Para evitar un atasco no es necesaria ninguna red centralizada, los GPS ya avisan de eso actualmente, el coche solo tiene que tener un algoritmo de preferencias y tener en cuenta los atascos igual que tiene en cuenta autopistas y siempre preguntando al "conductor".
Y si los coches se hablasen entre ellos no entiendo porque tanta inversión en que "se vean" entre ellos, todos tienen cámaras y detectan a los otros coches de esa manera (igual que los humanos), si hay alguna marca intentando interconectar a todos los coches en mi opinión se están flipando un poco.
#23 Sí se va a hacer de forma descentralizada, es la mejor forma y la más segura, así no dependes de servidores centrales que pueden caer. Parece que la mayoría de las marcas están probando hacerlo con IOTA, una criptomoneda pensada para estas cosas.
#3 Yo tampoco me fío y por una razón más profunda: el humano moralmente maduro cuando no es capaz de matar directamente frente a un dilema que "sentencia" que esa salida es la menos costosa en vidas no lo hace solamente por el horror de la ejecución directa sino también porque intuye, e intuye muy bien, que los dilemas morales solo existen como modelos ideales que nunca se dan en la realidad, y porque espera, y con razón, que haya variables instadas en la riquísima realidad que hagan…   » ver todo el comentario
#10 Casi me peta la cabeza.
#21 De verdad que escribir un mensaje largo desde el móvil es una odisea. Debería quedar así (y de paso lo lees otra vez):

Yo tampoco me fío y por una razón más profunda: el humano moralmente maduro cuando no es capaz de matar directamente frente a un dilema que "sentencia" que esa salida es la menos costosa en vidas no lo hace solamente por el horror de una ejecución directa sino también porque intuye, e intuye muy bien, que los dilemas morales solo existen como modelos…   » ver todo el comentario
#22 En la práctica, si se afinan bien los coches autónomos y se implantan masivamente se reducirá bastante en general el número de accidentes, por el simple hecho de que una máquina (salvo error) siempre va a respetar las normas de tráfico y va a conducir con la debida precaución, a pesar de otras limitaciones que puedan no tener los humanos.

Será una cuestión estadística, y todas estas pajas mentales sobre dilemas morales, errores muy puntuales y otras historias se quedarán en algún que otro caso anecdótico que ocurre cada mucho tiempo, reaviva el debate durante unos días y luego vuelta a la normalidad.
#3 Igual que hace años alguien diría que jamás en la vida iba a poner sus fotos y una lista de amigos y conocidos en un tablero público consultable por todo el mundo.

No vas a tener esa opción, nadie te va a preguntar y comprarás el equipo que sea legal vender y poseer.

Por otro lado, este tipo de "dilemas morales" no sirven para eso, por más que se repita, y esta noticia es la prueba. Los dilemas morales sirven para las personas y si algún día una máquina artificial es capaz de…   » ver todo el comentario
#13 Esas situaciones ridículas se dan, y el aparato tiene que tener un baremo para comparar pesos en sus decisiones, este tipo de información es necesaria, aunque en algunos casos nos resulte muy ficticia y muy grosera, tienen que evaluar datos y límites.

Otro tema es, como menciona #3, que vayamos a comprar un vehículo que puede elegir que matar a sus ocupantes es mejor opción que atropellar a una embarazada que está cruzando en rojo, o a cuatro niños, ese tipo de decisiones son muy complejas…   » ver todo el comentario
#18 ¿Realmente crees que alguien va a escribir unas líneas de código en las que se les de unos valores de importancia a una embarazada, a un anciano y a un niño, con unos modificadores según si va en bici, si va en moto, en patinete o andando y luego va a va a poner un código que explícitamente elija a quien atropellar en una situación?

No hombre, no, eso no va a pasar así. Ni se va a preparar al coche para diferenciar un hombre de 50 años de una muchacha de 15, ni se va a preparar para…   » ver todo el comentario
#20 No se trata de la cantidad estadística de posibilidades de que algo ocurra, aquí el problema para que un vehículo autónomo pueda circular es de base legal, a nivel de seguros, indemnizaciones y capacidad de decisión. Y por supuesto que tendrá que distinguir entre un perro y un niño para poder circular, y muchas cosas más. Otra cosa es que los ejemplos propuestos se lleven un poco al extremo, como diferenciar un indigente, que supongo que lo han añadido como parte del estudio ético…   » ver todo el comentario
#26 Es que hablas como si esos sistemas fuesen algo de ciencia ficción. Pero lo cierto es que ya están en pruebas y diseñados mucho antes de este estudio social, y ya están permitiéndose en algunos puntos y planteándose su legalización en el resto. Sin ir mas allá el AutoPilot de Tesla no tiene la característica de ser autónomo oficialmente, pero la gente lo ha usado de esa manera.

El hombre a cuatro patas y el perro es un buen ejemplo: el perro es más impredecible y más ágil, por tanto su…   » ver todo el comentario
#28 Yo no hablo como si fuera de ciencia ficción, al contrario, lo que he comentado es que estos dilemas tiene que tratarlos la IA. Respondía a tu comentario que dice que no se pueden hacer pruebas para estos casos, y que se iba a actuar sólo con un control de colisiones.
#35 Has señalado que no se iba a aceptar la legalidad si no hacia ciertas cosas, yo te he intentado decir que ya se esta aceptando y no hace esas cosas.

La IA no va a tratar dilemas, eso sí que no sería aceptado. Sin un patrón y criterio reproducible y que se pueda analizar objetivamente ningún fabricante ni seguro va a mojarse.
#36 "ya se esta aceptando"

Será moralmente, porque legalmente aún no he visto ningún país que acepte coches autónomos. Y si me equivoco, corrígeme.

Que haya flipados que usen el sistema de Tesla de forma ilegal no quiere decir que se haya legalizado ni aceptado, para que eso ocurra, muchas de estas premisas las tiene que cumplir un coche objetivamente mejor que un humano, y aún así, veremos.

La IA tiene que tratar dilemas, y resolverlos de una forma legalmente aceptable.
#37 Fue portada recientemente.
wwwhatsnew.com/2018/10/31/los-coches-autonomos-de-google-ya-circulan-s

Por saber si seguir este debate tiene sentido ¿Sabes lo que es una IA, los tipos que hay y como funcionan? ¿Conoces el estado del arte actual en ese área?
#3 "Yo no voy a comprar un coche autónomo que tome la decisión de matar a..."

Es decir, prefieres hacerlo en persona.

Yo por mi lado no confío en los primeros algoritmos de los coches autónomos. Pero creo que llegará el momento en donde ellos sean mejores que nosotros en encontrar el menor daño.

Aunque tiene sus problemas. Por un lado tendrán la capacidad de tomar decisiones mucho más rápidamente que nosotros, lo cuál es muy bueno ya que en ciertos casos ni nos daría tiempo de alguna reacción, pero por otro lado pudiera pasar como en "Yo Robot", donde el robot toma la decisión equivocada y no salva a la niña... Pero ¿quién sabe?, al final fue la decisión correcta por lo que sucedió después.
#14 Yo lo que tengo claro, es que jamás compraré un coche autónomo que se plantee la idea de matarme a mi en algún escenario hipotético. Yo compro el coche, yo sobrevivo.
#25 Sobrevivir no depende de ti solamente. Los otros coches (que pueden ser autónomos) también tienen algo que decir al respecto. No puedes escaparte de eso.
#29 A ver si me explico, el resto de coches que hagan lo que quieran, yo espero que un aparato de mi propiedad ponga por encima de todo la seguridad de su dueño.
Si hay que elegir entre estamparse contra un muro a 90km/h y atropellar a 10 gatitos, 4 perritos y 15 pelirrojos, que los atropelle sin miramientos.
Y si el resto de coches intenta evitarlo, bien por ellos, están en su derecho.

Es el mismo caso que el "rumor" ese de que si eres donante de órganos intentan salvarte un poquito menos que si no lo eres, ya que así usan tus órganos para otra cosa. No mire, si soy donante no es para que me dejen morir.
#32 Pero los otros coches (autónomos) pudieran decidir chocar contra el tuyo para desviarte y que choques contra el muro por el bien mayor, para salvar a los 10 gatitos, 4 perritos y 15 pelirrojos.
#33 Y están en su derecho de hacerlo, yo sólo espero que mi coche intente salvarme a mi, no que me estampe contra un muro porque le apetece.

Resumiendo, el resto que hagan lo que quieran, mi coche que me defienda a mi, que para algo es mío.
Y quienes iban a religión ?
¿Y los resultados del estudio acabaran explotados por una empresa como cambridge analytica en un modelo de red neuronal entrenado para detectar y extrapolar la ética de cada usuario de internet por las webs que visita, los me gusta que da, y el resto de datos que recoge el big data?

Los modelos de robo de datos de Cambridge Analytica ya están aquí [EN]
www.meneame.net/story/modelos-robo-datos-cambridge-analytica-ya-estan-
Donde se pueden ver el resto de paises?
Me siento estafado por partida doble. El enlace tiene la foto-cebo y luego no hay enlace para ver los datos. He participado gratis en el estudio y para verlo piden $9.
#9 Venía a comentar esto mismo :-/
#9 Yo también participé en su momento, y entiendo que es su trabajo. Lo justo si has participado es que te dejen ver tus respuestas, no el cómputo total de ellas. Era algo voluntario y en ningún momento dijeron que te diera ningún derecho especial.
#9 Seguro que alguien paga esos 9$ y lo cuelga en algún lado... ¡Esa no la vio venir la IA!

menéame