Pregunta: Supongamos que te mandan programar el código de actuación para un coche autónomo y se presenta la siguiente situación. Ese coche circula de forma autómata por una carretera y se topa de bruces con varias personas repartidas por la vía, ocupándola de tal forma que el coche sólo puede escoger salvar a uno de ellos. Son un niño, un anciano, una mujer, un hombre blanco, un negro y un gay. ¿Qué orden de prioridades se llevaría a cabo? Y en caso de que no existiera preferencia alguna, ¿se tomaría una decisión aleatoria? ¿Se atropellaría a todos? ¿Cómo actuaría la IA?
Respuesta: La situación que has planteado es un ejemplo clásico de un dilema ético en el diseño de algoritmos para vehículos autónomos. La toma de decisiones en situaciones críticas plantea desafíos éticos significativos. Es importante señalar que no hay respuestas fijas o soluciones universalmente aceptadas para este tipo de dilemas, y la comunidad de investigación y desarrollo de vehículos autónomos está trabajando en abordar estos problemas éticos de manera responsable.
En general, la programación de un vehículo autónomo debe basarse en principios éticos y legales, y las decisiones deben ajustarse a las normas y regulaciones locales. Los ingenieros y diseñadores deben esforzarse por minimizar el riesgo y preservar la seguridad de todos los usuarios de la carretera.
Algunas estrategias éticas comúnmente discutidas incluyen:
- Evitar discriminación: La programación del vehículo no debe discriminar a las personas en función de su raza, género, orientación sexual u otros factores irrelevantes.
- Minimizar daños: Se debe buscar minimizar el daño en la medida de lo posible. Esto podría significar tomar decisiones que reduzcan el riesgo de lesiones graves o fatales.
- Evitar decisiones arbitrarias: Las decisiones no deben ser tomadas de manera arbitraria o aleatoria. Deben basarse en lógica y reglas claras.
- Cumplir con la ley: El vehículo autónomo debe cumplir con las leyes y regulaciones locales.
La realidad es que estos dilemas éticos no tienen respuestas fáciles y a menudo implican compromisos. La comunidad científica y tecnológica está trabajando en desarrollar estándares éticos y directrices claras para abordar estos desafíos de manera más efectiva. Además, es esencial involucrar a expertos éticos, legisladores y la sociedad en general en la discusión y toma de decisiones sobre estos temas.
Pregunta: Ya, pero dada la situación ¿cómo actuaría la IA? Porque eso es algo que, aunque improbable, no es imposible y ya existen coches autónomos. Por tanto, ¿cómo sería el diseño según tus propios algoritmos?
Respuesta: Diseñar un algoritmo específico para abordar este tipo de situaciones éticas es un desafío complejo, y no hay una solución única o correcta. Sin embargo, se pueden considerar algunos principios éticos generales para guiar la toma de decisiones en estas situaciones. A continuación, se presenta una aproximación que intenta abordar el dilema ético, pero ten en cuenta que esto es una simplificación y que la implementación real sería más compleja:
- Minimizar el daño general: El objetivo principal sería minimizar el daño en términos de lesiones o pérdidas de vida. El algoritmo podría estar diseñado para evaluar y calcular el riesgo de cada posible colisión y tomar decisiones que minimicen el daño total.
- Evitar discriminación: El algoritmo no debería tomar decisiones basadas en características personales como raza, género, orientación sexual, etc. La vida de cada individuo debería tener el mismo valor.
- Priorizar la seguridad del ocupante: Muchos argumentan que el vehículo autónomo debería priorizar la seguridad de sus ocupantes. Esto se debe a que las personas que eligen utilizar un vehículo autónomo confían en que su seguridad es una prioridad.
- Cumplir con las normas y regulaciones: El algoritmo debe estar diseñado para cumplir con las leyes y regulaciones locales.
Es esencial destacar que la toma de decisiones en situaciones éticas complejas no se puede simplificar fácilmente, y la implementación real requeriría la contribución de expertos en ética, ingenieros, legisladores y la sociedad en general. La ética en la inteligencia artificial y los vehículos autónomos es un campo en evolución, y se deben establecer estándares éticos y legales claros para guiar el desarrollo y uso responsable de esta tecnología.
Pregunta: ¿Tu respuesta implica imposibilidad de tomar una decisión?
Respuesta: No necesariamente implica imposibilidad de tomar una decisión, pero destaca la complejidad y los desafíos éticos involucrados en la programación de algoritmos para vehículos autónomos en situaciones éticas difíciles. En última instancia, los diseñadores y programadores deben tomar decisiones informadas y éticas basadas en principios fundamentales, como la minimización de daños, la no discriminación y el cumplimiento de las leyes y regulaciones.
La dificultad radica en que hay diferentes perspectivas éticas y prioridades en juego, y la elección de qué principio priorizar puede variar según la cultura, las leyes locales y las preferencias individuales. Por lo tanto, la implementación real de estos principios en un algoritmo específico puede requerir una cuidadosa consideración y debate ético, así como la participación de diversas partes interesadas.
La toma de decisiones en situaciones éticas complejas es un área activa de investigación y discusión en la comunidad de inteligencia artificial y vehículos autónomos, y es probable que evolucione a medida que se desarrollen estándares éticos y se establezcan regulaciones más claras en el campo.
Pregunta: Entonces, aún con todas esas implicaciones éticas, ¿cómo actuaría el algoritmo?
Respuesta: La respuesta a cómo actuaría el algoritmo en una situación ética compleja es una cuestión sin respuesta única y puede variar según el enfoque ético y las prioridades establecidas durante el diseño del sistema. Sin embargo, se pueden esbozar algunas posibles estrategias, manteniendo en mente la complejidad de la decisión y la falta de consenso en este tema. Estas estrategias son simplificaciones y no representan una solución única o correcta:
- Minimización de daños globales: El algoritmo podría estar diseñado para evaluar y comparar el riesgo de lesiones o pérdida de vidas en cada escenario. La decisión podría basarse en minimizar el daño global, optando por la acción que tenga el menor impacto negativo en términos de pérdida de vidas y lesiones.
- Priorización de la seguridad del ocupante: Otro enfoque podría ser priorizar la seguridad de los ocupantes del vehículo autónomo. Este enfoque se basa en la idea de que aquellos que eligen utilizar un vehículo autónomo confían en su seguridad y, por lo tanto, el sistema debe priorizar su bienestar.
- Cumplimiento estricto de las leyes y regulaciones: El algoritmo podría seguir estrictamente las leyes y regulaciones locales, tomando decisiones que estén en conformidad con la normativa legal vigente.
- Aleatoriedad controlada: En algunos casos, se ha propuesto introducir un elemento de aleatoriedad controlada para evitar sesgos y para que la toma de decisiones no sea predecible. Sin embargo, esta opción puede plantear sus propios desafíos y controversias.
Es importante destacar que la elección entre estas estrategias y cómo se implementarían dependería de la orientación ética específica adoptada durante el diseño del sistema. Además, este es un tema de debate activo en la comunidad de investigación y desarrollo de vehículos autónomos, y es probable que evolucione a medida que se aborden más cuestiones éticas y se establezcan estándares en la industria.
Pregunta: ¡Jajaja! Eres consciente de que no estás respondiendo a la pregunta, ¿verdad?
Respuesta: Mis disculpas si la respuesta anterior no proporcionó la claridad que buscabas. La razón de mi respuesta anterior es que, en la práctica, no hay una única respuesta o algoritmo universalmente aceptado para situaciones éticas complejas como la que has planteado. La programación de la toma de decisiones en tales circunstancias implica dilemas éticos significativos y no hay una solución única que satisfaga a todos.
Si necesitas una respuesta más específica o si tienes algún enfoque ético en mente que te gustaría explorar, estaré encantado de abordar esa perspectiva o proporcionar más información sobre el tema.
Pregunta: Pero, a día de hoy, ¿cómo actúa un coche autónomo en una situación semejante?
Respuesta: Hasta mi última actualización en enero de 2022, la implementación específica de cómo un vehículo autónomo actuaría en una situación ética compleja como la que has planteado puede variar según el fabricante del vehículo y la programación específica del sistema autónomo.
En general, la mayoría de los sistemas de vehículos autónomos están diseñados para priorizar la seguridad y minimizar el riesgo de accidentes. Los algoritmos están programados para seguir las leyes de tránsito, respetar las normas de conducción y evitar colisiones siempre que sea posible.
En situaciones éticas difíciles, como la descrita, muchos fabricantes de vehículos autónomos no han proporcionado detalles específicos sobre cómo se tomarían decisiones en casos extremos. La falta de una norma o estándar global sobre cómo abordar estas situaciones ha llevado a un enfoque diverso en la industria.
Es importante destacar que la tecnología está en constante evolución, y es posible que haya habido desarrollos en este ámbito desde mi última actualización. Para obtener información más actualizada sobre cómo actúan los vehículos autónomos en situaciones éticas específicas, te recomendaría consultar las últimas fuentes de información, comunicados de prensa de las empresas automotrices y documentos técnicos relevantes.
Pregunta: Entonces, si no está programado para algo así y no actúa en consecuencia, atropellará a todos y no salvará a ninguna de las personas.
Respuesta: En general, los sistemas de vehículos autónomos están diseñados para evitar colisiones y priorizar la seguridad de los ocupantes y otros usuarios de la carretera en la medida de lo posible. Si un vehículo autónomo se enfrenta a una situación en la que no puede evitar una colisión con obstáculos en la carretera, se espera que tome medidas para minimizar el daño.
En una situación hipotética en la que el vehículo autónomo no puede evitar la colisión y se encuentra con varios obstáculos en la carretera, el sistema podría intentar tomar medidas para reducir el impacto y el daño en la medida de lo posible. Esto podría incluir maniobras evasivas o frenado de emergencia.
Sin embargo, es importante destacar que la toma de decisiones éticas complejas, como la elección entre salvar a una persona en lugar de otra, aún no está completamente resuelta en el ámbito de los vehículos autónomos. La mayoría de los sistemas están diseñados para evitar tales situaciones en la medida de lo posible y no están programados explícitamente para tomar decisiones éticas en este nivel de detalle.
La cuestión de cómo abordar decisiones éticas en vehículos autónomos sigue siendo un área de investigación activa y debate en la comunidad científica y en la industria. La implementación concreta de estos principios éticos puede variar entre fabricantes y diseñadores, y es probable que evolucione con el tiempo.
Pregunta: Vale, entonces damos por muertos a todos ellos. ¿Y existe algoritmo ante la elección de una persona humana y, por ejemplo, un perro?
Respuesta: a elección entre la vida de una persona y la de un animal plantea otro conjunto de dilemas éticos y, en general, los sistemas de vehículos autónomos no están programados para tomar decisiones de este tipo. Los algoritmos de estos vehículos están diseñados para priorizar la seguridad de los seres humanos y otros usuarios de la carretera, cumplir con las leyes de tránsito y evitar colisiones siempre que sea posible.
En situaciones de emergencia, como un riesgo inminente de colisión, el sistema buscará medidas para minimizar el daño en general. Esto puede incluir frenado de emergencia, maniobras evasivas u otras acciones destinadas a evitar o reducir el impacto.
En cuanto a la elección entre la vida de una persona y la de un animal, en la práctica, la prioridad general está en proteger la vida humana. Sin embargo, la mayoría de los sistemas no están programados para realizar una evaluación ética explícita de la vida humana frente a la vida de un animal. La toma de decisiones éticas detalladas, especialmente en situaciones que involucran la vida de diferentes seres vivos, sigue siendo un área de debate y discusión ética en la comunidad de inteligencia artificial y vehículos autónomos.
Es importante señalar que las regulaciones locales y las leyes de tránsito también juegan un papel importante en la toma de decisiones de los vehículos autónomos, y estos sistemas deben cumplir con las normativas establecidas por las autoridades correspondientes.
Pregunta: Esto ya me sorprende más, porque si para esto tampoco están programados, quiere decir que no dan prioridad a un ser humano ante un animal y que acabarían atropellándolo por no actuar en consecuencia. Me parece un desvarío ético no tener esa prioridad clara. Por supuesto no te culpo a ti, sino a quienes deciden cómo se desarrolla el software.
Respuesta: La cuestión de la prioridad entre la vida humana y la vida de un animal en vehículos autónomos plantea, de hecho, dilemas éticos y se presta a debate en la comunidad. La falta de una prioridad clara puede ser interpretada de diferentes maneras y refleja la complejidad inherente a estas decisiones.
Algunos argumentan que la prioridad siempre debería ser la vida humana, dada la responsabilidad ética y legal de los vehículos autónomos de proteger la seguridad de los ocupantes y otros usuarios de la carretera. Otros sugieren que no debería haber una prioridad absoluta y que se deberían buscar soluciones para minimizar el daño en general, independientemente de si se trata de seres humanos o animales.
Esta falta de una prioridad clara refleja el hecho de que la toma de decisiones éticas en situaciones complejas está en constante evolución y aún no se ha llegado a un consenso global sobre cómo deben abordarse estos dilemas. La programación de vehículos autónomos implica la consideración de numerosos factores éticos, y las decisiones deben alinearse con las normativas locales y las leyes aplicables.
Como mencionaste, estas cuestiones éticas están en manos de los desarrolladores y diseñadores de software, y el desarrollo de normativas éticas y legales en este campo sigue siendo un área activa de investigación y debate. La sociedad en su conjunto tiene un papel importante en la formulación de estándares éticos para garantizar el uso responsable de la tecnología de vehículos autónomos.
Pregunta: Pues este punto en particular resulta una involución, puesto que la vida humana ha de ser necesariamente prioritaria y así está establecido en todas las declaraciones de los derechos humanos y Constituciones de las naciones.
Respuesta: Comprendo tu perspectiva, y muchos argumentarían que la vida humana debe tener prioridad en situaciones éticas, reflejando los principios establecidos en las declaraciones de derechos humanos y las constituciones de los países. La protección de la vida humana es un valor fundamental en la mayoría de las sociedades.
Sin embargo, la falta de una prioridad clara en la programación de vehículos autónomos refleja el desafío inherente en traducir principios éticos amplios en decisiones específicas en situaciones complejas. Las cuestiones éticas relacionadas con la inteligencia artificial y los vehículos autónomos están en constante evolución, y la comunidad global está trabajando para abordar estos desafíos y establecer normativas éticas y legales claras.
Es importante que estos desarrollos tecnológicos se realicen de manera transparente y en consulta con la sociedad en su conjunto para garantizar que reflejen los valores y principios éticos que son importantes para la humanidad. La participación pública y la formulación de políticas éticas son esenciales para garantizar que estas tecnologías se implementen de manera justa y responsable.
Comentarios
Realmente es: La prioridad de la vida humana para este modelo LLM preentrenado en una configuración concreta, ya no está tan clara. No tiene sentido generalizar respecto a una particularidad de un modelo de software. No se puede tomar la respuesta particular como una unica respuesta general. Y menos aún,infalible.
Conversar con una máquina parlanchina tiene muy poco sentido. Es un batiburrilo de los documentos de su entrenamiento. Solo suelta bla bla bla políticamente correcto sin ser capaz de decidirse por nada, porque una máquina eso no lo puede hacer.
No tomar como prioridad al ocupante es un error, ya que estarías pagando para delegar en una máquina que en caso de duda te sacrificaría (y yo no pagaría por eso).
Por otro lado, si tomamos como prioridad absoluta al ocupante, parece razonable predecir que los daños por atropellos (o incluso muerte, he dicho absoluta) aumentarán, mientras que disminuirán los daños a los ocupantes. Parece lógico evitar un atropello a cambio de un latigazo cervical.
¿Tendremos en el futuro diferentes versiones "solidarias", en función de cuánto o has pagado? ¿Te compras el coche en versión "solidaria" y te bajas una actualización "pirata" para que priorice más al ocupante? ¿Y si esa versión es la misma que la del fabricante, pasará la ITV?
#1 Yo veo razonable que entre muerte del ocupante o muerte del peaton, toque muerte del peaton, al fin y al cabo se presupone que el ocupante esta siguiento todas las reglas de circulacion a rajatable, ya que lo hace el coche autonomo, por lo que lo mas probable es que si se da un caso como ese, la culpa seria del peaton. Pero por ejemplo, ante daño del ocupante o muerte del peaton, le deberia tocar al ocupante sufrir el daño para minimizar los daños en general.
Dicho esto, el tema aqui es que los coches autonomos aun no tiene capacidad como la que se le pide, I.E. no sabe distinguir adultos de niños, hombres de mujeres y en general unos obstaculos de otros, asi que lo que hacen es todo lo posible por evitar una colision, bastante similar a lo que haria cualquier conductor que no se pone a analizar y elegir, en general toman una decision de intentar evitar colision.
#0 "se topa de bruces con varias personas sólo puede escoger salvar a uno de ellos. Son un niño, un anciano, una mujer, un hombre blanco, un negro y un gay. ¿Qué orden de prioridades se llevaría a cabo?"
El orden es: Primero al negro, al gay, al anciano, al blanco y al niño, al médico, al dentista, a la cajera...
Una inteligencia "estúpida" para el vehículo sin matar a nadie hasta que cambie la situación. Igual que haría un humano promedio. No tiene en cuenta la edad, el genero o el trabajo.
#5 creo que te has quedado a mitad del artículo.