Sobre ética computacional

¿Un algoritmo puede tener ética? Podríamos imaginar una hipotética situación donde hay un sistema de Inteligencia Artificial instalado en un vehículo autónomo, el cual, debe elegir entre dos opciones, (1) atropellar a una persona; (2) estrellarse contra otro vehículo; esto para reducir el daño de su dueño y del mismo vehículo, ¿Qué debería hacer? ¿Existe lo correcto en estas dos posibilidades? Creo desde mi punto de vista que se debe siempre privilegiar la vida humana, pero, en este ejemplo, cualquiera de las dos opciones generaría daños a una persona (e incluso irreparables), entonces, el problema se vuelve sin solución.

Este tema podría ser algo fundamental en los próximos años, donde la Inteligencia Artificial se masifique y cada día más los algoritmos formen parte de nuestra vida, ya no tan solo como entes externos e invisible para la mayoría, sino más bien, actores protagonista en donde se puede visualizar su rol en nuestro mundo, y donde sus decisiones nos podrían afectar directamente. Así, es claro, que se debe crear un estándar ético para los algoritmos; a pesar de ser componentes abstractos, se debe y se puede, lograr establecer reglas, como las leyes que debe cumplir un ciudadano en un País, pero estas llevadas a un sistema computacional donde sean transversales y clasificadas por categorías de software, y no, solo controladas y en secreto por una compañía.

Si vemos el ejemplo al inicio del párrafo anterior, podríamos clasificarlo como extremo, sin duda, pero ese y muchos otros ejemplos pueden pasar de ser una historia exagerada a algo real, y no solo con vehículos autónomos, sino también, en situaciones que son más sutiles e inadvertidas. Estas situaciones pueden darse en el terreno de algoritmos basado en probabilidades — que hoy en día se encuentran en diversos lados — , donde se crean modelos que fueron entrenados con grandes cantidades de datos para predecir resultados futuros, pero ¿Quién asegura que el modelo utilizó valores correctos? ¿Qué son valores correctos? Comenzaré con la segunda, valores correctos hago referencia a un grupo de datos no sesgado ni manipulado de manera externa, entonces, para la primera, diría que caemos en un tema totalmente ético, porque nadie me puede asegurar aquello, a menos que exista un reglamento interno dentro de la empresa, que se refiera a esto de manera explicita, especialmente a como se crean y se entrenan estos algoritmos, pero incluso si ese reglamento existiera, ¿quién se encarga de controlar que se cumpla?

Caemos en otro problema entonces, debe existir un ente regulador externo que pueda comprobar que las cuestiones se hagan de una manera ética, pero si el ente externo no es ético entonces estamos dentro de un ciclo infinito, donde no hay salida y solo debemos confiar en las personas o en la suerte, y no estoy seguro de cual de las dos es más difícil.