Audrey Azoulay, Directora General de la UNESCO, presentó el jueves la primera norma mundial sobre la ética de la inteligencia artificial, adoptada por los Estados Miembros de la UNESCO en la Conferencia General. Este texto histórico establece valores y principios comunes que guiarán la construcción de la infraestructura jurídica necesaria para garantizar un desarrollo saludable de la IA.
1. No hay mejor protección de datos que el no alojamiento de tus datos ni operabilidad en compañías privadas, sobretodo aquellas con algún historial de vulnerabilidad o abuso de posición dominante. Complicado si las sanciones no son ejemplares máxime cuando el "antiguo" escudo de privacidad fue declarado inválido por no resultar seguro.
2. Del dicho al hecho hay un trecho, no me queda claro que las compañías (o países) no vayan a utilizar estos mecanismos y luego lo disimulen de algún modo. Aunque una compañía la puedes intervenir, pero a un país...
3. "La Evaluación del Impacto Ético pretende ayudar a los países y a las empresas que desarrollan y despliegan sistemas de IA a evaluar el impacto de esos sistemas en las personas, la sociedad y el medio ambiente." Países y empresas equivale a público y privado, pero no habla sobre la transparencia que se indica en el punto 1 en cuanto a la ejecución de los códigos. Tenemos un claro ejemplo con los algoritmos que muestra un misterioso listado de recomendaciones cuando se termina de visualizar un vídeo en alguna plataforma y aunque yo pudiera no hacer absoluto caso mucha gente sí podría hacerlo. Recuerdo, de hecho, que tras ver un vídeo de algo relacionado con políticas progresistas me saltó directamente, al terminar, a una manifestación de Vox con Abascal dialogando.
4. Tecnología y medio ambiente... el abuso de las tecnologías puede tener connotaciones negativas directamente sobre este, como por ejemplo que todo el mundo quiera lo último en móviles + tabletas, o que las empresas se pasen por el Arco de Triunfo el índice de reparabilidad sin importarles poner puntuación baja en sus etiquetas. Por no hablar de la obsolescencia programada.
Es lo que ocurre cuando los lobbies tienen un control elevado de lo que se produce a nivel industrial o tecnológico. La IA, como herramienta, en lo que más puede cojear es en la ética pero si los gobiernos lo permiten me temo que poco habrá que hacer. La IA puede ser una herramienta relativamente ya existente donde muchos de los lectores la tengan en sus casas, como por ejemplo el uso de un sistema operativo que hace bastantes cosas por ti y tiene servicios funcionando o haga ciertas cosas, como copias de seguridad en la nube, sin que lo sepan. La mejor IA es la que se pueda controlar de forma individual y/o se tenga conocimiento de su alcance (por ejemplo, si comunica información al exterior o si la almacena en alguna parte). Si no se tiene ese conocimiento, lo mejor es aislarla o prescindir de ella, incluso para los juegos, aunque pudiera parecer exagerado.
Comentarios
1. No hay mejor protección de datos que el no alojamiento de tus datos ni operabilidad en compañías privadas, sobretodo aquellas con algún historial de vulnerabilidad o abuso de posición dominante. Complicado si las sanciones no son ejemplares máxime cuando el "antiguo" escudo de privacidad fue declarado inválido por no resultar seguro.
2. Del dicho al hecho hay un trecho, no me queda claro que las compañías (o países) no vayan a utilizar estos mecanismos y luego lo disimulen de algún modo. Aunque una compañía la puedes intervenir, pero a un país...
3. "La Evaluación del Impacto Ético pretende ayudar a los países y a las empresas que desarrollan y despliegan sistemas de IA a evaluar el impacto de esos sistemas en las personas, la sociedad y el medio ambiente." Países y empresas equivale a público y privado, pero no habla sobre la transparencia que se indica en el punto 1 en cuanto a la ejecución de los códigos. Tenemos un claro ejemplo con los algoritmos que muestra un misterioso listado de recomendaciones cuando se termina de visualizar un vídeo en alguna plataforma y aunque yo pudiera no hacer absoluto caso mucha gente sí podría hacerlo. Recuerdo, de hecho, que tras ver un vídeo de algo relacionado con políticas progresistas me saltó directamente, al terminar, a una manifestación de Vox con Abascal dialogando.
4. Tecnología y medio ambiente... el abuso de las tecnologías puede tener connotaciones negativas directamente sobre este, como por ejemplo que todo el mundo quiera lo último en móviles + tabletas, o que las empresas se pasen por el Arco de Triunfo el índice de reparabilidad sin importarles poner puntuación baja en sus etiquetas. Por no hablar de la obsolescencia programada.
Es lo que ocurre cuando los lobbies tienen un control elevado de lo que se produce a nivel industrial o tecnológico. La IA, como herramienta, en lo que más puede cojear es en la ética pero si los gobiernos lo permiten me temo que poco habrá que hacer. La IA puede ser una herramienta relativamente ya existente donde muchos de los lectores la tengan en sus casas, como por ejemplo el uso de un sistema operativo que hace bastantes cosas por ti y tiene servicios funcionando o haga ciertas cosas, como copias de seguridad en la nube, sin que lo sepan. La mejor IA es la que se pueda controlar de forma individual y/o se tenga conocimiento de su alcance (por ejemplo, si comunica información al exterior o si la almacena en alguna parte). Si no se tiene ese conocimiento, lo mejor es aislarla o prescindir de ella, incluso para los juegos, aunque pudiera parecer exagerado.
Ética que los países de siempre se pasarán por el forro a la primera de cambio.