El siguiente artículo es una traducción parcial y libre de Kommentar: Informatiker übernehmt endlich Verantwortung! (alemán).
1. Hecho por personas
Somos observados, medidos, manipulados y espiados. ¿Pero por quién? ¿Por los servicios secretos? ¿El Estado? ¿Por Google o Facebook? Sin duda son los principales responsables de tal escenario. ¿Pero quién les ha dado ese poder? Todo aquel que trabaje para esas entidades y sea capaz de crear un algoritmo, los programadores y personal de IT. Personas como tú y como yo que deben ganar dinero y tienen también una consciencia. Pero los programadores suelen vivir encerrados en su burbuja y apenas se preocupan de las consecuencias sociales de su trabajo.
Hay muchos ejemplos: el software que manipulaba las emisiones de los coches Volkswagen. Los algoritmos de Facebook que deciden lo que cada persona debe ver. Los sistemas de armas autónomas decidirán pronto si alguien debe morir. El sistema de puntuación del gobierno chino para sus ciudadanos.
Los programadores no deciden en la mayoría de los casos crear estos algoritmos, pero contribuyen a en su creación y desarrollo.
2. Pautas éticas para programadores
Muchos no lo saben, pero al igual que periodistas y médicos tienen códigos éticos, existen también pautas éticas para programodores. Por ejemplo Code of Ethics and Professional Conduct (ACM) o el Ethical Guidelines of the German Informatics Society. Estos códigos no están formulados como una obligación, pero pueden ser reconocidos por los trabajadores del sector IT.
¿Cómo sería ahora nuestro mundo si los programadores se hubieran adherido a estas líneas de conducta? Difícil de imaginar. Programadores e informáticos no son los máximos responsables, pero si la mayoría hubiera seguido una conducta ética las grandes empresas y gobiernos lo hubieran tenido más difícil en sus objetivos de espiarnos y manipularnos.
3. El status quo
Hay pocos expertos en seguridad informática que usen WhatsApp o software similar. Y si lo usan lo hacen de forma controlada. Es obvio, saben el riesgo que supone su uso. Pero a la mayoría les falta el compromiso de convencer a sus familias, amigos o, mejor, intentar llegar al público general. En su lugar se conforman con el pensamiendo de que las personas normales son idiotas y culpables de que los espíen.
Por otro lado a las personas no expertas les falta la comprensión técnica y el tiempo necesario para investigar y adentrarse en soluciones alternativas. También es difícil saber medir el riesgo que supone tal software. Así se crea un status quo bien aprovechado por quien nos espía.
4. Llamamiento para la consciencia digital
Quién sino, vosotros programadores, debe poder medir las consecuencias sociales de lo que hacéis. Quién sino, vosotros programadores, debe poder ofrecer alternativas al Capitalismo de vigilancia, el nuevo mundo feliz en el que el producto eres tú
El mundo digital ha entrado de lleno en la vida de las personas y afecta a toda la sociedad. Es incalculable las consecuencias de un software mal usado y todavía no están claras las consecuencias para la socidad actual y futura. Sería algo grande que los informáticos, programadores y trabajadores del sector IT aceptaran su responsabilidad.
Comentarios
El software puede tener buen o mal uso, incluso los que se utilizan en la ciberdelincuencia suelen proceder de software hecho con otros propósitos. A mi como programador, me pides la responsabilidad de servicios digitales que tú libremente usas, si crees que una red social capta tus datos, simplemente date de baja, no responsabilices al programador de lo que debe ser tu responsabilidad como usuario, lo mismo aplica al coche que manipulan, como usuario, debes pedirles responsabilidades al que te lo vendió, porque si uno no hace el software, tranquilo que siempre habrá otro para hacerlo.
#1 incluso los que se utilizan en la ciberdelincuencia suelen proceder de software hecho con otros propósitos.
Habrá de todo. El software "normal" usado para otros propósitos suele necesitar el trabajo de alguien que lo retoque. Normalmente no suele funcionar eso de cortar y pegar un software, hace falta algún programador o alguien que lo instale.
A mi como programador, me pides la responsabilidad de servicios digitales que tú libremente usas
El mercado no es tan libre cuando hay monopolios o se engaña.
si crees que una red social capta tus datos, simplemente date de baja, no responsabilices al programador de lo que debe ser tu responsabilidad como usuario, lo mismo aplica al coche que manipulan, como usuario, debes pedirles responsabilidades al que te lo vendió
El usuario también tiene responsabilidad, no se la quito. El problema es que es una cuestión bastante técnica y falta cultura para tener una visión más amplia.
Los fabricantes de coches si hacen algo mal son responsable y hay sentencias. El vendedor será responsable en el caso de que venda a sabiendas algo defectuoso. En software fabricante y vendedor son casi siempre los mismos.
Esto es más bien como si un fabricante de juguetes pidiera a un químico crear un plástico perjudicial para la salud y que será usado en juguetes para niños. Si el químico entra en el juego será responsable en alguna medida del mal que causen esos juguetes. Y no me invento el ejemplo, es algo real que ya ha pasado.
Precisamente es lo que se denuncia en el artículo. Los programadores suelen tener unos argumentos que salen de su burbuja y empiezan a echar balones fuera. Un poco la banalidad del mal que decía Arendt. Hannah Arendt, breve biografía: analizando y destripando la banalidad del mal
Hannah Arendt, breve biografía: analizando y destr...
filco.esporque si uno no hace el software, tranquilo que siempre habrá otro para hacerlo.
Eso será cierto a medias. No es lo mismo que 10 personas estén dispuestas a hacer algo malo a que sea solo 1.
Asumiré mi parte de responsabilidad cuando los que votaron a los gobiernos que piden a los desarrolladores que se hagan esos programas, asuman la suya.
Ni un momento antes, ni un momento después.
#14 Blanco y en botella, claramente humo, y se vende en cantidades industriales duante 15 años... gracias por el enlace.
#12 No lo entendiste tan mal. Más bien no lo definí de forma más concreta intencionadamente. Primero para que haya debate, y segundo porque yo no tengo la solución.
Sí, es un problema que va desde el civismo a cosas más complicadas como un órgano regidor o leyes. El problema es complejo, no solo va desde la calidad del software en sectores críticos, sino a la intención o consecuencia de ese software en cosas más banales (redes sociales, influencias en las democracias, manipulaciones en medios). Todo es software hoy en día.
Más allá de movimientos como el open source o cosas espectaculares como la IA, me da a mí que los programadores viven en su mundo y les da igual las consecuencias de su trabajo. Tú mismo pones el ejemplo en sanidad, esto ya empieza a ser peligroso y pasará algo gordo, si es que no está pasando ya y no nos damos cuenta.
Antes me hablabas de dinero, pero hay profesionales que cobran peor, con mucho estrés y con mucha más conciencia social que los programadores. Por ejemplo los maestros. Ahí tenéis un modelo a seguir de profesionales importantes para la sociedad, muchas veces malviviendo con sueldos míseros, pero con conciencia social y sociedad que vigila a ese colectivo.
Queridos usuarios: Cuando los informáticos tengamos un colegio que nos defienda, cuando sea necesario que un ingeniero informático firme un proyecto para que este se pueda comercializar, cuando se dejen de contratar putos telecos y demás intrusos que han dado 2 clases de Visual Basic o Pascal para programar y crean programas que funcionan en sus PC's pero no en los equipos de producción, en ese momento, tal vez, empiece a plantearme si debemos responsabilizarnos del código que nos compráis...
Me niego.
Si empezamos a asumir responsabilidad, lo próximo será posiblemente aceptar algún tipo de código deontológico para poder ejercer profesionalmente o la exigencia de responsabilidades civiles o penales por hacer algo contra este.
Yo prefiero que la responsabilidad de mi trabajo recaiga sobre el que me haya pedido que lo haga.
#6 Aunque entiendo totalmente tu punto de vista, y en parte lo comparto, a modo personal no tengo claro que es peor y también le encuentro razón a #7. En general, mi máxima es que alguien no puede ser responsable de algo sobre lo que no tiene margen de decisión.
Yo solamente vería bien ese asumir responsabilidades si se paga acorde, o si está con un puesto acorde. De lo contrario lo mismo es como pedirle a alguien que pone ladrillos que tenga responsabilidad sobre la viabilidad de todo un proyecto urbanístico...
#8 Aquí se pasa del blanco al negro a la velocidad de procesado de un Ryzen 7.
Quiero puntualizar un par de cosas. Lo importante es que empiece a haber un debate, porque la sociedad ahora mismo depende de los algoritmos. Por suerte o por desgracia los programadores están influyendo la vida de las personas como los colectivos de profesores, profesionales de la salud, fuerzas de seguridad, funcionarios, etc.
Si a ciertos colectivos cruciales para la sociedad se les exige un comportamiento moral más alto, no veo por qué no se le puede exigir a los profesionales del sector IT.
Lo que dice #7 es un buen debate. En el articulillo de arriba no se dice que el camino sea un código deontológico. A mí de primeras también me parecería algo exagerado exigir eso a un programador de videojuegos. Y también tengo claro que los máximos responsables de un producto son las empresas.
Pero la cosa cambia si ese programador está desarrollando código en el sector salud o seguridad vial. Ahí ya se juega con la vida de las personas. La solución no la sé, y no sé si el código deontológico es exagerado. ¿Alguna solución intermedia? Para eso el debate.
Algunas ideas para empezar a asumir responsabilidad. Leerse los códigos de conducta ética que enlazo en el artículo. Avisar al jefe que la herramienta X sirve para espiar a los usuarios. Denunciar de forma anónima dentro de la empresa a instancias más altas. Denunciar de forma anónima a la prensa de que tu empresa está espiando a sus clientes o de que el software es peligroso para la salud (según el caso). Informar a la gente normal y no tratarlos de idiotas.
Pasos más atrevidos son no aceptar ciertos encargos, negarse a escribir software o a usar ciertas herramientas que sabéis perfectamente que no son moralmente aceptables.
Y sobre todo, no echar balones fuera y ser consciente de la importancia e influencia del software en nuestras sociedades.
#9 Supongo que lo entendí mal, más bien cuando hablas de responsabilidad parece que hablas de civismo así como cualquiera tendría que ser responsable por la sociedad en la que vive. Aún así considero muchas cosas que comentas complicadas, aunque algo se podrá cambiar, y que los informáticos intenten cambiar poco a poco la mentalidad de jefes y de la sociedad, pero la única salidad realista que veo es intentar que sea un cambio que se imponga por legislación sobre temas particulares...
A mi me da escalofrios tener conocidos que sé como trabajan en sectores como la sanidad, me extraña que no haya muerto nadie, porque el funcionamiento es un despropósito (y no considero que sea culpa de ellos). Se trata de cárnicas que subcontratan a subcontratas para un trabajo crítico para hospitales, en los que muchas veces no hay nadie que realmente sepa lo que pide el hospital, ni que conozca la lógica del negocio, y que sus empresas simplemente los envían a sobrevivir como puedan resolviendo incidencias o desarrollos nuevos...
#12 Mira qué casualidad. jefe-apple-llama-silicon-valley-fabrica-caos-sin-responsabilidad/c01#c-1
El jefe de Apple llama a Silicon Valley "fábr...
youtube.comSi es que empieza a ser blanco y en botella.
En realidad aunque no soy experto en programación precisamente (aunque sí se de ella), ni es exactamente lo mío. Debo reconocer que es cierto la poca responsabilidad que hay en este tema. Fuera de la excusa, que es real, de echarle siempre la culpa al informático. No es menos cierto que a veces al menos parte de la culpa la tienen.
Voy a decir una cosa, que ya dije, pero que no deja de ser verdad desde mi punto de vista. En los años 80 se pensaba más en el desarollo del código que ahora, que son todos prisas para posicionarse primero en el mercado. Esto se vé mucho con los videojuegos ¿y cual es el resultado? Juegos inacabados, juegos con problemas graves. Y esto, en software de pago es inadmisible. En software libre es bastante más aceptable ya que al menos no tiendes a pagar por él, salvo excepciones, como para pedir responsabilidades. Si bien en un cómputo global de calidad y de que un software tenga que hacer unas funciones u otras, que se supone que fue desarrollado para esto. Si este anterior no cumple eso, da igual la licencia ese software es una chapuza.
A la vez uno de los mantras, de los muchos que hay, es que automáticamente porque un software sea privativo es mejor que uno libre. A veces y como mucho, lo único que veo es que el software privativo tiende a tener diseñadas mejores interfaces más fáciles de usar. Pero es lo único.
Volviendo al tema de la programación, si un software mal programado y usándose correctamente (otra cosa es que si te dicen que no pulses el botón formatear disco duro y tú solo querías borrar un programa y te "cargas" todo) provoca un problema que hace que se pierdan datos o se dañen dispositivos, obviamente quienes lo programaron deberían hacerse responsables. Como el fabricante de cualquier producto físico. Porque una de las cosas que siempre me hace gracia del tema de la propiedad intelectual y los productos digitales es que sólo les interesan las ventajas, pero no los incovenientes. Por ejemplo ¿Si un producto físico tiene dos años de garantía? ¿Por qué no lo tienen un producto digital, que no deja de ser un producto?. Luego sin embargo cuando hablamos de temas como la piratería, ahí si interesa compararlo con un producto físico (lo cual es absurdo por otro lado, porque el coste de duplicación de un producto físico es abismalmente mayor que una copia digital, ya que un producto digital se puede hacer una vez y replicar millones a un coste ínfimo y despreciable. Un producto físico no)
Precisamente algunas leyes están variando en este aspecto y más que van a variar en el futuro. Especialmente por la transformación "forzosa" de productos digitales a servicios digitales.
Salu2
#5 Creo que no es ese el punto del artículo. No es una cuestión de calidad técnica, que también, sino moral.
Lo de echarle la culpa al informático es un chiste y se refiere a los fallos técnicos del software o todo lo que sea IT. Es decir, cuando la maquina no cumple su función técnica.
El punto al que tú te refieres, y que ejemplificas bien en el penúltimo párrafo, es una cuestión que compete más a la empresa. Ahí es un tema de responsabilidad empresarial y buen servicio al consumidor.
* * *
El artículo culpabiliza no por lo malo que sea el software técnicamente, sino por la función a la que va destinado o lo que hace. El programador programa algoritmos moralmente indeseables para la sociedad, y lo hace a sabiendas.
El llamamiento es que tienen que ser moralmente más responsables y no coger el dinero y "olvidarse del resto".
¿Por qué me parece tan importante? Porque el software se ha convertido en algo indisoluble de la sociedad, y ya no hay sociedad (democracia, salud, seguridad, privacidad, economía) sin software.
Ya lo dijo wekeleaks
Más 0 days y menos tonterías es lo que hace falta. Putos milenials dando por culo cuando no saben ni usar el GDB.