Publicado hace 5 años por Calipodelimon a technologyreview.es

Si las herramientas no se diseñan teniendo en cuenta las necesidades de las minorías, no conseguirán nada más que agravar los problemas que ya sufren.

Comentarios

Forni

#1 Algo me dice que no tienes demasiado claro a qué se dedica un sociólogo, o las necesidades de las IA roll

irislol

#4 Me parece que eres tú quien no tiene demasiado claro como funciona la algoritmia. Un algoritmo no tiene "necesidades", es absurdo. Tiene la misma racionalidad que decir "nube frita".

D

#7 Sobre cama de patatas paja. By@JavierB

Forni

#7 No voy a entrar en la algoritmia, porque meternos en cómo las IA toman decisiones precisamente es un mundo de condicionantes y variables innabarcables que terminan solucionándose mediante probabilidad. Pero me basta tu comparación con el clero: un sociólogo no crea éticas, ni filosofías, no diferencia lo bueno y lo malo: estudia comportamientos, y en ese sentido las IA son conductuales. Los algoritmos no tendrán "necesidades" para funcionar, pero si el objetivo de una IA es ser "racional" tendrás que contar con profesionales que conozcan el desarrollo de conductas.

irislol

#12 No. Estás sustantivizando los algoritmos, cuando realmente son operaciones sobre datos de entrada preestablecidos (input data sets), son funciones como las que estudiábamos en el colegio f(x)=y. Un algoritmo no "discrimina" porque no tiene vida psicológica interior. Si los resultados del algoritmo de IA "discrimina" es porque los inputs datasets están viciados, no porque el algoritmo sea un "discriminador".

No se puede entrar a hablar de algoritmia cuando no se sabe como funciona, porque sólo conduce a cosas sin sentido.

cc #11

Forni

#13 ¿Quién ha hablado de psicología? ¿Diferenciamos "valorar el comportamiento" a "crear un comportamiento"? El asunto no es que el algoritmo sea "arbitrario" y por ende se necesite de alguien que le de "sentido", sino conseguir que los resultados del mismo den lugar a los patrones de un comportamiento.

¿Has visto la partida de la IA de Google con Go? ¿Cómo explicas lo que llaman "jugadas fantasma"? (en el caso que no: cuando está acorralado, opta por jugadas con baja probabilidad de victoria, al menos según "los datos que miden")

RyCooder

#13 ¿Entonces no se puede diseñar un algoritmo para que discrimine? Adrede

arturios

Con esto que llaman IA y que es mejor llamar aprendizaje profundo pasan dos cosas, la primera es que los algoritmos son buscadores de patrones dentro de los datos, lo hacen estupendamente bien, pero no se sabe como lo hacen, véase https://www.technologyreview.es/s/7692/el-secreto-mas-oscuro-de-la-inteligencia-artificial-por-que-hace-lo-que-hace

El otro problema, tal y como lo señala #13 es que los datos estén sesgados o mal preparados.

Esto provoca cosas como que un programa para conducir "aprendió" que las carreteras son "NO VERDES" y fuera de carreteras comarcales o caminos tendía a irse al río, por ejemplo; o el caso de una IA rusa que detectaba tanques en un bosque y que aprendió, por darle mal los datos, que con cielo azul no había tanques lol

Los datos de delincuentes en EEUU, por ejemplo, están sesgados, ya que es mucho más probable que, por un mismo hecho te detengan si eres negro que si eres blanco WASP por lo que el algoritmo aprenderá que el color de la piel es directamente proporcional a la probabilidad de delinquir, independientemente de una situación social de pobreza, discriminación y racismo véase https://www.technologyreview.es/s/10924/como-se-produce-el-sesgo-algoritmico-y-por-que-es-tan-dificil-detenerlo

Es por ello que es NECESARIO no darle datos en bruto ya que estos son reflejo de nuestros sesgos sociales sino corregirlos para que a un negro (siguiendo con el ejemplo de EEUU) no se le deniegue un préstamo, o cualquier otra cosa por su color de piel sino por otros factores más objetivos.

Otros sesgos que ya hemos visto sin necesidad de IA son, por ejemplo el libro "La curva de campana" https://es.wikipedia.org/wiki/The_Bell_Curve

RyCooder

#7 Hombre, si un algoritmo implica el control o la sugestión de información o acceso o etc... a la sociedad, tendrá que ser diseñado para que no discrimine ¿no?

againandagain

#1 Chisss picateclas, la IA con perspectiva de género y lenguaje inclusivo, y no me cambies los plazos que nos conocemos.

rob00die

#1 Creo que tu planteamiento no es correcto, y te lo dice otro ingeniero informático.

Debería de ser un esfuerzo conjunto.

D

Show me the code

arturios

#6 El problema de la "IA" es que no hay código, es como una caja cerrada https://www.technologyreview.es/s/7692/el-secreto-mas-oscuro-de-la-inteligencia-artificial-por-que-hace-lo-que-hace

Por supuesto existe el código del algoritmo de aprendizaje profundo, pero lo que no es analizable es como, después del aprendizaje, ha llegado a esas conclusiones.

Forni

#19 Sin duda, a lo que voy es que toca trabajar con un diseñador gráfico, UI, UX, y nos volvemos locos

También estoy a las bravas: hay todo tipo de programadores, empezando por los grados de formación.

Pero para mí el asunto de la sociología va por los mismos derroteros, solo que el aspecto "humanista" es algo tradicionalmente denostado en tecnológicas (no nos engañemos, yo venía de ahí, aunque alguno se empeñe en que no se de que va un algoritmo lol )

D

- "Quiero tener voz en como se desarrolla la IA"
- "Vale, aprende como se desarrolla una IA, haz un doctorado o formate de manera auto-didacta en álgebra, calculo, estadística, algoritmia, métodos numéricos, programación, ingeniería del software, modelo bio-inspirados ..."
- "Calla fascista tecnócrata, deja de defender al 1%, la IA es de todos, dame mi cheque y dejame mandar"

Forni

#15 Que sí, que sí... que un programador no necesita un diseñador, pero toda programación tiene diseño.

roll

D

#18 Por eso he puesto ingeniería del software, que es Diseño

D

Abogo por la primera IA gitana.

irislol

#2 Aica payo!!!

D

No se mucho sobre IA pero me llama la atención que cuando leo en medios generalistas sobre IA se diría que la espectativa es la de crear un pequeño dios alojado en un ordenador cuántico que decirá por nosotros entre el bien y el mal, y nos llevará a un mundo utópico de felicidad comunal o por el contrario nos esclavizará y nos llevará a un mundo distópico. Pero cuando leo medios más especializados me da la impresión de que al final una IA no es más que un programa informático. Con más variables, con más parámetros con más bucles de toma de decisión, pero un programa al fin y al cabo. Hará aquello para lo que fue programado. Si se programa para jugar al ajedrez, no le podrás 'preguntar' la composición química de un formaldehído.
Francamente no me creo la mayoría de predicciones de futuro en torno a las IA. Solo espero de ellas la aparición de programas especializados para realizar ciertas tareas complejas. Y ni siquiera eso. Que a estas alturas el sector automovilístico aún no haya desarrollado un software capaz de predecir hacia donde movemos el volante para poner y sacar correctamente los intermitentes, me genera mucha desconfianza. Esa si que sería una IA practica y necesaria, y no una para jugar al Go o al Mus.