Menéame: comentarios [3604430]

#19 España vigilará la Inteligencia Artificial como a los fármacos o los alimentos

--193513-- — Mon, 03 Jan 2022 14:54:09 +0000

Vamos que no van a hacer nada, y encima tendremos que pagar sueldos altos a hijos, sobrinos o nietos de...

» autor: --193513--

#18 España vigilará la Inteligencia Artificial como a los fármacos o los alimentos

scalvo — Mon, 03 Jan 2022 14:06:53 +0000

#17 Pues debes poder. Por tanto auditar las IA de las empresas es necesario.

Que el encargado del chiringuito tenga nivel bajo no es argumento para que no exista, es argumento para cambiar al encargado.

Lo principal es que sí, hay que auditar, es imprescindible.

Si quien audita no vale, vigila que valga, no impidas que se haga.

» autor: scalvo

#17 España vigilará la Inteligencia Artificial como a los fármacos o los alimentos

box3d — Mon, 03 Jan 2022 14:05:38 +0000

#15 pero no puedo.
Y si ya en lo mas fundamental no se va a hacer, esto es un brindis al sol.

Además siendo esto España, el encargado del chiringuito tendrá un nivel usuario de Excel como CV en IA.

» autor: box3d

#16 España vigilará la Inteligencia Artificial como a los fármacos o los alimentos

scalvo — Mon, 03 Jan 2022 14:04:35 +0000

#7 #10 Precisamente por eso...

Tu jefe puede entrenar esa IA con unos datos de entrenamiento donde se añadan valores que empeoren los resultados a los empleados sindicados. Tú debes poder replicar ese proceso en el ordenador de tu casa y analizar por qué produce ese resultado.

Pones puertas al campo si me impides saber cómo lo haces, es decir, si no permites auditar.

» autor: scalvo

#15 España vigilará la Inteligencia Artificial como a los fármacos o los alimentos

scalvo — Mon, 03 Jan 2022 13:57:45 +0000

#12 Por supuesto deberías poder auditar la ia de hacienda.
Y por supuesto deberías poder ejecutar el algoritmo en un entorno controlado por ti.

» autor: scalvo

#14 España vigilará la Inteligencia Artificial como a los fármacos o los alimentos

scalvo — Mon, 03 Jan 2022 13:54:41 +0000

#12 El límite está en cuando las decisiones automatizadas repercuten en la vida de las personas y estas sienten que esa repercusión es injusta.

En definitiva, si mi jefe me dice algo y yo lo considero injusto, debe haber un mecanismo para analizar la decisión de mi jefe y una instancia superior a la que acudir en caso de conflicto.

Si mi jefe es un algoritmo, lo mismo.

En realidad es tan sencillo como tener métodos para defenderse ante decisiones perjudiciales para los trabajadores.

Repito, sólo malvados e iletrados pueden estar en contra de dichas auditorías.

» autor: scalvo

#13 España vigilará la Inteligencia Artificial como a los fármacos o los alimentos

box3d — Mon, 03 Jan 2022 13:54:18 +0000

#6 Cualquier "IA" (sistema experto, usando menos moderneces) te va a decir que si eres hombre vas a tomar más a menudo conductas de riesgo. Si eres una aseguradora deberías ignorar ese dato, porque es un sesgo de género.

Supongo que es eso

» autor: box3d

#12 España vigilará la Inteligencia Artificial como a los fármacos o los alimentos

box3d — Mon, 03 Jan 2022 13:50:48 +0000

#11 y donde está el limite?
Hasta el firmare todo es software. Quiero el código fuente no solo del algoritmo si no también de las librerías de terceros, las del SO, el núcleo, y el firmware de la CPU.

Y hasta yo, humano X irrelevante, debería tener derecho a auditar mi software siguiendo la lógica aplastante de "quizás me perjudica" y empezaría por la "IA" de hacienda, por ejemplo.

» autor: box3d

#11 España vigilará la Inteligencia Artificial como a los fármacos o los alimentos

scalvo — Mon, 03 Jan 2022 13:44:41 +0000

#9 pues dependerá de quién audite...
Si un algoritmo de reparto, por ejemplo, empieza a otorgar menos envíos a los repartidores sindicados, pues ese sindicato debe poder auditar el algoritmo...

Me parece evidente, y sobretodo necesario.

Aunque no se trata tanto de "auditar algoritmos", que no creo que usen demasiados algoritmos a medida como precisamente los datos de entrada y los hiperparámetros, que son los que definen de verdad el resultado.

» autor: scalvo

#10 España vigilará la Inteligencia Artificial como a los fármacos o los alimentos

box3d — Mon, 03 Jan 2022 13:43:47 +0000

#7
Es poner puertas al campo.
Cuando yo, con una inversión ridícula de menos de 2000€ (o 0€ si tengo un buen PC) puedo crear y entrenar IAs en mi casa con los datos que me parezcan y publicarlo para que cualquiera lo use, regular se vuelve imposible.

» autor: box3d

#9 España vigilará la Inteligencia Artificial como a los fármacos o los alimentos

box3d — Mon, 03 Jan 2022 13:36:11 +0000

#8 no auditamos software crítico vamos a auditar los valores individuales de un árbol de decisión.

Claro que si

» autor: box3d

#8 España vigilará la Inteligencia Artificial como a los fármacos o los alimentos

scalvo — Mon, 03 Jan 2022 13:20:16 +0000

#2 De chiringuito nada, es algo totalmente necesario.

Sólo no es necesario para los iletrados que no saben nada de qué problemas puede causar una mala parametrización y datos de entrada de la inteligencia artificial, y para los que saben demasiado y pueden ajustar los parámetros para organizarla como ellos quieren.

Eso sí, llamemos chiringuito a todo salvo a los chiringuitos de verdad que nos cuestan pasta como reyes, religiones varias, y mamandurrios que en su puta vida han dado palo al agua pero llevan 15 banderas de españa...

» autor: scalvo

#7 España vigilará la Inteligencia Artificial como a los fármacos o los alimentos

Revol — Mon, 03 Jan 2022 13:17:04 +0000

No comprendo muy bien los comentarios negativos.

La propia Unión Europea también está preocupada por el posible uso de IA & tecnologías relacionadas y trabaja en la misma dirección. Aquí tenéis información: digital-strategy.ec.europa.eu/en/policies/european-approach-artificial El artículo también nos indica acertadamente que la ONU también está preocupado del uso de la IA.

En resumidas cuentas, el uso indiscriminado de IA y/o algoritmos pueden socavar derechos de los ciudadanos. Recalco el "pueden". No llego a comprender como garantizar que, por ejemplo, una IA no analice toda nuestra vida para ofrecernos X o Y productos saltándose nuestro derecho a la intimidad es "alejar empresas innovadoras".

Copio y pego en castellano el abstract de este articulo ( www.tandfonline.com/doi/full/10.1080/14494035.2021.1928377) que lo expresa mucho mejor de lo que lo podría hacer yo:
"La rápida evolución de la Inteligencia Artificial (IA) y la intensificación de la adopción de la IA en ámbitos como los vehículos autónomos, los sistemas de armas letales, la robótica y otros similares plantean serios retos a los gobiernos, ya que deben gestionar la escala y la velocidad de las transiciones sociotécnicas que se están produciendo. [...] . Las nuevas aplicaciones de la IA ofrecen oportunidades para aumentar la eficiencia económica y la calidad de vida, pero también generan consecuencias inesperadas y no deseadas y plantean nuevas formas de riesgo que deben ser abordadas. Para potenciar los beneficios de la IA al tiempo que se minimizan los riesgos adversos, los gobiernos de todo el mundo deben comprender mejor el alcance y la profundidad de los riesgos planteados y desarrollar procesos y estructuras de regulación y gobernanza para hacer frente a estos desafíos. Este artículo introductorio analiza la IA y describe por qué la gobernanza de la IA debería recibir mucha más atención dada la multitud de retos que presenta."

Por otra parte y si estáis interesados, hay mucha documentación en línea sobre la necesidad (o no, claro) de controlar la IA. Ejemplos:
www.sciencedirect.com/science/article/abs/pii/S030859612030029X
link.springer.com/article/10.1007/s10676-021-09593-z
link.springer.com/article/10.1007/s00146-019-00923-w
link.springer.com/article/10.1007/s00146-020-00960-w

» autor: Revol

#6 España vigilará la Inteligencia Artificial como a los fármacos o los alimentos

Jacusse — Mon, 03 Jan 2022 13:14:46 +0000

Vigilar sesgos de género en algoritmos?

» autor: Jacusse

#5 España vigilará la Inteligencia Artificial como a los fármacos o los alimentos

nomasderroches — Mon, 03 Jan 2022 13:06:52 +0000

Por lo menos hemos parado a la ultraderecha.

» autor: nomasderroches

#4 España vigilará la Inteligencia Artificial como a los fármacos o los alimentos

zenko — Mon, 03 Jan 2022 12:53:27 +0000

#2 un papeleo más que aleja a las empresas innovadoras del país

» autor: zenko

#3 España vigilará la Inteligencia Artificial como a los fármacos o los alimentos

--611327-- — Mon, 03 Jan 2022 12:51:22 +0000

#1 Podrían vigilarles como hacen con la luz o con la policía Estaríamos mucho peor.

» autor: --611327--

#2 España vigilará la Inteligencia Artificial como a los fármacos o los alimentos

box3d — Mon, 03 Jan 2022 12:50:36 +0000

Otro chiringuito.
Y van....

» autor: box3d

#1 España vigilará la Inteligencia Artificial como a los fármacos o los alimentos

eshu — Mon, 03 Jan 2022 12:49:43 +0000

Pues entonces estamos jodidos.

» autor: eshu