Hace 1 año | Por Ka0 a 20minutos.es
Publicado hace 1 año por Ka0 a 20minutos.es

El borrador de propuesta de ley ya ha obtenido el visto bueno por parte del Comité de Mercado Interior y el de Libertades Civiles, ahora tendrá que ser aprobado por el Parlamento y el Consejo. La inteligencia artificial ha dado pasos agigantados desde finales del año pasado, tanto que los principales reguladores han comenzado a preocuparse y a interesarse por fijar normas al respecto. Con este paso, la UE pretende aplicar nuevas normas de transparencia y gestión de riesgo para los modelos algorítmicos que usan esta tecnología.

Comentarios

ankra

#7 Supongo que ni has abierto el articulo, pero lo que dice son cosas bastante genericas y basicas, no hacer scroling, cosas ilegales y explotar personas vulnerables

mierdeame

#7 Tiemblo con las restricciones en Europa, pero en este caso...

Resumen: La Unión Europea ha aprobado un proyecto de mandato para negociar nuevas normas de transparencia y gestión de riesgos para la inteligencia artificial (IA), con el objetivo de garantizar la supervisión adecuada de los sistemas de IA y evitar sesgos, discriminación y afectaciones al medio ambiente y a los derechos fundamentales. Entre las restricciones, se prohibirá el uso de sistemas que empleen técnicas subliminales, que manipulen de manera intencionada o que exploten vulnerabilidades de las personas, y no se permitirá el uso de reconocimiento facial en espacios públicos ni la clasificación de los individuos según características sensibles. Además, se prohibirá el uso de IA para reconocer las emociones de las fuerzas del orden y la aplicación de la IA en sistemas policiales predictivos. La nueva normativa buscará proteger a la población y garantizar que los sistemas de IA sean transparentes y respetuosos con la privacidad. El proyecto de ley aún debe ser aprobado por el Parlamento Europeo y el Consejo Europeo.

C

#1 o será populismo para que el político de turno moje prensa como el adalid que defiende a su pueblo de la malvada IA. Se han tomado el papel de Jhon Connor.

blockchain

#2 ni para el populismo son ágiles...

C

#4 para la guerra Rusia vs Ucrania, los políticos europeos volaron, Flash es un caracol en comparación, por estas razones:
A. Servilismo a USA
B. Distraer al pueblo para que no hubiesen juicios sobre la "espectacular y envidiable" gestión social y económica de la pandemia.
C. Meterse en el jugoso negocio de la venta de armas y presupuestos de guerra (con cero auditoría)
D. Mojar prensa al disfrazarse como adalides de la justicia, la democracia y la libertad.
E. Todas las anteriores
F. ¿En serio crees que les importa los ucranianos?

c

#2 Es ignorancia aplicada. Legisladores legislando sobre cosas que no entienden

sonix

#19 para nada, el problema que veo yo en el concepto de la inteligencia artificial como chatGPT es la asimetría, en este caso tú pagas y tienes un servicio, que tú alimentas al usarlo, y estás limitado de forma artificial, cosas como x cosas no las tiene permitido hacerlas, pero puede hacerlas, que pasa? Que a ti no te dejen no impiden que ellos lo hagan, y puedes encontrarte una competencia desleal alimentada por tu uso. Por que quién controla su uso?

D

#39 En el precio que pagas te pondrán un concepto de descuento por eso que comentas.
Tu aceptas, firmas el contrato y tan legal.

sonix

#42 será en la versión free, porque en la de pago algunos queremos menos limitaciones y no solo menos latencia, que es importante la verdad. Porque es cantoso que hay cosas que sabe que puedes hacerla y te limitan de forma artificial, al final quién te dice que luego ellos no la usarán para anularte en un negocio con una competencia con menos limitaciones.
Se tiene que legislar si o si. No se puede dejar en manos privadas algo que se puede aplicar públicamente

D

#43 Yo hablo en general, no a ningún momento particular de la actualidad.
Que se tiene que legislar, sin duda. Como cualquier otra herramienta, producto, servicio...

sonix

#44 yo comento lo que veo ya, y es que quien tenga la IA puede favorecer y perjudicar a empresas según intereses.
El problema que lo que harán es joder a todos los que no sean empresa, o lo que es lo mismo, al ciudadano

D

#19 Venía a decir lo mismo.

t

#3 11 días de elaboración para algo que tiene tantas implicaciones...

Es cierto que hay textos marco previos, pero leyendo la noticia veo la regulación algo descafeinada.

Por no hablar de que casi cualquiera puede hacerse ya sus IAs.

p

#11 con una ia en tu casa no tienes acceso a datos de otros ciudadanos.

D

#12 boe? Dgt? Pica?

p

#26 el boe no pinta nada ya que es público, de la DGT, más bien del ministerio de interior si no se podría usar nada fuera del vehículo como los policiales, no se puede exponer datos privados a una IA no certificada ya que pueden perder el anonimato.

#36 en principio no pueden usar esas fuentes de manera opaca, ver: vocacion-cientifica-solo-ha-hecho-sufrir-dejo-investigacion-hay/c0158#c-158

Hace 1 año | Por chisqueiro a eldiario.es

Ahí entra un punto interesante ya que eso ya se usa para inmigrantes, no para ciudadanos europeos, lo cual puede dar vía de acceso secundaria al pedir un tratamiento de datos por un tercer pais, o un pais con una regulación similar pedir a la unión el tratamiento de datos de sus ciudadanos si han viajado a Europa: https://futurium.ec.europa.eu/en/european-ai-alliance/blog/ai-interoperability-open-source-intelligence-and-cross-border-investigation-3

t

#40 Yo estaba hablando de particulares usando IAs. Creo que cuando dices "no pueden" te refieres a instituciones.

De manera individual no creo que sea rastreable si se saltan o no la legislación.

p

#62 tran rastreable como la protección de datos.
Un particular tiene que cumplir igualmente la protección de datos con los datos de terceros.
Puede exigirse firewall a los servicios de IA externos para detectar quien usa esos servicios y auditar que no sean datos privados de los clientes, o solo aceptar que sean bajo la penalización de hacerlo bajo cifrado homomórfico(a falta de conocer que una IA pueda llegar a saltarse la capa homomórfica), al revés que datos de la IA de la empresa tienen que cumplir con la protección de datos europea y no puedan ser compartidos.

Pongamos por ejemplo que se evitó usar en Europa pero si se usó en otros países con cámaras de vigilancia con el covid, no puedes compartir los datos de procesado facial de un programa, sea IA o no.
No puede anonimizar a una persona por un código, si guardas un registro de un código de 123456789 no debe haber otro sistema que pueda con ese código descubrir a la misma persona, se tiene que meter un sistema a mayores único para que solo únicamente ese sistema pueda hacer un código único, el mismo programa en otro sistema tiene generar un código distinto, cada IA debe ser única.
Esto se usó para cuarentenas, se compartieron datos de procesado facial para detectar quien se saltaba la cuarentena ya que era transferible, y no solo por países alejados del estándar legal occidental, lo hizo algunos estados de Australia, en otros sí se se hizo único, solo el móvil del usuario daba el código de procesado del usuario, la misma cara en otro móvil o otro dispositivo de captura no daba el mismo código siendo intransferible. En principio con cifrado homomórfico la misma cara bajo el mismo cifrado daría el mismo código, pero no la cara sin el cifrado ni con otro cifrado homomórfico, siendo imposible la transferencia.

Los otros asuntos ya entran en otras auditorías distintas.

t

#12 Pues ahí está, como poco, todas las fuentes OSINT

T

#9 Claro, los que hacen las leyes y normativas, lo primero van a hacer es quitarse del medio ellos mismos.

Ka0

#23 No, por muchas leyes que hagan, la IA se queda, es como el p2p, no hay quien lo pare

T

#30 No qué? si no tiene nada que ver lo que respondes con mi comentario. Los algoritmos de redes neuronales, todo nombres rimbombantes, se quedarán porque ya están hace décadas, pero suponogo que harán normativas para proteger los derechos de las personas y los trabajadores de según que sector.

Ka0

#32 Las normativas no servirán para nada, la velocidad de las leyes es infinitamente más lenta que la velocidad de la tecnología

T

#34 Eso depende de lo que les interese a los que gobiernan. Mira como en un finde modificaron la Constitución a petición de Merkel. O como los chinos censuran internet con 'el Gran Cortafuegos'... que si bien podra esquivarse no para la mayoría que no sabe hacer la O con un canuto. Aunque claro como son empresas estadounidenses, no se hará nada que les afecte a sus beneficios, con el servilismo imperante que hay por estos lares.

trivi

#9 y la propiedad intelectual, de esa de la que vivimos en Europa, porque la fábrica del mundo está en otro continente

blockchain

#14 esa sería tremenda lol

ur_quan_master

#1 ya... Sin embargo los problemas de toda la vida ahí siguen, sin tocar

inventandonos

#1 Agarremonos como legislen con la brillantez con la que obligaron a avisar con cartelitos las cookies. wall

dqenk

#1 porque lo ha redactado chatGPT

T

#1 No interesa que la gente pueda tener IA en su casa, que aprenda a usarla y que la utilice para hacer algo que perjudique a los poderes establecidos.

m

#1 Pues claro, ¿imaginas meter todas las publicaciones del gobierno y las autonomías y que no sirva de nada todo el cuidado que han puesto en hacer libros bien gordos para que sea difícil encontrar lo importante? Pues ahora tenemos un señor que se lo lee entero y te contesta a lo que te de la gana. Eso a nivel Europa y mundo. Están acojonados.

zeioth

#1 Cada uno es libre de opinar, pero despues de lo de Cambridge Analytica, no es para menos. Yo aplaudo que haya escenarios que se baneen andes de que se den, porque está claro que se van a dar y abusar.

D

#6 lo llevas clarinete

higochungo

#6 Jajajjaja. Eso sería un gran paso, sí. JAJAAJJAJ! Ni lo sueñes.

D

Próximamente apertura de unos cuantos eurochiringuitos con eurofuncilnarios a razón de 5000€ netos x 18 pagas.

johel

la estupidez natural siempre ganara a la inteligencia artificial.

D

Las IA se pueden correr ya en ordenadores caseros, no sé qué rayos querrán cortar, pero esto no se puede parar y el que lo haga perderá

Cehona

#5 Y con una VPN o addon anónimo en Firefox

mierdeame

#5 Si y no: por ejemplo, puedes crear y ejecutar en tu ordenador un script en Python que haga llamadas a las API.

Barbol_Pelao

Pues la regulación, a priori, pinta bien:

"Por su parte, los sistemas policiales predictivos, que basan sus conocimientos de perfiles, localización o comportamientos delictivos anteriores, no podrán aplicar la IA para vaticinar posibles nuevos actos ilegales.

Asimismo, las IA que se utilicen en Europa deberán comprometerse a estar protegidas para evitar afectar negativamente a la salud, seguridad, derechos fundamentales o medio ambiente."

DeepBlue

#31 Al final es como las medidas en Europa contra el cambio climático: la intención es buena pero en el fondo resultará irrelevante si el resto del mundo se lo pasa por el forro

areska

No vaya a ser que la ciudadanía descubra que la política no hace falta para nada.

D

Legislar en caliente y sin saber del tema...¿Qué podría salir mal?

d

No comparto las burlas (que son burlas, no críticas, porque parece que nadie lo ha leído). Yo creo que es un buen primer paso, ¿descafeinado? Seguramente, pero por algo hay que empezar. Además, quien no quiere que los ciudadanos usen la IA no es quien ha redactado esta ley, son las propias empresas que tienen mantener su control y que tengas que usarlo desde sus servidores para tenerlo controlado. La ley lo que intenta evitar es que se use indiscriminadamente (por Gobiernos o empresas) en contra de los ciudadanos, como haciendo análisis de sentimientos en entornos laborales, o uso masivo de reconocimiento de caras para tenernos aún más espiados.

chemari

Ya sabemos como legislan nuestros políticos con esto de la tecnología: Crearan la tasa IA, y hala, a recaudar.
Ya lo hicieron con la tasa google, o con el impuesto al sol.

l

Espero que las restrinjan a ámbitos profesionales y científicos muy limitados y controlados.
Lo último que necesitamos son herramientas que vuelvan todavía más idiota a la sociedad.

borre

¿Cuánto dinero nos va a costar?

D

Me parece muy interesante que no quieran que se puedan identificar las emociones de ciertos profesionales.

S

Para mi las IAs lo que hace es poner a disposición de pobres recursos que hasta ahora solo estaban disponibles para ricos y con estas leyes lo que tratarán de hacer es que no podamos acceder a esos recursos productivos.

g3_g3

¿Y si la IA decide que las humanas no le afectan?

c

#17 Eso para cuando existan IA. Dentro de mil años o asi

Sawyer76

#20 Quítale un par de ceros como mínimo.

l

Creo que la van a regular con el mismo éxito con el que hace años regularon totalmente las criptomonedas

I

Los políticos no saben ni lo que tienen entre manos ????????

Sebastian_Wilder

Ridículo que no se puedan usar para predecir delitos