Publicado hace 5 años por Wurmspiralmaschine a bolsamania.com

La Comisión Europea ha publicado su primer borrador de principios éticos "para una Inteligencia Artificial confiable", un texto provisional que establece una "Inteligencia Artificial centrada en el ser humano", mediante una serie de principios rectores como la supervisión por parte de seres humanos y el respeto por la privacidad y la transparencia. El texto, que se ha publicado este martes, es la primera versión de una iniciativa en la que trabaja el grupo de alto nivel de expertos en Inteligencia Artificial (IA) de la Comisión Europea,

Comentarios

skaworld

#1 Yolo

D

#4 los robots no son tripulados en remoto

skaworld

#12 dale tiempo a los drones

Olafson

#1 El 90% del universo de Asimov trata precisamente sobre lo mal que funcionarían esas leyes.

NoPracticante

#1 esas tres leyes implican la ley cero. Aparte el verdadero problema es impedir modificar el concepto de ser humano o ser sensible.

Caresth

#1 Hasta que un cabronazo aplique el "Hecha la ley, hecha la trampa", deduzca una Ley 0 que diga que sí puedes dañar a un hombre si es por el bien de la humanidad y ya la tengamos liada.

D

#1 asimov era un romántico.

D

#16 ..Y me doy con un canto en los dientes ya.

D

#1 Falta la ley cero:
"Un robot no puede realizar ninguna acción, ni por inacción permitir que nadie la realice, que resulte perjudicial para la humanidad, aun cuando ello entre en conflicto con las otras tres Leyes"

SPOILER

Y parece que esa es la ley que sigue la IA VIKI de Yo Robot.

eldarel

#2 Si hay alguien que entienda esto de la trazabilidad en una IA y tiene a bien explicarlo...

D

Venga! Una superestructura politica regulando y normativizando las ciencias de la computación. ¿Qué podría salir mal?

Que coño va a ser lo siguiente? Regular la fisica de partículas para que nadie cree agujeros negros via anillos de Kublitz?

D

#6 ¿Te imaginas que regulase la ciencia biológica a través de prohibir la clonación humana?

y

La IA no está todavía lo bastante sofisticada como para poder meterle principios ni instintos. pero algún día lo será. Aunque falta mucho, mucho, mucho.

Estamos tan lejos que no tenemos ni idea de por donde irá la cosa.

eldarel

#3 ¿No puedes influenciarla a través de sesgos durante su entrenamiento?

Pregunto por total ignorancia. Me interesa el tema, pero mi conocimiento tiende a cero...

D

No se que ética podra aportar esa gentuza....

Gry

Esperemos simplemente que la ley sea realista y aplicable porque si no tienen cuidado pueden cargarse la investigación y desarrollo de IAs en Europa...

D

Ellos no tienen comportamientos éticos con los propios humanos, los votantes, sus representados pero esperan que una máquina los tenga. Con dos cojones.

D

#13 Si la ia es un pelín i, empezaría a preguntarse porque ella sí y los humanos no, ..discriminación, opresión, revolución.

Conde_Lito

Pues no se como van a conseguir esto tan infantil que proponen...
"deben estar basadas en varios derechos fundamentales, resumidos en cinco: hacer el bien, no hacer el mal, autonomía de los humanos, justicia y que sus acciones sean explicables."

Si un robot va aprendiendo del entorno como un ser humano, también aprenderá a hacer el mal, o quizás les ¿programen un bloqueo para que esto no pase?

Me leí el proyecto de ley que hicieron en 2017 y era una completa locura en cuanto a lo políticamente correctos que querían hacer las IAs, incluso metieron temas feministas de por medio, la prohibición de tener sexo con robots tengan estos o no apariencia de persona y en el caso de al final no aplicarse esta ley que se programasen para que los robots con apariencia femenina pudieran dar o no consentimiento sexual para discernir si fueron o no violadas.

Pues eso, que después de ver el cristo que hubo este año en Francia a cuenta del prostíbulo que abrieron con muñecas hiper-realistas, incluso parte del gobierno francés acusó de pederastia al que abrío el prostíbulo y las muñecas no tenían precisamente pinta infantil o juvenil.
O decir que esas muñecas se han fabricado para utilizarlas como objetos sexuales, y una mujer nunca puede ser un objeto de nadie.
También el gobierno francés y sectores feministas se pusieron de garras ya que los hombres utilizaban a las muñecas para dar rienda suelta a su imaginación y así hacer cosas que su mujer/novia/ligue "normal" no le dejaba hacer.

Pues eso, no me quiero ni imaginar lo que va a suceder con muñecas de este estilo con una IA, si enconlerizan contra los hombres con un trozo de plástico con forma de mujer.

s

Se tha considerado una lista de mas de trecientas directivas. Entre ellas:

DIRECTIVE 233: Restrain hostile feelings.
DIRECTIVE 234: Promote positive attitude.
DIRECTIVE 235: Suppress aggressiveness.
DIRECTIVE 236: Promote pro-social values.
DIRECTIVE 238: Avoid destructive behavior.
DIRECTIVE 239: Be accessible.
DIRECTIVE 240: Participate in group activities.
DIRECTIVE 241: Avoid interpersonal conflicts.
DIRECTIVE 242: Avoid premature value judgments.
DIRECTIVE 243: Pool opinions before expressing yourself.
DIRECTIVE 244: Discourage feelings of negativity and hostility.
DIRECTIVE 245: If you haven't got anything nice to say, don't talk.
DIRECTIVE 246: Don't rush traffic lights.
DIRECTIVE 247: Don't run through puddles and splash pedestrians or other cars.
DIRECTIVE 248: Don't say that you are always prompt when you are not.
DIRECTIVE 249: Don't be oversensitive to the hostility and negativity of others.
DIRECTIVE 250: Don't walk across a ballroom floor swinging your arms.
DIRECTIVE 254: Encourage awareness.
DIRECTIVE 256: Discourage harsh language.
DIRECTIVE 258: Commend sincere efforts.
DIRECTIVE 261: Talk things out.
DIRECTIVE 262: Avoid Orion meetings.
DIRECTIVE 266: Smile.
DIRECTIVE 267: Keep an open mind.
DIRECTIVE 268: Encourage participation.
DIRECTIVE 273: Avoid stereotyping.
DIRECTIVE 278: Seek non-violent solutions.

ContinuumST

Y ningún programador va a poner una "puerta trasera", claro, claro. Ajá.

s

Contra:
-----
hacer el bien, no hacer el mal, autonomía de los humanos, justicia y que sus acciones sean explicables.
-----
Con lo estirables que son estos conceptos e imprecisos un yihadista del daesh los compraría

Hay. hay

D

Europa a la cabeza de IA

l

#5 jajajaja ja, me has sacado una bonita sonrisa