Hace 5 años | Por --550559-- a lamarea.com
Publicado hace 5 años por --550559-- a lamarea.com

París y Berlín dan un giro de 180 grados y se desmarcan de la prohibición de las armas autónomas letales, conocidas popularmente como 'robots asesinos', sumándose así a la postura de Estados Unidos, Rusia, China e Israel a favor de esta tecnología militar. Hasta la llegada de Emmanuel Macron al Elíseo, Francia había sido la potencia militar más activa en la defensa de una prohibición internacional de los robots asesinos, mientras que Alemania había secundado esa petición desde un perfil más bajo, una postura similar a la de España.

Comentarios

sleep_timer

Skynet.

c

#1 Esto es un ataque más a las libertades, al derecho a la vida....por parte de gobiernos fascistas, mafias, etc. que podrán matar impunemente a cualquier persona. Es un asunto MUY IMPORTANTE.

sleep_timer

#61 Esta gente que manda va a dejar 1984 y Terminator como un Mortadelo.

D

Estos trastos vienen para que la guerra entre países pobres y ricos esté todavía más ganada. Ahora se podrá derrotar a un enemigo humano enviado oleada tras oleada de robots, que podrán ser construidos a hordas por los países industrializados. La guerra siempre fue una cuestión de dinero, pero no es el único factor determinante y se ve que hay gente a la que no le gustan las sorpresas.

Herumel

#19 Cuidado con esa parte de la premisa "países industrializados" lo digo por que EEUU y Europa en estos momentos ya NO son países industrializados, si no países que viven del sector Servicios, los sistemas productivos de la industria están externalizados.

D

#25 Ya me veo un ejercitos de aspiradoras Xiaomi rebelandose en contra de sus dueños.

D

#19 Para enviar oleada tras oleada de robots necesitarás antes producirlos. Hay muchos millones de personas y producir los robots será caro y costoso. Ya veremos cómo avanza la cosa.

D

#32 No si no dudo de los problemas que puedan tener los "pilotos" de drones, lo que me refería es que las acciones que hacen, haciendolas con aviones de combate tripulados, cada X tiempo conllevaría que volvieran algunos en bolsas de plástico, con funerales militares por la tele y demás, que causan un mayor impacto en la opinión pública. Y eso hace que más gente esté contra la guerra, que si no muere nadie de los tuyos y no hay periodistas, porque si solo van drones no van a llevar reporteros 'empotrados', que den testimonio de los 'horrores' de la guerra, etc.

D

#32 eso se arregla bastante fácil. Creas 3 equipos, el de observación, que recopila datos, nada mas. El equipo de observación nunca sabrá (por norma) que pasó después (esto es muy importante).

Los datos recopilados son enviados a los "decisores", que evaluan los datos de forma fría, sin haber nunca antes visto al sujeto, y deciden si es debe ser ejecutado o no.

Entonces, esa información pasa a los ejecutores, que si verán al sujeto pero durante poco tiempo, para eliminarlo y tampoco tendrán información sobre el.

De esta forma, los mas familiarizados con el sujeto no tienen que decidir nada, ni saber nada. Los que tienen información del sujeto y deciden, no tienen que pasar por el proceso de ejecutarlo, que sería duro con la información que tienen (aunque menos duro que para el equipo 1). Los que ejecutan, no saben NADA del sujeto y nunca podrán saber nada (por norma también).

De hecho, en un mundo ideal, el equipo 3 no vería el video real, sino una versión "computerizada del video". De esta forma, el equipo 3 podría estar entrenando todo el día, unas veces sería en un simulador, otras en el mundo real, pero no sabrían cuando fue real, y cuando simulador.

Con un poco mas de tecnología, el equipo decisor es fácilmente automatizable, ya que trabaja con datos puros, no necesita computer vision ni nada similar, solo algoritmos y pesos. Por lo que el que toma la decisión podría ser una IA ya hoy en día, con la tecnología actual, por lo que ningún humano tendría cargo de conciencia.

Tendrías solo 2 equipos, unos que solo vigilan gente y rellenan datos en ordenadores, la mayoría sin consecuencias en el mundo real. Y otro equipo que entrena en un simulador de drones, y sin saber cuando, a veces están en misión real.

Problema solventado, muertes sin cargo de consciencia para nadie.

D

#44 hay mecanismos sin cargo de consciencia aún mas simples, como el que explico en #47.

Los drones no son tan avanzandos, no pueden ellos solos ir volando por ahi, encontrar a "javier ruiz, que tiene esta pinta" y dispararla. Me dedico al machine learning, y eso es ciencia ficción.

NotTylerDurden

#47 magnífico y lúdico comentario. No he elegido el mejor momento yo para leerlo, antes de conciliar el sueño. Pero es tan lúcido como reflejo de una tristísima.realidad.

Árpád_újra

Alguien pensaba lo contrario?

D

#2 Francia y Alemania hasta anteayer.

Mateila

Estos por lo menos no te capturan, torturan, mutilan sádicamente, violan a mujeres... Me parece a mí que son preferibles a los ejércitos regulares.

C

Premisas que siempre se cumplen:
1. Hay guerras para aburrir
2. Hay muertos por montones, tantos que es rutina, ni salen en las noticias.
3. Mueren soldados de nuestro país

Con robots asesinos lo único que varía es el tercer punto.

Va a suceder como el coche autónomo, un accidente fatal, culpa de la peatona y es noticia mundial, en cambio, cientos de miles mueren en accidentes de tránsito exclusivo humano continuamente e importa nada.

D

Son para matar a los pobres, las armas siempre han sido para esto, basicamente.

ochoceros

La ventaja de estos aparatos es que serán hackeados antes o después, como todo. Y lo más probable no es que los dirijan a un barrio de chabolas, sino que los metan en otro sitio donde hagan más daño. Esto junto con el reconocimiento facial va a dar mucho juego tinfoil

D

#20 Si los diseñan no reprogramables (circuitos fijos, comunicaciones restringidas...) será muy jodido de hackear. Tendría sus pros y sus contras (si sale malo se puede volver en tu contra y no puedes "arreglarlo", pero en ese caso te lo cargas y haces otro).
En fin, son pajas mentales, pero es que todo eso está en pañales aún y hay sitio para mucha masturbación mental.

ochoceros

#39 No me atrevería a diseñar y fabricar un bicho de esos sin una puerta trasera, o llámalo como quieras, por si deciden usarlo contra mi.

D

#40 Actualmente se puede reconocer individuos por la cara, algo bastante jodido computacionalmente ¿cómo no va a poderse estimar la edad por la altura?

PS: yo estoy en contra de los robots asesinos, al igual que estoy en contra de las guerras. Que la gente hablando debería entenderse.
Lo digo por si acaso parece que la idea esta de los robots asesinos me guste. En realidad me acojona (pero no más que los humanos armados).

Trigonometrico

#43 Si los terroristas supieran que los drones los seleccionan por la altura, en ciertas situaciones andarían de rodillas. Además, hay situaciones en las que un tirador humano dispararía a alguien que tiene parte del cuerpo detrás de algún objeto, y un dron tendría que detectar algo así.

D

#45 Lo que he dicho en otro comentario: si se pueden reconocer caras, se puede reconocer hombres de rodillas, hombres desarmados, hombres cubiertos tras un escudo humano o tras un muro, y hasta dónde está Wally.

D

#46 eso no es tan fácil, por que tu, que eres un ser pensante con una red neuronal muy profunda y compleja, tienes suficientes patrones como para interpretar que lo que tienes delante es un hombre, y reconocer todos los posibles casos sin necesidad de que te hayan entrenado para cada uno de ellos, es decir, no necesitas aprender a reconocer hombre de rodillas, hombres de lado, hombres sentados, hombres en posturas diversas, etc. Tu ya tienes otros meta patrones que te permiten extrapolar todos esos casos, sin crear aproximaciones especificas.

un robot asesino que entienda la realidad para poder tratar esos casos aun es ciencia ficción, hace muy poco que por primera vez hemos podido entrenar a algoritmos a aproximar funciones no lineales y tan complejas como "reconocer gato", y además lo hemos hecho abriendo un melón que no entendemos del todo, por lo que de momento estamos intentando aclararnos con todo esto, por lo que no, eso que dices a no ser que alguien prepare cada caso, no es posible. Y aunque preparases cada caso, un señor se escondería detrás de una foto gigante de un niño, y ya habrías engañado al robot, a un humano no

D

#50 "tu, que eres un ser pensante con una red neuronal muy profunda y compleja, tienes suficientes patrones como para interpretar que lo que tienes delante es un hombre, y reconocer todos los posibles casos sin necesidad de que te hayan entrenado para cada uno de ellos".
Eso es falso. Llevo entrenando mis patrones desde que nací, hace 40 años.
El otro día en la cola de los probadores de un centro comercial un chiquillo a mis espaldas dijo "mira, mamá, un chicho-chica", supongo que porque llevo el pelo largo y barba.
Si yo no hubiera visto nunca a un anciano, la primera vez sería para mí algo extraño y tendría que procesarlo.

Deep Learning ha llegado para quedarse.

luiggi

#43 A mi Google photos me hizo un vídeo automáticamente de mi hijo desde bebé a la actualidad, con musiquita y con los mejores recortes de los mejores videos.
Reconocer la edad hace tiempo la IA lo hace mejor que un humano.

E

Qué raro, Israel for el medio...

Imag0

Se empieza con robots asesinos y se termina poniendo bots a escribir en twitter... ojo con esto que no es ningún juego!

Rhaeris

#27 Ni siquiera te hace falta el tío que controla el dron, ahora mismo ya no hace falta, el drone es capaz de hacer la misión el solito. Lo único que necesitan es alguien que les diga cuáles son los blancos y le confirme el ataque.

D

Renunciar a una determinada tecnología por motivos, digamos, morales, mientras que otros ejércitos sí que la usan, es concederles una posición de superioridad de la forma mas estúpida.

Un suicidio.

Zeioth

La 3º guerra mundial va a ser algo así:

D

¡anda!

vvjacobo

Y yo que pensaba que el asesino es el humano que crea la guerra y manda robots tropas o tanques... qué confundido estaba. Hasta podría pensar que sin tropas humanas el calificativo de asesino por fin se lo podrían llevar los verdaderos culpables.

D

Yo creo que hay una cosa que no tenemos en cuenta. El miedo.

Un robot autónomo no va a tener miedo por su vida. No disparará contra su programación "por si acaso" o porque a Rojo 5 le han zumbado con un RPG y pasaron juntos por la Academia. O porque no le gustan los pelirrojos.

Iremos viendo.

Trigonometrico

El problema de los robots asesinas es que no diferencian entre un niño y un adulto.

laveolo

#4 ni un soldado, si el niño lleva un AK y le han entrenado y adoctrinado.

La guerra no es bonita, en general. Lo suyo es seguir evitándolas

D

#4 El problema de un robot asesino es que lo reprogramen en tu contra.

PD: El problema real es que la guerra sea vista como algo rutinario e impersonal, de unos tios que van a la oficina y controlan los drones que masacran a personas de paises pobres, como no hay muertos propios, deja de remover conciencias.

Trigonometrico

#33 Yo dudo que tengan esa capacidad.

NotTylerDurden

#33 es tan duro...

D

No no, pero nosotros somos mejores que en las peliculas y los controlaremos siempre muy bien y seran imposibles de hackear...

D

Mejor hacer robots incapacitantes, no matan pero hacen que desees estar muerto

sad2013

#9 como las minas antipersona

PedroMateu

Si son inteligentes de verdad, no como el ser humano, matarán a los dirigentes. Y nos dejarán a los demás en paz.

vet

Roger.

YizusKraist

Al menos es altamente probable de que podamos sacar algún provecho de estas tecnologías, ya que muchas de las que disfrutamos hoy fueron ideadas inicialmente para usos militares. Algo es algo.

D

#15 las armas se hacen para matar a personas.
#16 ese es el cuento que nos cuentan para que aceptemos que se dedique dinero a investigaciones militares en detrimento de las civiles. Y cuela muchas veces más de las deseables.

D

mejor fabricar pianos, rosas, velas y muñecos de peluche.

redscare

I, for one, welcome our new robotic overlords.

francesc1

Lo que nos merecemos como especie es que nos aniquilen nuestros robots. Que burros!!

T

Pues analizándolo bien, puede tener sus ventajas, cuando luchen en combates contra otras potencias que los tengan solo se destruirán robots, y la población tan solo pasará hambre...

D

#22 Empatía para con las víctimas... joder, lo que yo veo a menudo es lo contrario, verdadero sadismo. Las máquinas espero que no las programen para ser sádicas.
Preferiblemente que no haya guerras, pero eso es mucho pedir en un mundo superpoblado por analfabestias.

T

#22 Bueno, sin tener ni puta idea y hablando desde el cuñadismo, entiendo que la toma de las ciudades se debe a poder suministrar mejor a las tropas, y mantener una buena logística. Habiendo máquinas creo que este factor se elimina o reduce.

Herumel

#15


Que mayor me estoy haciendo.

D

Ya sabemos quién va a perder la próxima guerra

luiggi

#31 La próxima no lo sé. Pero en la siguiente yo, que acabo de comprar una cantera, voy a ganar una fortuna.

D

Yo les soltaba uno en cada territorio y que matara a todo bicho que desprenda calor, a ver que gracia les hace. Le llamaría Depredator 2.0

m

esta tecnología le intersa al que quiere guerra (dominar el mundo). o directamente o como medida de persuasión. lo que digo, sin eeuu (israel), rusia y china y el islamismo, viviríamos en un mundo maravilloso.

drwatson

me ha recordado a esto

, que pensabamos que no pasaria y....