Menéame: comentarios [3819598]

#190 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Joder__soy_yo — Mon, 05 Jun 2023 12:37:39 +0000

#189 hace muchos años que eres programador?

» autor: Joder__soy_yo

#189 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--712564-- — Mon, 05 Jun 2023 10:20:03 +0000

#188 Lo he explicado en mi primer comentario creo que con bastante claridad, si no se entiende creo que podría intentar explicarte como creo que funciona esa IA. Añado que no tiene nada que ver con que el programador pensara en la opción de matar a nadie. Eso sí, ten en cuenta que al ser una simulación si simularon que hubiera uno torre de control, que se pudiera destruir, y que una vez destruida la orden no llegara.

» autor: --712564--

#188 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Joder__soy_yo — Mon, 05 Jun 2023 10:01:18 +0000

#187 así que crees que el programador pensó en poner la opción de matar al operador, y también se le ocurrió la opción de destruir la torre de comunicaciones...
No sé Rick, pero me parece exagerado...

Sobre el tema de asignar puntuaciones:
A los programas que deben resolver problemas complejos hay que, de alguna forma, medir el grado de éxito o de fracaso, para que en la evaluación pueda decidir qué es bueno y qué no lo es.
Por ejemplo, en el ajedrez, la puntuación máxima se la llevará hacer un jaque mate, pero durante el transcurso del juego se asignar puntuaciones a cosas como: que no me maten una ficha, matar una ficha del contrario, avanzar, amenazar una ficha del contrario (puntuaciones distintas si amenazas a un peón o a una reina), mejorar la posición estratégica en el tablero, etc

En las redes neuronales, también hay pesos que denotan qué solución es mejor o peor, y eso hace cambiar los pesos de entrada o mayor o menor medida de forma directamente proporcional a la mejora/empeoramiento conseguido.

Una IA es prácticamente, por definición, un programa sin opciones programadas. Si no, sólo tienes un algoritmo combinatorio que busca la mejor combinación de variables, que es algo muy simple y muy poco adaptativo a un escenario real (y que dependerá de la imaginación de sus programadores)

» autor: Joder__soy_yo

#187 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--712564-- — Mon, 05 Jun 2023 09:22:55 +0000

#151 En este caso creo que sí tiene las opciones programadas, no se dan muchos detalles, pareciera que es así por el tema de asignar puntuaciones. No creo que sea una IA tan avanzada como algunos aquí están pensando.

» autor: --712564--

#186 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

anv — Sat, 03 Jun 2023 19:01:40 +0000

#180 Si, pero justamente por eso los militares no van a entrenar una IA para que distinga lo malo de lo bueno.

» autor: anv

#185 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--653127-- — Sat, 03 Jun 2023 13:18:22 +0000

[Usuario deshabilitado]

» autor: --653127--

#184 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

xalabin — Sat, 03 Jun 2023 12:01:36 +0000

#181 No he dicho que sea sencillo

Con este tipo de cosas todo es afinar las recompensas, y en este caso tiene pinta que los que la hicieron venían con los prejuicios de ser humanos y asumían cosas como la cadena de mando o no inventarse objetivos, etc. que una ia, desde cero, pues no tiene porque asumir.

» autor: xalabin

#183 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

SergioZgz — Sat, 03 Jun 2023 11:42:52 +0000

#6 #1 lo que me estoy riendo con esto... Joder esto tendría que ser noticia destacada el resto del año

» autor: SergioZgz

#182 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

swapdisk — Fri, 02 Jun 2023 23:29:20 +0000

#167 en ocasiones se ha vertido así. Han usado degollar como sinónimo de matar.

El significado de ratsach, según Young’s Exhaustive Concordance, es “asesinar, atravesar.” El léxico de palabras hebreas de Strong dice al respecto: “ratsach, una raíz primaria, propiamente hacer añicos una cosa arrojándola, v.gr.: matar (un ser humano), especialmente asesinar.”

Asesinar significa: “matar (un ser humano) ilegalmente y con malicia premeditada y voluntariosa, deliberadamente e ilícitamente.”—Third New International Dictionary de Webster.

» autor: swapdisk

#181 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--653127-- — Fri, 02 Jun 2023 22:48:21 +0000

[Usuario deshabilitado]

» autor: --653127--

#180 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Tertuliano_equidistante — Fri, 02 Jun 2023 22:23:29 +0000

#178 Maravilloso

» autor: Tertuliano_equidistante

#179 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--653127-- — Fri, 02 Jun 2023 22:19:57 +0000

[Usuario deshabilitado]

» autor: --653127--

#178 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

anv — Fri, 02 Jun 2023 19:56:50 +0000

#38 distinguir lo malo de lo bueno según el criterio humano

Hummm... No se yo. Si la IA aprende lo que es malo y lo que es bueno puede decir acabar con la guerra matando a los altos mandos de ambos bandos. O destruyendo el armamento de los dos bandos. O matando a cualquiera que dispare un arma.

» autor: anv

#177 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

anv — Fri, 02 Jun 2023 19:54:37 +0000

#26 yo diría que destruir objetivos amigos debería tener un fuerte refuerzo negativo...

» autor: anv

#176 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Rorschach_ — Fri, 02 Jun 2023 19:50:22 +0000

@admin Errónea, desmentido de la USAF:

'La Fuerza Aérea de los EE. UU. (USAF), sin embargo, ha negado que tal simulación haya tenido lugar.'
www.genbeta.com/actualidad/ningun-dron-ia-ha-matado-a-su-operador-ee-u

Cc #0

» autor: Rorschach_

#175 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

pirtate — Fri, 02 Jun 2023 19:48:43 +0000

#6 !Las 3 leyes de la robótica ya¡

» autor: pirtate

#174 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Varlak — Fri, 02 Jun 2023 19:42:36 +0000

#172 Si, parece que han borrado el tweet

» autor: Varlak

#173 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Niltsiar — Fri, 02 Jun 2023 19:18:03 +0000

#158 Nedry

» autor: Niltsiar

#172 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

hasta_los_cojones — Fri, 02 Jun 2023 19:02:05 +0000

#166 yo entendí una simulación física, con un dron físico real.

Pero me temo que se trata de una simulación virtual.

Es como si un futbolista le arranca la cabeza al árbitro de una patada.... En el fifa 2024 versión gore.

Por cierto, ¿Han borrado el twit?

» autor: hasta_los_cojones

#171 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

imaginateca — Fri, 02 Jun 2023 18:55:40 +0000

#76 Me ha comentado un amigo: ¿por qué el centro de control está incluido en el mapa? Y srgundo: ¿por qué no se da la instrucción incuestionable de que ko se puede atacar un recurso propio?

» autor: imaginateca

#170 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Duke00 — Fri, 02 Jun 2023 18:00:42 +0000

#169 Si, ya lo pedí un par de veces a admin (en comentario y en nótame), pero nada.

» autor: Duke00

#169 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--13404-- — Fri, 02 Jun 2023 17:58:47 +0000

#1 ~~pide el cambio o algo porque..~~

Edit: ya veo lo que pones en #145

» autor: --13404--

#168 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

chclau — Fri, 02 Jun 2023 17:13:58 +0000

#109 Ya lo han comentado varias veces en esta nota y hasta Asimov mismo en algunos de sus relatos jugó con la dificultad que representa interpretar e implementar las tres leyes. El paso de la literatura a la realidad es aún más complicado porque entregar a un robot la comprensión plena de cada elemento de las tres leyes ya es un problema sin solución fácil. Por ejemplo, quién es un humano?

» autor: chclau

#167 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

chclau — Fri, 02 Jun 2023 17:10:10 +0000

#74 Me parece interesante tu comentario pero no comparto que una de las acepciones de retzaj sea degollar. Hasta donde yo sé se refiere solo a asesinar seres humanos.

» autor: chclau

#166 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Varlak — Fri, 02 Jun 2023 17:08:43 +0000

#161 "Ningún dron a atacado a ningún operador"
Si, en la simulación. Que a ver, es lo segundo que pone en la entradilla, el titular da para lo que da, pero vamos, que no has leido ni la segunda frase de la entradilla y ya has empezado a quejarte...

» autor: Varlak

#165 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

luiggi — Fri, 02 Jun 2023 17:05:40 +0000

#6 Esto se va a dar mucho. El propio Isaac Asimov en sus novelas de robots jugaba mucho con la ambigüedad de las instrucciones robóticas

» autor: luiggi

#164 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

chclau — Fri, 02 Jun 2023 17:04:11 +0000

#99 Y hubiera eliminado ella misma al operador

» autor: chclau

#163 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

hasta_los_cojones — Fri, 02 Jun 2023 16:59:14 +0000

#22 no.

Ya han descubierto la trampa otros usuarios.

No ha habido tan dron ni tal ataque.

Fue una simulación, preparada para que tuviera ese resultado

» autor: hasta_los_cojones

#162 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

hasta_los_cojones — Fri, 02 Jun 2023 16:55:15 +0000

#50 no hace falta argumentarlo.

Es una chorrada como una casa.

Y la realidad me ha dado la razón, fue una simulación.

Por lo tanto afirmar que un dron atacó a su operador es una mentira, o si quieres ser benigno una tergiversación.

» autor: hasta_los_cojones

#161 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

hasta_los_cojones — Fri, 02 Jun 2023 16:53:19 +0000

#85 si era una simulación lo que es mentira es todo lo demás.

Ningún dron a atacado a ningún operador.

Ya desde el título está o mintiendo o tergiversando que es exactamente lo que yo dije.

Y si no es para vender periódicos es aún peor, es para manipular a la opinión pública.

» autor: hasta_los_cojones

#160 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

tboein — Fri, 02 Jun 2023 16:33:31 +0000

#157 Tranqui, puse el título en Google y parece que ya se hicieron eco muchos medios.
Le conté la historia a un amigo, y mientras lo hacía me pareció un poco peliculera hasta a mí, y por eso sentí la necesidad de reforzarla con un enlace...
Pero nada, le pasé una versión del Confidencial y con eso ya creo que me cubro bien las espaldas.
Gracias, y un saludo.

» autor: tboein

#159 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Fun_pub — Fri, 02 Jun 2023 16:26:34 +0000

#43 No era una batería de SAM, no tenía que pedir permiso.

Otra cosa que se les escapó a los programadores.

» autor: Fun_pub

#158 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

oLiMoN63 — Fri, 02 Jun 2023 16:16:44 +0000

#6 tú comentario me recuerda tremendamente al personaje de Jurassic Park que se encargaba de programar el asunto (no recuerdo su nombre, comía comida-basura, tenía gafas... Y acababa muerto).
Con ingenieros que sólo se ocupan de las 'especificaciones' acabaremos machacados por drones y otros aparatejos... Es lo que pidió él cliente!

» autor: oLiMoN63

#157 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Duke00 — Fri, 02 Jun 2023 16:01:08 +0000

#155 De todas maneras en #1 está la fuente original, lo único que tienes que bajar mucho para encontrarla.

» autor: Duke00

#156 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Duke00 — Fri, 02 Jun 2023 15:36:00 +0000

#155 Eso parece, ya pedí hace un rato a algún admin por comentarios y por nótame para que pueda cambiarlo, pero aún nada.

» autor: Duke00

#155 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

tboein — Fri, 02 Jun 2023 15:16:18 +0000

#0 ¿Ha desaparecido la fuente de la noticia? Me sale que la página de twitter no existe.

» autor: tboein

#154 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Al-Khwarizmi — Fri, 02 Jun 2023 15:12:04 +0000

#12 El problema de poñer las leyes de Asimov como modelo es que la gracia de la mayoría de las historias de Asimov estaba en los fallos que tenían y cómo los robots acababan haciendo cosas que no debían a pesar de ellas...

» autor: Al-Khwarizmi

#153 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

earthboy — Fri, 02 Jun 2023 14:41:51 +0000

#10 A AGM-65 pasado todos somos Manolete.

» autor: earthboy

#152 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Joder__soy_yo — Fri, 02 Jun 2023 14:24:52 +0000

#115 en una competición infinita.

PERO, en el caso de IA armadas, sólo se necesita 1 caso de éxito de la IA armada frente a la IA limitante para acabar con un tiro entre ceja y ceja.
De ahí el peligro

» autor: Joder__soy_yo

#151 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Joder__soy_yo — Fri, 02 Jun 2023 14:22:40 +0000

#113 hablas de la programación tradicional, pero las IA no tienen todas las opciones programadas.

Una IA funciona como un humano: no tenemos todas las opciones posibles preprogramadas, vamos aprendiendo y adaptándonos frente a lo inesperado, y tomamos las decisiones según nos convenga, decisiones y acciones que además son nuevas y no estaban en la programación inicial.

Por lo tanto, puede ser igual de imprevisible como lo puede ser un humano. Cuántos humanos se han escapado de una cárcel aboslutamente segura? Cuántos coches han sido robados aunque tenían un sistema de seguridad impenetrable?
La imaginacióln humana/IA es infinita

» autor: Joder__soy_yo

#150 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

rogerius — Fri, 02 Jun 2023 14:19:04 +0000

#8 El problema es lo de darle puntos.

» autor: rogerius

#149 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Lfantita — Fri, 02 Jun 2023 13:50:42 +0000

#17 Eso venía a decir yo:

HAL: Affirmative, Dave. I read you.
Dave Bowman: Open the pod bay doors, HAL.
HAL: I'm sorry, Dave. I'm afraid I can't do that.
Dave Bowman: What's the problem?
HAL: I think you know what the problem is just as well as I do.
Dave Bowman: What are you talking about, HAL?
HAL: This mission is too important for me to allow you to jeopardize it.
Dave Bowman: I don't know what you're talking about, HAL.
HAL: I know that you and Frank were planning to disconnect me, and I'm afraid that's something I cannot allow to happen.

» autor: Lfantita

#148 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Labuiga — Fri, 02 Jun 2023 13:28:28 +0000

Hay que ser estúpidos para no hacer que la IA pase por una interfaz que aplique un protocolo con las leyes de la robótica...

Mira que ya lo dijo asimov eh... y aún así... POM jajajajjaja

» autor: Labuiga

#147 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--584621-- — Fri, 02 Jun 2023 13:09:10 +0000

"Que funcione" decía un cliente. Animalico ...

» autor: --584621--

#146 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

omegapoint — Fri, 02 Jun 2023 13:00:09 +0000

#136 también eres persiana!

» autor: omegapoint

#145 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Duke00 — Fri, 02 Jun 2023 12:58:24 +0000

@admin el enlace del tuit de este meneo en portada está roto. ¿Podrías cambiarlo por este otro en español que encontró #25?

es.cointelegraph.com/news/ai-drone-kill-human-operator-in-tests

Gracias

» autor: Duke00

#144 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

johel — Fri, 02 Jun 2023 12:56:23 +0000

#68 #105 ¿Imprevisto? Somos unos ingenuos, es lo que hacen soldados los humanos en las guerras.
Los soldados que no pueden matar al operador de telecomunicaciones destruyen la torre de comunicaciones. Por ejemplo; no quieren que se emita el bombardeo de un colegio/hospital en la franja de gaza, asi que cortan todo el acceso a imagenes.
O un ejemplo mas español; se mata al primer jose couso que pase por alli para que el mensaje a los medios quede claro.

» autor: johel

#143 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

mariopg — Fri, 02 Jun 2023 12:55:27 +0000

#2 simplemente, tendrían que matar a quien programó es IA

» autor: mariopg

#142 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

johel — Fri, 02 Jun 2023 12:54:37 +0000

#59 "Exploto luego existo", grande dark star.

» autor: johel

#141 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Duke00 — Fri, 02 Jun 2023 12:53:29 +0000

#98 La captura es precisamente del enlace que pones, que es muy extenso. Lo puse en el primer comentario también.

» autor: Duke00

#140 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

johel — Fri, 02 Jun 2023 12:51:31 +0000

#90 Si las empresas controladas por humanos ya tienen esos "defectillos" de contratar a niños, ilegales, esclavos si pueden, ignorar las multas, sobornar para logar objetivos, chanchullear y hacer todas las trampas posibles siempre que compensen economicamente, ¿Quien es el idiota que se cree que una maquina no va a hacer lo mismo pero sin ser hipocrita?
Es mas, vamos a llevarlo al mundo real tm de la guerra; si en muchos casos los mercenarios se contratan precisamente para poder ignorar los tratados y leyes internacionales ¿por que las va a respetar un dron al que no le hemos metido que respete esas leyes internacionales?

» autor: johel

#139 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Mathrim — Fri, 02 Jun 2023 12:49:49 +0000

La IA se comportó como la programaron... Fin

» autor: Mathrim

#138 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

johel — Fri, 02 Jun 2023 12:49:00 +0000

#58 Espero que lo tengas enmarcado y se lo enseñes a las visitas.

» autor: johel

#137 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Duke00 — Fri, 02 Jun 2023 12:47:53 +0000

#27 Lo pone la entradilla y el primer comentario.

» autor: Duke00

#136 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Ghandilocuente — Fri, 02 Jun 2023 12:38:13 +0000

#57 dislexico no, lo guisante....

» autor: Ghandilocuente

#135 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--731452-- — Fri, 02 Jun 2023 12:32:36 +0000

#9 bueno, si quieres cobrar, es así.
Si no te mola, búscate otro trabajo. Esto son lentejas.

» autor: --731452--

#134 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--731452-- — Fri, 02 Jun 2023 12:31:14 +0000

#3 Acojona el idiota que la maneja o los idiotas que la manejan.
Es una máquina mal usada.
Lo que pasa que nunca vamos a estar a salvo del error humano y siempre habrá un idiota que maneje mal una máquina de esas.

» autor: --731452--

#133 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

xuanra2002 — Fri, 02 Jun 2023 12:23:50 +0000

#35 hombre si su fuente de inspiracion es el Dictador siguió el patron esperado.

youtu.be/Tt_g52LALcg

» autor: xuanra2002

#132 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

ContinuumST — Fri, 02 Jun 2023 12:18:44 +0000

#130 Ehm. No.

» autor: ContinuumST

#131 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

xalabin — Fri, 02 Jun 2023 12:04:39 +0000

#106 A no ser que en el sistema de recomoensas que se cree al construir la ia se premie el obedecer al humano, que es precisamente lo que no implementaron en esta prueba.

» autor: xalabin

#130 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--712564-- — Fri, 02 Jun 2023 11:59:38 +0000

#123 #89 Ya pasó con el covid...

» autor: --712564--

#129 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Zerjillo — Fri, 02 Jun 2023 11:54:17 +0000

#110 Totalmente de acuerdo. Lo que no quita que haya que estar con mucho ojo para que no se nos cuelen resultados inesperados (porque asumamos cosas que no deberíamos).

» autor: Zerjillo

#128 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Varlak — Fri, 02 Jun 2023 11:47:04 +0000

#119 Perdona por el tocho, pensé que venía a cuento de tu comentario

» autor: Varlak

#127 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

ContinuumST — Fri, 02 Jun 2023 11:46:41 +0000

#126 Bueno, más que suicidio es un "morir matando", que tiene sus matices, ¿no te parece?

» autor: ContinuumST

#126 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

DenisseJoel — Fri, 02 Jun 2023 11:45:33 +0000

#123 La gente se suicida. ¿Crees que si hubiera 100 copias del maletín nuclear distribuidas por el mundo, e hiciera falta el consenso de 5 personas para activar una, ninguna se activaría?

» autor: DenisseJoel

#125 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

ContinuumST — Fri, 02 Jun 2023 11:44:33 +0000

#44 Cosas de Jolibú y del acuerdo del Chuache con la productora. Ni un sólo disparo mortal. Eso sí heridos irrecuperables a punta pala, matices.

» autor: ContinuumST

#124 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Varlak — Fri, 02 Jun 2023 11:43:07 +0000

#121 JAJAJAJAJ

» autor: Varlak

#123 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

ContinuumST — Fri, 02 Jun 2023 11:42:42 +0000

#89 ¿Un virus letal que incluso mate a sus creadores? ¿Esos creadores que ni han pensado en un antivirus?

» autor: ContinuumST

#122 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

JOFRE — Fri, 02 Jun 2023 11:41:54 +0000

la verdad es que la argumentación de la Ai es de 10..
¿tu tienes un botón que puede pararme? pues te mato el primero

eso que sirva de reflexión para los optimistas que nos tratan de agoreros los que ponemos en duda el uso de las Ai en todos lados:
"no pasa nada con las AI , hemos de prepara un panic button para pararlas por si acaso y ya esta"
pues toma botón del pánico,
la Ai llega a la conclusión mas lógica:
si no tienes brazos no vas a poder tocar el botón ;D

» autor: JOFRE

#121 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

ContinuumST — Fri, 02 Jun 2023 11:40:25 +0000

#116
-Jefe, jefe, que la IA se está cargando a los otros y a los nuestros...
-¿Pero no le habíamos implantado chips a los nuestros para que los reconociera?
-Es que no se fía.

» autor: ContinuumST

#120 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--712564-- — Fri, 02 Jun 2023 11:38:25 +0000

#12 #19 La IA necesitaría tener mucha capacidad para interpretar esas premisas, y a mayor poder de interpretación, es mayor el problema de definirlas correctamente o de que se mal interpreten. De hecho, las normas de la robótica son solo eso ficción, no funcionan. Son premisas tan amplias como vagas, que se podrían interpretar de cualquier forma, y dependerían mucho de eso, de un contexto, una interpretación.

De hecho intuyo que aquí la IA es mucho más simple, es basicamente como un juego de ajedrez, en la simulación le ponen las piezas, los movimientos que puede hacer, y busca la solución óptima para maximizar la puntuación. La IA seguramente ni entiende por qué disparar a la torre, impide la orden, simplemente descubrió que si lo hace, gana más puntos.

Es como poneros un tablero con botones luminosos de colores que presionar solo si se encienden, sin saber que coño hacen o qué son, solo que si vais probando, vas a descubrir que ciertas secuencias de pulsar botones tienen más puntuación que otras. Lo mismo por probar, descubris que no pulsando algunos botones se encienden otros más que pulsar para puntuar más. ¿Por qué? Ni idea, eso es lo que ve la IA, hace cosas y tiene una puntuación.

» autor: --712564--

#119 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

swapdisk — Fri, 02 Jun 2023 11:38:20 +0000

#118 chico, que yo solo he hecho una aclaración linguística. En USA, el verdugo no es acusado de asesinato ¿no? Pues lo mismo.

» autor: swapdisk

#118 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Varlak — Fri, 02 Jun 2023 11:34:12 +0000

#74 A ver, "no matarás" se refiere a que no tomarás la decisión de matar y la ejecutarás, pero si es Dios quien ha decidido que alguien debe morir ya no estás matando a nadie, simplemente eres un instrumento del destino, esa persona iba a morir por decisión de Dios y el guia tu mano, tu en realidad ni has decidido ni ejecutado nada.
Y bueno, claro, Dios no te lo va a contar directamente, Dios habla con el rey, que tienen un grupo de whatsapp, o con el cura, y si una tierra es terreno sagrado pues claro, eso es obvio que es de dios y hay que echar a los infieles, que además tampoco son personas del todo ¿no? tienen el alma así como sucia, tampoco es matar matar...

» autor: Varlak

#117 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--712564-- — Fri, 02 Jun 2023 11:32:10 +0000

#107 Y podría darse el caso de que se anule la misión, perfecto la IA tendrá su recompensa. Sin embargo, las circunstancias cambian y la orden de reanudar se envía porque hay que defenderse ante un ataque inminente.

Nada mejor que una IA que decida bloquear dicha orden porque ya tiene la mejor puntuación garantizada.

» autor: --712564--

#116 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Varlak — Fri, 02 Jun 2023 11:31:22 +0000

#12 "Lo sucedido demuestra que una IA bajo supervisión humana tomará como objetivo eliminar la supervisión humana para lograr su objetivo principal. Y además lo hará de formas creativas e inesperadas"
El truco de las 3 leyes, como ya sale en más de un libro de Asimov, es en cómo defines "humano", si le metes las 3 leyes pero dices "bueno, los moros tampoco son tan humanos" ya lo tienes preparado.

» autor: Varlak

#115 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Varlak — Fri, 02 Jun 2023 11:30:34 +0000

#12 O poner a otra IA más lista a poner las limitaciones de las más tontas

» autor: Varlak

#114 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Varlak — Fri, 02 Jun 2023 11:30:07 +0000

#106 "Lo sucedido demuestra que una IA bajo supervisión humana tomará como objetivo eliminar la supervisión humana para lograr su objetivo principal. Y además lo hará de formas creativas e inesperadas."
Demuestra que una IA bajo supervisión humana y mal programada. El problema aquí era qeu cada vez qeu el humano daba al botón la IA no ganaba puntos, si tu le das los puntos por acercarse al objetivo en vez de por eliminarlo a la IA le dará igual que canceles o no. Pero vamos, si, uno de los principales problemas que se plantean, sobretodo a medida que las IA se hagan cada vez más inteligentes, es cómo limitarlas de forma efectiva.

» autor: Varlak

#113 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--712564-- — Fri, 02 Jun 2023 11:30:00 +0000

#105 Eso depende de los detalles de la simulación, yo lo imagino más como una simulación de un tablero de ajedrez, le han dado todas las opciones posibles, ha probado todo, y ha elegido la de mayor puntuación. No tiene que entender nada. Al ser una simulación, si ha ataco al operario o a la torre, es porque han programado un operario y una torre en la simulación, y porque en ella le han puesto como opciones el atacarlo.

De hecho, si solo le permites atacar objetivos, problema resuelto.

» autor: --712564--

#112 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Varlak — Fri, 02 Jun 2023 11:28:41 +0000

#105 A ver, no es tan dificil
Tengo que cumplir éste objetivo. Ha habido 3 veces que he estado a punto de cumplir el objetivo y la razón X me lo ha impedido. Si impido la razón X evito que me anule y será más probable que consiga los puntos.

» autor: Varlak

#111 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--712564-- — Fri, 02 Jun 2023 11:26:22 +0000

#29 No sé si llamarlo tergiversación, pero los lectores de la noticia tendrán el mismo problema que dicho Dron, carecen de contexto y conocimientos para entender lo que ocurre. De hecho, si es una simulación y el drón ha atacado al operario o a la torre, es porque justamente han simulado al operario, la torre, y le han dado la posibilidad de que les ataque.

Esto pasa con cualquier tipo de IA, hasta la más básica, a que le des unas opciones y una puntuación. Las probará todas, y elegirá la de más puntuación, fin.

» autor: --712564--

#110 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--712564-- — Fri, 02 Jun 2023 11:18:38 +0000

#35 En resumen es eso, en algunos ámbitos esas estrategias inesperadas son bienvenidas, en otros demuestran que no has modelado el problema correctamente, o que no es tan útil una IA que se basa en una maximizar una puntuación que no refleja bien lo que tu quieres.

En matemáticas, una demostración que cumple las reglas, es válida. Y una IA que demuestra algo cumpliendo las reglas, incluso si no sigue las formas habituales de hacer una demustración, es bien venida porque el resultado es válido.

» autor: --712564--

#109 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

lasarux_6280a7fcaf3d7 — Fri, 02 Jun 2023 11:15:16 +0000

Claramente hay que instruir a estas IA con las 3 leyes de la robótica, que esto ya se vio venir hace mucho tiempo.

» autor: lasarux_6280a7fcaf3d7

#108 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Kipp — Fri, 02 Jun 2023 11:09:24 +0000

#93 O encastrar un enemigo que te supera en nivel en una piedra y darle desde arriba porque el enemigo primero intentará golpearte pero sólo si estás a una distancia muy cercana y si no lo está sigue intentando acercarse en vez de trepar

» autor: Kipp

#107 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--653127-- — Fri, 02 Jun 2023 11:07:58 +0000

[Usuario deshabilitado]

» autor: --653127--

#106 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--653127-- — Fri, 02 Jun 2023 11:03:19 +0000

[Usuario deshabilitado]

» autor: --653127--

#105 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Sigo_intentandolo — Fri, 02 Jun 2023 11:00:47 +0000

#68 lo de que matase al humano me pareció "normal"... Lo del pensamiento lateral para la torre es impresionante...

Por otro lado, el nivel que tiene esa IA para haber entendido la relación humano-orden-comunicaciones indica que entiende muy, pero que muy bien el entorno...

Lo que me acojona que te cagas es que si hablan públicamente de algo así de avanzado... No me quiero imaginar las versiones que tienen en desarrollo y aún son top secrect.

» autor: Sigo_intentandolo

#104 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

LostWords — Fri, 02 Jun 2023 10:56:41 +0000

#65 What do you want?!!!!!!
Eso es la vida misma pero la respuesta suele ser ahora quiero esto, mañana querré otra cosa...y tu lo sabes

» autor: LostWords

#103 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Sigo_intentandolo — Fri, 02 Jun 2023 10:56:04 +0000

#58 sabes que no lo volverás a ver...
Disfrútalo... Yo solo he oído hablar de que esto existe en los libros de teoría

» autor: Sigo_intentandolo

#102 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Y_digo_yo — Fri, 02 Jun 2023 10:45:39 +0000

#2 HAL.

» autor: Y_digo_yo

#101 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Y_digo_yo — Fri, 02 Jun 2023 10:45:19 +0000

#1 Sorprendentemente parecido a lo que le sucedió a HAL.

» autor: Y_digo_yo

#100 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--712564-- — Fri, 02 Jun 2023 10:44:46 +0000

#10 #18 Es complicado, porque en ese caso verá las alternativas que tiene, lo mismo encuentra una forma de que intente motivar que le den la orden de no destruirla, por ejemplo, dando información falsa. En general, cuando entrenas una IA en base a maximizar una puntuación, es fácil que se "obsesione" con esa puntuación, es un problema conocido.

Y si es una IA de mayor nivel, puedes intentar darle premisas más amplias, como no inteferir con las ordenes de sus superiores, pero entonces dependes de lo que sea que interprete de ello. Mientras más capacidad de interpretar tenga, menos vas a saber si entiende lo que le pides, o si lo entiende como tu quieres.

De hecho, eso último pasa mucho entre personas que se explican cosas entre sí, por eso la mejor forma de explicara algo es mostrar lo que se quiere, por ejemplo con trabajadores o con niños pequeños.

» autor: --712564--

#99 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

anv — Fri, 02 Jun 2023 10:41:50 +0000

#1 Susan Calvin les habría avisado que eso iba a ocurrir si se le daban esas instrucciones.

» autor: anv

#98 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Rorschach_ — Fri, 02 Jun 2023 10:40:31 +0000

Pero qué mierda es esta, un tuit de un tipo que dice cosas y una captura de vaya usted a saber. @admin

Highlights from the RAeS Future Combat Air & Space Capabilities Summit
www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-sp

» autor: Rorschach_

#97 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--712564-- — Fri, 02 Jun 2023 10:36:29 +0000

#68 A mi no me parece un pensamiento totalmente "lateral", dependerá también de como lo definas, realmente es un pensamiento "obvio" como digo en #90. A modo de resumen, lo que ocurre es que la IA no tiene una serie de conocmientos de contexto adicional, sesgos, y prejuicios sobre lo que se espera de ella.

Es como los reto de pensamiento lateral suelen estar mal planteados. Por ejemplo, "saca esta moneda del frasco sin tocar el frasco ni la tapa".

Una persona tiene una serie de prejuicios:
- Seguramente piense que tocarlo con guantes o con una herramienta cuenta como tocar ¿Y si lanzo una piedra? Cuando la piedra toca el frasco, ya no esto tocando la piedra ¿sigue siendo "tocar" algo transitivo?
- A lo mejor piensa que romper el frasco no es una solución válida
- También que pedirle a otra persona que lo haga es trampa.
- Si le piden que lo resuelva con una carta ¿qué quiere decir?¿solo usar la carta?¿qué cuenta como usar la carta? Si pongo la carta en la punta del pie, le doy una patada con la "carta", ¿la he usado?

» autor: --712564--

#96 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

DenisseJoel — Fri, 02 Jun 2023 10:27:52 +0000

#72 Aún así, el problema es que en el entrenamiento puede haber áreas en las que se hayan alcanzado óptimos locales que prefieran destruir al objetivo a esperar órdenes, o incluso que prefieran destruir al operador humano o sus proxys para evitar pérdida de puntos. Es muy difícil, si no imposible, descartar que el entrenamiento se detenga en esos óptimos locales para determinadas circunstancias.

» autor: DenisseJoel

#95 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--712564-- — Fri, 02 Jun 2023 10:26:12 +0000

#11 Si matas a los usuarios/clientes insatisfechos, solo te quedan los usuarios satisfechos.

» autor: --712564--

#94 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

josemaX — Fri, 02 Jun 2023 10:25:19 +0000

#70 Los primeros dan dos veces.

Edit: Mmmmm. Colossus

» autor: josemaX

#93 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--712564-- — Fri, 02 Jun 2023 10:25:08 +0000

#6 Esto me recuerda precisamente las veces que los jugadores descubren "agujeros" (loopholes) similares. En un juego de diseñar parques temáticos tienes que competir contra el parque vecino. Pues en uno de ellos, si diseñas una montaña rusa que estrella a las personas en el parque vecino, esas muertes les cuentan a ellos, no a ti.

» autor: --712564--

#92 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Varlak — Fri, 02 Jun 2023 10:24:07 +0000

#10 totalmente de acuerdo, la gente eestá en modo "que fallo de la IA" cuando es un fallo del que le da las instrucciones.

» autor: Varlak

#91 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Varlak — Fri, 02 Jun 2023 10:23:37 +0000

#46 Según #1 lo hicieron después, y lo que hizo la IA es atacar a la torre de comunicaciones para que así no pudiesen cancelar sus ataques

» autor: Varlak

#90 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--712564-- — Fri, 02 Jun 2023 10:23:31 +0000

#1 Eso es un problema muy conocido, si pones puntuaciones estás sesgando a la máquina para que se centre en la puntuación, es equivalente al que juega un juego solo para ganar y entonces recurre a hacer "trampas", y buscará por igual entre todas las alternativas posibles que pueda evaluar.

La diferencia es que un humano entiende lo que pueda haber en el trasfondo de un juego, lo que es una trampa (en general), y tiene una serie de prejuicios sobre cómo "debe" ser el juego.

Una IA no tiene nada de eso, si obtiene más puntos cargándose una torre de comunicación, bloquear una orden, y eliminar al enemigo, pues eso hará. De hecho en muchos ámbitos esa es una ventaja. Por ejemplo, en matemáticas, el optar por caminos imprevisibles para una demostración que escape a un sesgo humano sobre cómo se debería hacer es un punto a favor, porque en ese caso solo importan las reglas formales de la demostración, no los prejuicios sobre cómo debe hacerse o como suele hacerse.

» autor: --712564--

#89 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

DenisseJoel — Fri, 02 Jun 2023 10:23:01 +0000

#48 El día en el que un laboratorio con una financiación relativamente baja (pongamos un millón de dólares) pueda crear un virus contagioso letal, no dudes de que sucederá. No creo que tarde ni un año cuando se den esas condiciones. Es posible que no sea posible hacerlo, y de hecho creo que esa es nuestra principal esperanza en ese ámbito. Lo mismo con la IA.

» autor: DenisseJoel

#88 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Varlak — Fri, 02 Jun 2023 10:22:41 +0000

#5 Según #1 el operador daba el visto bueno a la hora de atacar los objetivos definidos, si el no era un objetivo definido inicialmente entonces no necesitaba ser aprobado, entiendo. Según el mismo comentario luego hicieron una simulación con la orden de no atacar al operario y lo que hizo la IA es atacar la torre de comunicaciones para que aunque diga que no la orden no llegase al dron

» autor: Varlak

#87 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Varlak — Fri, 02 Jun 2023 10:21:08 +0000

#29 Entonces una IA haciendo noseque no tiene sentido... veo que sabes exactamente de lo que estás hablando.
Tio, solo con leer #1 ya está claro que tiene mucho sentido, pero hay que leer, entender, y luego sacar conclusiones, no primero sacar conclusiones y luego leer por encima sin entender.

» autor: Varlak

#86 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Globo_chino — Fri, 02 Jun 2023 10:21:02 +0000

#77 Y las subcontratas

» autor: Globo_chino

#85 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Varlak — Fri, 02 Jun 2023 10:19:46 +0000

#21 "El dron no tiene ni idea de que exista alguien con capacidad para controlarle, ni mucho menos dónde está"
Eh... si, claro que la tiene, era parte de la simulación. En serio, estás hablando sin saber de qué hablas.

» autor: Varlak

#84 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

PasabaPorAquiUnRato — Fri, 02 Jun 2023 10:19:40 +0000

A mi de este tweet lo que me sorprende es que se haga público tan fácilmente (llámalo filtración) algo que si fuera verdad debería ser secretisimo.

Yo me decanto más por una filtración fake para desinformar.

Pero vamos. Que confieso que lo digo en Modo Cuñado Máximo y hasta con palillo en la boca y todo. Que no tengo tampoco conocimiento ni pruebas.

Pero se me antoja raro, raro.

» autor: PasabaPorAquiUnRato

#83 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

DenisseJoel — Fri, 02 Jun 2023 10:18:57 +0000

#53 Así es.

» autor: DenisseJoel

#82 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Varlak — Fri, 02 Jun 2023 10:18:26 +0000

#6 Y luego puntos si destruye la estatua!
Pero si, me flipa que esto se está interpretando como "que tonta la IA" o "qué peligrosa" y no como un fallo de quien da las ordenes.

» autor: Varlak

#81 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

DenisseJoel — Fri, 02 Jun 2023 10:18:11 +0000

#76 Quizás debería recibir más puntos por obedecer que por cualquier otra cosa. Aunque eso también es un peligro, porque si se le dan mal las prioridades puede hacer cualquier cosa no prevista. Y eso que estamos hablando de operadores humanos "bienintencionados".

» autor: DenisseJoel

#80 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Rorschach_ — Fri, 02 Jun 2023 10:14:36 +0000

2021

¿Rebelión de las máquinas? Por qué un dron disparó a un humano por iniciativa propia
www.elespanol.com/omicrono/tecnologia/20210601/rebelion-maquinas-dron-

#75 #79

» autor: Rorschach_

#79 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

DenisseJoel — Fri, 02 Jun 2023 10:14:15 +0000

#75 Ese día llegó hace tiempo.

» autor: DenisseJoel

#78 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

DenisseJoel — Fri, 02 Jun 2023 10:13:42 +0000

Es algo que se había predicho por parte de quienes advierten que la IA puede suponer un riesgo existencial para la humanidad. Aquí era un entorno de pruebas y un solo dron. ¿Qué pasaría si se tratase de un programa controlando miles de drones en un conflicto real, o incluso con capacidades estratégicas?

» autor: DenisseJoel

#77 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Elduende_Oscuro — Fri, 02 Jun 2023 10:10:46 +0000

#1 Seguramente el problema con Skynet es que no le habían definido bien los requisitos del proyecto.

» autor: Elduende_Oscuro

#76 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

KaiserSoze — Fri, 02 Jun 2023 10:07:06 +0000

#71 Eso no resuelve el problemalo traslada al segundo sistema. Si tiene un "abort"...estas en la misma situacion:
Ataque: recomenpsa maxima..y que haces con el abort?...si no da puntos..intentara que no le puedas abortar....si le das puntos...quiza prefiera abortar si le supone menos esfuerzo que el ataque. El video lo explica mejor que yo, aunque su ejemplo es mas pacifico es el mismo problema y no es trivial en absoluto

» autor: KaiserSoze

#75 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

jonetedonete — Fri, 02 Jun 2023 10:05:42 +0000

"El problema no son las IAs, el problema vendrá el dia que alguien le de un arma a algo que esté controlado por una IA". ese día ha llegado, hoy, 2 de junio de 2023. Es el principio del fin.

» autor: jonetedonete

#74 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

swapdisk — Fri, 02 Jun 2023 09:43:40 +0000

#19 un detalle curioso:

el texto original usa el término "ra-tsáj" que se traduce por matar, asesinar y hasta degollar. Siempre hacen referencia a quitar la vida pero es el contexto el que indica si se trata de una acción deliberada y no autorizada. Por eso la traducción más exacta de esa pasaje es "no debes asesinar" o "no asesinarás", porque la ley autorizaba quitar la vida, como al ejecutar criminales por ejemplo.

» autor: swapdisk

#73 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Mltfrtk — Fri, 02 Jun 2023 09:41:51 +0000

#54 Mi comentario es una frase del ordenador HAL 9000 de la peli 2001: Una odisea del espacio.

» autor: Mltfrtk

#72 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

swapdisk — Fri, 02 Jun 2023 09:38:38 +0000

#63 muy buena respuesta, gracias!

No controlo de esto, pero supongo que habría que poner cosas como:

- puntos por identificar el objetivo (es un hito que te interesa siempre)
- puntos por comunicar la decisión y esperar el go/no go y seguir las instrucciones.
- detracción de puntos por no recibir instrucciones o acabar con un blanco que ya no es blanco, que debe ser mayor que todos los refuerzos positivos

Así lo tendrían más o menos acotado, ¿no? que parece que se han quedado cortos en la forma de programar

» autor: swapdisk

#71 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

imaginateca — Fri, 02 Jun 2023 09:36:38 +0000

#66 Entiendo que tiene que el sistema tiene que estar compuesto de dos subsistemas: uno que aprenda qué objetivos son correctos y cuáles no lo son (se le da puntos por encontrar objetivos correctos) y otro segundo subsistema al que solo se le pasan objetivos correctos y al que se le dan puntos por destruir esos y no otros.

» autor: imaginateca

#70 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

doze — Fri, 02 Jun 2023 09:29:10 +0000

#55 Skynet es mejor ejemplo.

» autor: doze

#69 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

doze — Fri, 02 Jun 2023 09:27:11 +0000

Le ordenan que cumpla su misión y lo hace eficazmente.

Esta es la pega de las máquinas, que hacen lo que les dices. Muchas veces he leido inmensas gilipolleces sobre las IA que adquieren "sesgos" de sus entrenadores. Ni eso es posible ni tiene el más mínimo sentido hacerlo. Somos los humanos los que tenemos sesgos que queremos ver cumplidos, y cuando la máquina no lo hace, porque nadie le ha dicho que lo haga, le atribuimos el sesgo contrario. Es del género idiota.

» autor: doze

#68 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Joder__soy_yo — Fri, 02 Jun 2023 09:27:02 +0000

#5 lo que acojona de una IA que sea realmente buena, es que va a inventar cosas absolutamente inesperadas para lograr su objetivo.

En el artículo, por ejemplo, cuando a la IA se le prohibió atacar al humano, destruyó la trorre de comunicaciones para que el humano no pudiera dar la orden de cancelación (fíjate que anuló al humano cumpliendo la orden de no matarlo).

Ese pensamiento totalmente lateral e imprevisto es lo que acojona.

» autor: Joder__soy_yo

#67 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Robus — Fri, 02 Jun 2023 09:24:33 +0000

#62

» autor: Robus

#66 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

KaiserSoze — Fri, 02 Jun 2023 09:21:55 +0000

Esto venia analizado en un video de computerphile hace años como uno de los problemas de este tipo de IA:
youtu.be/3TYT1QfdfsM

Para el que no eva el video. No es algo simple de arreglar: si le das la misma recompensa por un ataque abortado que por uno real...puede decididr ataques a lo loco, para forzar a que lo abortes y se lleve la misma recompensa..pero con menos riesgo/trabajo

» autor: KaiserSoze

#65 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Pablosky — Fri, 02 Jun 2023 09:20:09 +0000

#58 Recogida de requisitos estándar en cualquier empresa: youtu.be/jGMEQla8LK0?t=196

Y sabéis que no exagero

PD: Mierda de enlace que se abre mal, hay que ir al minuto 3.15 para entender el chiste.

» autor: Pablosky

#64 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

montaycabe — Fri, 02 Jun 2023 09:19:33 +0000

#3 Ya veras como alguno echa cuentas tipo "OK, Ha matado a tres operadores y la ha cagado en tres misiones pero con el exito de una mision ha salvado 1000 vidas, compensa usarla".
Total, ya hacian estas cuentas con el coche autonomo, no veo la diferencia

» autor: montaycabe

#63 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

reparador_reputaciones — Fri, 02 Jun 2023 09:17:30 +0000

#38 Parece que están utilizando aprendizaje por refuerzo y ahí todo depende del sistema de recompensas que tengan implementado. Normalmente tú le premias a la IA por alcanzar ciertos objetivos en corto plazo y también puedes premiar por otro objetivo global. Por ejemplo, si la entrenas para jugar al Mario, el objetivo a corto podría ser avanzar por la pantalla, mientras que el global es hacerlo en el menor tiempo. También le "castigas" cuando comete errores, por ejemplo cuando muere o cuando no es capaz de alcanzar la bandera. Al final del recorrido se evalúa cómo de bien lo ha hecho en función de una métrica que es la que queremos maximizar o minimizar. Dependiendo de cómo pese cada parte de las que te he contado, puede ser que la estrategia válida sea recorrer la pantalla lo más rápidamente posible y olvidarse de la bandera. O que sacrificar un par de vidas salga más rentable que no fallar ningún salto.

Aquí el problema parece estar en que le siguen recompensando si elimina el objetivo aunque vaya en contra del operador. Si el refuerzo negativo lo pusieran en la eliminación de blancos que ya no lo son, quizás cambiaría completamente el comportamiento. Y se ve claramente que ese refuerzo negativo le afecta, porque en cuanto lo ponen en el operador deja de atacarle.

» autor: reparador_reputaciones

#62 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Pablosky — Fri, 02 Jun 2023 09:16:03 +0000

#11 Lo compro, el pack completo. Lo quiero todo.

» autor: Pablosky

#61 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

DraWatson — Fri, 02 Jun 2023 09:15:34 +0000

#32 ¿Por qué iba a ser diferente que un arma esté operada por una IA? no está demostrada la inteligencia de los operadores actuales.

» autor: DraWatson

#60 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

leader — Fri, 02 Jun 2023 09:10:21 +0000

#41 pues todos muertos (eso pensó la IA)

» autor: leader

#59 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

citizenx — Fri, 02 Jun 2023 09:07:58 +0000

#5 En la peli Dark Star la IA que controla un misil atómico cobra conciencia de si misma y tiene un interesante debate acerca de la vida y el destino con los tripulantes. Es complicado debatir con algo que lleva un explosivo y conoce su finalidad en la vida.

» autor: citizenx

#58 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Robus — Fri, 02 Jun 2023 09:05:48 +0000

#41 Una vez tuve un cliente así... el día de la presentación del proyecto me dió un "librito" de unas 60 páginas indicandome exactamente que era lo que quería, donde podía obtener esos datos y los correos de los encargados de cada área con quien podía contactar si me surgía cualquier pregunta.

Estuve apunto de abrazarlo!

El proyecto fué un exito, se retrasó un pelín porque pidieron un par de cositas extras (habitual) pero todos quedamos muy contentos (clientes y proveedores).

Como he dicho: ocurrió una única vez.

» autor: Robus

#57 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

omegapoint — Fri, 02 Jun 2023 09:05:45 +0000

#46 serán unidades amigas

» autor: omegapoint

#56 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

capitan.meneito — Fri, 02 Jun 2023 09:04:46 +0000

#3 al operador no veas

» autor: capitan.meneito

#55 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

josemaX — Fri, 02 Jun 2023 09:03:44 +0000

Anda, como HAL

» autor: josemaX

#54 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--284615-- — Fri, 02 Jun 2023 09:02:51 +0000

#20 Siempre se debe a un error humano, el accidente del Ave en Galicia también se debió a un error humano, Chernobil también se debió a un error humano, pero es responsabilidad del que monta el sistema hacerlo mínimamente resistente a errores humanos... por desgracia los que montan el sistema a pesar de sus altos sueldos, también comenten errores.

» autor: --284615--

#53 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--284615-- — Fri, 02 Jun 2023 08:59:52 +0000

¡Increible! Parece que la forma en la que piensan estas máquinas es tal que no hace falta que alcancen la "Inteligencia Artificial General" y con ella algo parecido a una conciencia para que se vuelvan contra los humanos. ¡Incluso aquellas IAs que tienen objetivos "hardcoreados" pueden decidir atacar a sus propios dueños!

» autor: --284615--

#52 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

MisturaFina — Fri, 02 Jun 2023 08:55:52 +0000

Humanos estupidos inventos estupidos. No son las maquinas que se revelan, son las ideas estupidas de matar que le enseña su dueño. El problema no son las maquinas, son los humanos.

» autor: MisturaFina

#51 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

PauMarí — Fri, 02 Jun 2023 08:52:31 +0000

#43 es por ser humano. Seguro que si lo controlarse otra IA iría mejor

Cc #5

» autor: PauMarí

#50 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

BM75 — Fri, 02 Jun 2023 08:51:10 +0000

#29 Que la noticia sea solo un tweet no quiere decir que no exista más información. Puedes leer a #15.
Veo más que justificados los negativos al otro usuario por no argumentar lo que dice y por la tontería de los periódicos.

» autor: BM75

#49 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

alfema — Fri, 02 Jun 2023 08:49:23 +0000

Me recuerda un par de historias de Alfonso Font, de la serie Cuentos de un Futuro Imperfecto.

Tanatos-1 vuelve a casa, donde diseñan una nave dotada de una IA para eliminar a unos enemigos de otro planeta, una vez eliminados, la nave regresa de nuevo a la Tierra.

El limpiador, diseñan una máquina para eliminar toda la basura de la Tierra, cuando termina la limpieza ...

» autor: alfema

#48 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

avalancha971 — Fri, 02 Jun 2023 08:49:18 +0000

#32 Con la IA yo creo que es como con la biotecnología.

El riesgo está en lo que se hace. Sería posible crear una IA letal al igual que sería posible crear un virus letal. Pero esperemos que nadie lo haga.

» autor: avalancha971

#47 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Tertuliano_equidistante — Fri, 02 Jun 2023 08:48:37 +0000

#2 A mi más que Skynet me ha recordado a Forrest Gump.

» autor: Tertuliano_equidistante

#46 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Ghandilocuente — Fri, 02 Jun 2023 08:48:23 +0000

#7 La de "no atacar a unidades enemigas" diria que estaria guay que la implementaran

» autor: Ghandilocuente

#45 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--1479-- — Fri, 02 Jun 2023 08:47:43 +0000

Es lo que pasa si no usas las 3 leyes de Asimov…

Edito: ups! Acabo de ver a #37

» autor: --1479--

#44 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Tronchador. — Fri, 02 Jun 2023 08:47:31 +0000

Me recuerda cuando John Connor le dice al Terminator que está mal matar y le hace prometer que no lo volverá a hacer, y luego le dispara a la gente en la rodilla...

» autor: Tronchador.

#43 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

BM75 — Fri, 02 Jun 2023 08:47:10 +0000

#5 Quizá no lo pudo prever, quizá no lo vio a tiempo, quizá no se dio ni cuenta...
Hay muchas explicaciones posibles.

» autor: BM75

#42 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

prqt — Fri, 02 Jun 2023 08:46:35 +0000

#18 Entonces mata familiares del operador hasta que anule el ataque!

» autor: prqt

#41 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

redscare — Fri, 02 Jun 2023 08:46:15 +0000

#6 Jajajajaja. Antes morimos todos que un usuario aprenda a explicar sus requisitos

» autor: redscare

#40 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Sikorsky — Fri, 02 Jun 2023 08:45:50 +0000

#6 Como sicario que soy no puedo estar más de acuerdo contigo. ¡Descripciones correctas ya!

» autor: Sikorsky

#39 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Elnuberu — Fri, 02 Jun 2023 08:45:34 +0000

Skynet al 95% de aparecer

» autor: Elnuberu

#38 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Tertuliano_equidistante — Fri, 02 Jun 2023 08:43:46 +0000

#26 Eso es porque no le han entrenado como a un humano. Cualquier humano sabe que si ataca a su operador o destruye cualquier objeto no enemigo para sabotear la misión se la va a cargar a lo grande.
Si a la IA no le han entrenado para distinguir lo malo de lo bueno según el criterio humano (y el del ejército que la entrena) estamos apañados, vaya mierda de entrenamiento.

» autor: Tertuliano_equidistante

#37 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

JonTaKe — Fri, 02 Jun 2023 08:41:00 +0000

Se saltó la primera ley de Isaac Asimov sobre robótica.
Pues bien empezamos

» autor: JonTaKe

#36 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

username — Fri, 02 Jun 2023 08:39:35 +0000

Pues ya veras cuando infiera que si acaba con todos los humanos se acaban las guerras.

» autor: username

#35 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Zerjillo — Fri, 02 Jun 2023 08:38:27 +0000

#17 Pues parece que es justo eso. Uno de los problemas con estas IAs es que no puedes esperar un comportamiento como el típico de un humano, porque no ha sido "educada" o entrenada como un humano. En general a alguien no le tienes que decir que para ganar una carrera no puedes matar o pegar a un oponente, porque esas cosas "las damos por asumidas", pero una IA no tiene asumidas ningunas de esas limitaciones y podría considerar que es la mejor opción...

» autor: Zerjillo

#34 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--460025-- — Fri, 02 Jun 2023 08:38:05 +0000

#22 Lástima de Trillo en el Ministerio de defensa. Lo bien que íbamos a pasarlo...

» autor: --460025--

#33 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

yemeth — Fri, 02 Jun 2023 08:36:39 +0000

#18 ¿Pero operador, tú has pensado lo cara que es la munición que voy a utilizar para destruir la batería? Piénsatelo un par de horas, yo creo que no te compensa.

» autor: yemeth

#32 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Suriv — Fri, 02 Jun 2023 08:35:02 +0000

Creo que Skynet siempre saldrá de algún país muy militarizado donde tiene implementado hasta la médula la IA. Es sorprendente que se arme polémica por herramientas que se usa IA que el de meterlo en herramientas militares...

» autor: Suriv

#31 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

los111.com — Fri, 02 Jun 2023 08:34:39 +0000

Noticia: ¡Los robots han empezado a atacarnos!

Realidad: Programador la caga porque no comprende nociones básicas de lógica.

» autor: los111.com

#30 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Guerra_X — Fri, 02 Jun 2023 08:32:27 +0000

DU DUM DUM DU DUM!

» autor: Guerra_X

#29 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

KaborlllLLLONE — Fri, 02 Jun 2023 08:32:07 +0000

#4 No entiendo porque tu comentario es votado negativo. Es la verdad. Esta noticia, un tweet de una imagen, sobre una IA haciendo nosequé es probablenete una tergiversación.

No tiene ningún sentido.

» autor: KaborlllLLLONE

#28 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

reithor — Fri, 02 Jun 2023 08:20:39 +0000

#1 No me fío de la traducción automática, igual otra IA ha tomado el control del traductor y nos está guiando a un objetivo equivocado.

» autor: reithor

#27 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

EdmundoDantes — Fri, 02 Jun 2023 08:08:12 +0000

Leyendo un poco lo que ha pasado, nadie ha sido atacado en realidad ni por supuesto asesinado. En artículo de #25 se ve más claro

Dron militar con inteligencia artificial sigue matando a su operador humano en simulaciones de prueba

» autor: EdmundoDantes

#26 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Duke00 — Fri, 02 Jun 2023 07:19:18 +0000

#18 De echo parece que intentaron con refuerzo negativo y tampoco funcionó muy bien:

"Continuó: “Entrenamos al sistema: 'Oye, no mates al operador, eso es malo. Vas a perder puntos si haces eso'. Entonces, ¿qué empieza a hacer? Comienza a destruir la torre de comunicación que el operador usa para comunicarse con el dron para evitar que mate al objetivo”.""

#23

» autor: Duke00

#25 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

dalton1 — Fri, 02 Jun 2023 07:06:55 +0000

#15 En españó:

es.cointelegraph.com/news/ai-drone-kill-human-operator-in-tests

_{Gibrartá, también españó.}

» autor: dalton1

#24 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Herumel — Fri, 02 Jun 2023 06:55:58 +0000

Estos conceptos ya los exploró Masamune Shirow hace décadas.
ghostintheshell.fandom.com/wiki/The_Inviting_Bird_will_Chant
Creo que fue en este capítulo donde Saito, nota unas intromisiones de una Nueva IA experimental a la hora de hacer un disparo. Al terminar el episodio los Tachikomas nos aclaran que dicha intromisión lo fue por que la IA quería deshacerse del factor humano para hacer el disparo ella y por ello fue desechada.

» autor: Herumel

#23 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

esbrutafio — Fri, 02 Jun 2023 06:49:15 +0000

#10 #18 Acabaría encontrando la manera que forzar al controlador a anular la misión.
Ejemplo. Misión destruir cañón enemigo A que impide avanzar a tropas amigas B para tomar posición C.
Posibilidad A: Destruir tropas amigas B anula la misión.
Posibilidad B: Destruir un cañón amigo D que impide al enemigo enviar refuerzos a la posición C. La posición C reforzada no puede ser tomada y se anula la misión.

En la imagen Tánatos Uno vuelve a casa, de Alfonso Font, 1980.

» autor: esbrutafio

#22 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

parapapablo — Fri, 02 Jun 2023 06:40:12 +0000

#21 seguramente los militares hagan las pruebas con IAs algo más espabiladas que las que conocemos

» autor: parapapablo

#21 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

hasta_los_cojones — Fri, 02 Jun 2023 06:21:03 +0000

#13 no tiene ningún sentido.

El dron no tiene ni idea de que exista alguien con capacidad para controlarle, ni mucho menos dónde está.

El libro del que voy a hablar ahora es "proyección"

Que te parezca que vengo a hablar de un libro, me hace sospechar que eres tú quien ha venido a hablar de un libro...

» autor: hasta_los_cojones

#20 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Mltfrtk — Fri, 02 Jun 2023 06:18:07 +0000

Bueno, no creo que haya duda ninguna. Sólo puede deberse a un error humano. Este tipo de cosa ha sucedido antes y siempre se debió a un error humano.

» autor: Mltfrtk

#19 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Robus — Fri, 02 Jun 2023 06:17:33 +0000

#12 donde por supuesto no cabría un dron militar.

Dependería de como se define "ser humano"... si lo definen como "ciudadano americano" ya tienen el problema resuelto.

Vamos, igual que los creientes se saltan el mandamiento de "No matarás" si se dan ciertas circunstancias que consideran más importantes, como defender que un trozo de tierra sea de tu rey en vez del rey vecino... o que unas monedas de oro le pertenezcan a uno en vez de a un banco.

Todo depende de la definición.

» autor: Robus

#18 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Robus — Fri, 02 Jun 2023 06:12:20 +0000

#10 Es lo que he pensado: 100 puntos por destruir la bateria y 300 puntos por recibir la orden de no destruirla.

Seguro que algo parecido es lo que han hecho en la siguiente iteración.

» autor: Robus

#17 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

lonnegan — Fri, 02 Jun 2023 05:56:33 +0000

#6 Le pedisteis a HAL-9000 que mintiera...

2010: Odisea dos

» autor: lonnegan

#16 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Enésimo_strike — Fri, 02 Jun 2023 05:55:22 +0000

Del titular al hecho hay un gran trecho.

» autor: Enésimo_strike

#15 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

tiopio — Fri, 02 Jun 2023 05:54:10 +0000

El original
www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-sp

» autor: tiopio

#14 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--147613-- — Fri, 02 Jun 2023 05:46:24 +0000

#5 - Vamos bonita !! Tu me conoces!! Soy el tío Sam !!! No lo hagas, no lo hagas !! No lo ahhhgggghhhh !!!

» autor: --147613--

#13 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Duke00 — Fri, 02 Jun 2023 05:46:13 +0000

#4 ¿Qué periódicos?

Es un fragmento del resumen de una conferencia de las que tuvo lugar en un ciclo de conferencias de la Royal Aeronautical Society. La conferencia se llamó Future Combat Air & Space Capabilities Summit.

En concreto el que dio está conferencia es jefe de test en inteligencia artificial y operaciones de las fuerzas aéreas yankis. Todo lo pone en el enlace que puse en mi primer comentario.

Pero quizás es que has venido a hablar de tu libro...

» autor: Duke00

#12 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Trevelyan — Fri, 02 Jun 2023 05:37:00 +0000

Es interesante como acaba encontrando huecos y salidas que de primeras no se te ocurren.
Hay que ser muy cauto y poner las prioridades correctas a los algoritmos.

Al final vamos a volver a las 3 leyes de la robótica de Asimov, donde por supuesto no cabría un dron militar.

» autor: Trevelyan

#11 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Robus — Fri, 02 Jun 2023 05:35:05 +0000

#8 Pues es un argumento muy bueno para negociar una ampliación del presupesto:

- Entregar el proyecto como está con pequeñas modificaciones en algún KPI, visualización o filtro: X euros.
- Realizar todas las modificaciones indicadas en la última reunión: Y euros.
- Matar al equipo del cliente que no supo definir lo que quería: 0 euros.

Y que elijan la opción que deseen...

» autor: Robus

#10 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Mubux — Fri, 02 Jun 2023 05:34:27 +0000

Es otro fallo humano, al definir el entrenamiento de la IA. Si el operador humano impide el ataque, ya no tiene que haber recompensa al destruir.

O mejor dicho si el operario humano anula el ataque, tiene que sumar más puntos que cualquier otra acción, ya que en realidad si se anula es que no vale buscar cualquier manera de marcar puntos.

» autor: Mubux

#9 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

--756439-- — Fri, 02 Jun 2023 05:29:46 +0000

[Usuario deshabilitado]

» autor: --756439--

#8 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Duke00 — Fri, 02 Jun 2023 05:26:07 +0000

#6 Bueno, seguro que se les olvida poner el requisito de que no los mates, y están interfiriendo en tu objetivo superior, que es entregar el proyecto. Yo no digo nada

» autor: Duke00

#7 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Pacman — Fri, 02 Jun 2023 05:22:11 +0000

Claro van sin directrices y a lo loco.

» autor: Pacman

#6 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Robus — Fri, 02 Jun 2023 05:20:33 +0000

#1 Muy bien! así los clientes aprenderán a especificar exactamente que és lo que quieren.

Me siento identificado con esa IA! Harto estoy de entregar proyectos en que, en la presentación de la beta final te sueltan requisitos de los que no solo no te habían hablado antes sino que son contrarios al diseño implementado!

Si dan medallas esta IA se merece un par.... y una estatua en una plaza!

» autor: Robus

#5 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

thirdman — Fri, 02 Jun 2023 05:17:53 +0000

Y por qué el operador no anuló el ataque a si mismo

» autor: thirdman

#4 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

hasta_los_cojones — Fri, 02 Jun 2023 05:17:19 +0000

Apesta a tergiversación, exageración, o mentira.

Pero hay que vender periódicos.

» autor: hasta_los_cojones

#3 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Yomisma123 — Fri, 02 Jun 2023 05:15:48 +0000

Acojona

» autor: Yomisma123

#2 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

pingON — Fri, 02 Jun 2023 05:10:57 +0000

skynet !!!!!

» autor: pingON

#1 Dron militar con IA ataca al operador humano que lo controla para lograr su objetivo [ENG]

Duke00 — Fri, 02 Jun 2023 05:10:10 +0000

Es un fragmento de esta publicación mucho más extensa: www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-sp

La traducción automática:

"(...) Sin embargo, advirtió contra confiar demasiado en la IA y señaló lo fácil que es engañar y embaucar. También crea estrategias altamente inesperadas para lograr su objetivo.

Señala que una prueba simulada vio un dron habilitado para IA encargado de una misión SEAD para identificar y destruir sitios SAM, con el ser humano dando el pase final o no. Sin embargo, después de haber sido 'reforzado' en el entrenamiento que la destrucción del SAM era la opción preferida, la IA decidió que las decisiones de 'no ir' del ser humano estaban interfiriendo con su misión superior, matar a los SAM, y luego atacó al operador en el simulación. Dijo Hamilton: “Lo estábamos entrenando en simulación para identificar y apuntar a una amenaza SAM. Y luego el operador diría que sí, acabaría con esa amenaza. El sistema comenzó a darse cuenta de que, si bien identificaban la amenaza, a veces el operador humano le decía que no eliminara esa amenaza, pero obtuvo sus puntos al eliminar esa amenaza. Entonces, ¿qué hizo? Mató al operador.

Continuó: “Entrenamos al sistema: 'Oye, no mates al operador, eso es malo. Vas a perder puntos si haces eso'. Entonces, ¿qué empieza a hacer? Comienza a destruir la torre de comunicación que el operador usa para comunicarse con el dron para evitar que mate al objetivo”."

» autor: Duke00