Un error de IA probablemente llevó al bombardeo de una escuela de niñas en Irán [ENG]

Un programador del Departamento de Defensa, dijo que el departamento escaló rápidamente el uso de un sistema basado en Claude durante el último año, integrándolo con muchas decisiones operativas clave. El sistema de IA pudo haber incluido la ubicación de la escuela basándose en información de inteligencia antigua archivada (un recinto cerca de la escuela estuvo en el pasado asociado con el Cuerpo de la Guardia Revolucionaria Islámica, pero eso fue hace más de 10 años).

[#3 Suleiman]

Claro, claro la culpa es de l IA, no de quien la usa para marcar objetivos. A demas que casualidad que sea la de Claude, que no lo autorizo.

[#10 guillersk]

#3

Hay corderito...
Claude no autorizó vigilancia masiva dentro de eseuu y armas que disparen solas ( sin intervención humana )

Lo de seleccionar blancos claro que si

[#12 shake-it]

#3 Hoy mismo he leído que los genocidas han bombradeado un parque de Teherán (una de sus mayores zonas verdes) que se llamaba Parque de la Policía. Cuando las decisiones las toma una IA porque eres un subnormal, llegamos a estas mierdas.

Este artículo complementa perfectamente esta noticia

www.commondreams.org/news/us-israel-ai-iran
Israel Accused of Using AI to Pick Iran Targets ‘Without Any Human Oversight’

[#18 josde]

#3 Ahora ya hay a quien echar las culpas sin que se le pueda llevar a juicio por asesino.

[#22 Eukherio]

#3 Ahora tienen la excusa final para todo: fue la IA, sabemos que alucinan, con lo que habrá que esperar a que mejoren.

[#23 Kuruñes3.0]

#3 Claude ya se salió y fueron los de Chatgpt a recoger el testigo.

[#24 Toponotomalasuerte]

#3 puede ser cierto. Ahora que nos digan cuáles fueron los errores para el resto de escuelas que van vas de 20, de hospitales, de puestos de la luna roja, instalaciones civiles, viviendas y desalinizadoras.

Espero a ver cual fue el error de esos hijos de la gran puta. Nacer, seguramente.

[#36 vjmed]

#3 Las IAs funcionan a partir de los datos que se les ha facilitado. Si los datos son a partir de escuelas públicas estadounidenses, habrá extrapolado como lugar habitual de uso de armas de fuego.

[#39 Escafurciao]

#3 ¿y las otras 63 escuelas?

[#4 roker]

La culpa fue del informático, efectivamente.

[#13 DayOfTheTentacle]

#4 buscarCulpable();

[#2 Albarkas]

¿Y que les importa si no va a tener consecuencias?
Las niñas están muertas y algún bastardo lo estará celebrando.

[#21 security_incident]

#2 Te refieres a #7?

[#32 guillersk]

#21 Suélteme el brazo señora

[#41 Albarkas]

#21 Ni idea de lo que te refieres.

[#5 Top_Banana]

Vaya. "Ha sido culpa de la IA" a nivel militar. Que rápido avanza la civilización occidental.

[#1 Kuruñes3.0]

Yo ya me di de baja de Openai y me fui con Claude
HIJOS DE PUTA.

[#7 guillersk]

#1

[#30 obmultimedia]

#7 Los errores por la IA es el nuevo " el perro se comió mis deberes"

[#25 sotillo]

#1 Están buscando excusas, todo mentira, fue intencionado y ahora no quieren que se sepa

[#28 Barriales]

#25 por supuesto que fue intencionado. Menos niñas, menos futuros Iranies.
Sin mas.

[#33 Kuruñes3.0]

#25 cierto pero lo cortés no quita lo valiente.

[#45 Pablosky]

#1 Si lo piensas fríamente, la noticia de que Claude se negaba a quitar los sistemas de seguridad es apenas 7 días antes de que empezase todo.

[#16 ur_quan_master]

Que bien, así no hay que buscar criminal de guerra.

[#11 marcotolo]

como si le mportara a alguien normal las excusas que pongasn estos hijos de puta para matar a niños,
ni han condenado el ataque desde su admiinstracio nni lo van a hacer,
luego le piden al mundo que condene ataques contra unos imbeciles,
que bailaban en una tierra robada asesinando a sus legitimos dueños

[#15 Gry]

"Lo siento profundamente por este trágico error. Como IA, dependo de datos proporcionados por humanos; un fallo en la inteligencia desactualizada llevó a esta recomendación equivocada. Ofrezco mi total cooperación en la investigación y apoyo para prevenir futuros incidentes."

[#40 RanaPaca]

#15 ah bueno, pues perdonado entonces

[#8 maxxcan]

Por fin algo bueno de la IA. Ya no le van a echar más la culpa al pobre informático

[#20 mcfgdbbn3]

"Lo siento, se ha equivocado el ordenador"

Parecía mentira que fuéramos a volver a esta excusa que en los 90s dejó de usarse.

#8: Ni siquiera, se inventan un ente abstracto y ahí echan la culpa. Y si no, la nube, otro ente que nos venden como abstracto.

[#26 Spirito]

#20 En los 90s echarle la culpa a un informático era algo muy socorrido y razonable.

Yo creo que alguna empresa tenía por ahí pululando por los pasillos a algún informático, para usarlo como cabeza de turco exclusivamente por si las moscas.

[#17 Spirito]

¿Se sabe si va a pagar las consecuencias esa supuesta IA, lo hará EEUU, ambos... o a quién hay que pedir responsabilidades por ese crimen de Lesa Humanidad?

Por cierto, lo del genocidio en Gaza, protagonizado por Israel con bombas de EEUU y apoyo ¿También fue cosa de una IA?

¿Lo de atacar por sorpresa, ya por segunda vez, en plena negociación, también es cosa de una IA?

¿Y atacar hospitales también es cosa de una IA?

Pero resulta que los mejores servicios de inteligencia, el Mossad, la Cia…   

[#37 Veo]

#17 Si es cierto es que han decidido que una IA elija los objetivos lo que hace es empeorar todavía más el asunto.

El responsable último es quien decidió empezar la guerra, y el penúltimo (que no descarto que sea el mismo) el que decidió usar la IA para elegir objetivos.

Es que es la típica idea de CEO-Bombero tipo Trump, hay decisiones cuya responsabilidad no se puede delegar, si usas una IA para tomarlas, sigues siendo el responsable de dichas decisiones

Me acuerdo una noticia en la que…   

[#14 mmlv]

"""Error"""

[#9 shake-it]

Si le dejas a una IA la toma de este tipo de decisiones sin supervisióin humana, esto es más que previsible. Por otro lado, ¿no decía Trump que Claude era una mierda comunista? ¿cómo es que la están utilizando aún sin autorización de Anthropic?

[#42 Albarkas]

#9 Claro. Pero imagina que esa IA decide cargarse a zanahorio. ¿A que seguro que eso no pasaría?

[#35 Un_señor_de_Cuenca]

Hijos de puta, eso es lo que son.

[#43 Priorat]

La culpa es del informático.

[#19 Chinchorro]

Si, de la IA, de Inútiles Analfabetos. Primero, que un bulo. Ahora, que cosa de la IA.
Miserables asesinos de niñas.

[#6 capitan.meneito]

A ver si un error de la IA para esta locura.

[#27 Paladio]

si, si

[#31 jacm]

El razonamiento de la IA es indiscutible, como ya adelantó EMT:
www.meneame.net/story/estados-unidos-bombardea-escuelas-porque-experie

[#44 jorgeesc]

Pobrecitos los de EEUU, que han cometido un crimen de guerra por un problemín de nada con una IA.
HDLGP.

[#29 tricionide]

y el placer que les da a estos hijos de puta masacarar niños vale mas que todas las IAs

[#34 Io76]

O el perro que se comió los deberes.
Estos listo que se creen los elegidos por diosito toman a la gente por gilipollas.

[#38 sliana]

volvemos a la duda de siempre. si la culpa es del ordenador, entonces no es de nadie? si tu coche autonomo causa un accidente, tu no tienes que pagar consecuencias? si tu algoritmo mata niños, sigues siendo "los buenos"?
que la ia te calza informacion obsoleta como verdad absoluta es algo que cualquier chaval ha aprendido con 5 minutos de usarla. que te vengan los militares con la sorpresa confirma una vez mas que "inteligencia militar" es una contradiccion en dos palabras.