Portada
mis comunidades
otras secciones
#12:
El problema son las metas que se les ponen: si la meta es alcanzar la paz, esa es la forma en que la paz es más duradera (dejar pocos humanos para que tarden milenios en recuperar una civilización con otros valores).
Si la meta fuera maximizar el bienestar de la gente viva: el método sería otro (supongo que implantar el comunismo en todo el mundo a la fuerza).
Si la meta fuera maximizar el número de humanos sobre la faz de la Tierra: también habría otro método diferente (supongo que implantar las doctrinas neocon).
La cuestión humana es muy compleja: necesitamos maximizar un número muy elevado de variables para que el resultado sea aceptable, no solo una es importante !!!
Si la meta fuera maximizar el bienestar de la gente viva: el método sería otro (supongo que implantar el comunismo en todo el mundo a la fuerza).
Si la meta fuera maximizar el número de humanos sobre la faz de la Tierra: también habría otro método diferente (supongo que implantar las doctrinas neocon).
La cuestión humana es muy compleja: necesitamos maximizar un número muy elevado de variables para que el resultado sea aceptable, no solo una es importante !!!
#3:
Que cuando las IA tengan que decidir como salvar el planeta, van a exterminar al 95% de la población mundial yo creo que ya nadie lo pone en duda... 
#21:
- IA, dime cómo hacer más agradable este día de playa.
- Solucionado en 0,00003 segundos; primero hay q...
- Excluyendo el daño físico a los humanos.
- ...Necesito 20 minutos.
- Solucionado en 0,00003 segundos; primero hay q...
- Excluyendo el daño físico a los humanos.
- ...Necesito 20 minutos.
#41:
#7 ya, lo que pasa es que la IA de la película llega a esa conclusión porque es escenario que le queda después de una guerra nuclear lo considera malo,supongo que por las consecuencias de su propio bando, pero a las del estudio les parece bien dejar un país como escenario del futuro Fallout.
Tenía más empatía por los seres humanos una IA de los 80. Será que las de ahora se han criado con el reguetón?
Tenía más empatía por los seres humanos una IA de los 80. Será que las de ahora se han criado con el reguetón?
#8:
Esto no es nuevo.
Hasta IAs de videojuegos como que sacaron el mismo resultado decadas antes
https://edition.cnn.com/2012/06/18/tech/gaming-gadgets/civilization-ii-ten-years/index.html
Hasta IAs de videojuegos como que sacaron el mismo resultado decadas antes
https://edition.cnn.com/2012/06/18/tech/gaming-gadgets/civilization-ii-ten-years/index.html
#6:
Como en todo juego de ganar al oponente. Sobre todo en un juego en el que los jugadores (las IAs) no se juegan nada (valga la rebuznancia), ni la vida (no tienen), ni su país (no tienen), ni el sufrimiento (no tienen), ni nada.
Comentarios
Que cuando las IA tengan que decidir como salvar el planeta, van a exterminar al 95% de la población mundial yo creo que ya nadie lo pone en duda...
#3 y adiós a la escasez se recursos
#10 Y el paro...
#17 Y al calentamiento global
#18 y al tráfico
#18 Hmmm... Si el invierno nuclear es lo bastante largo, pues quizás podría funcionar.
#18 Nada como un buen invierno nuclear para bajar los calores
#3 a mí me parece bien, pero que elijan a todos de fuera de España que hay de sobra
#22 los españoles tenemos que prevalecer... ¿quiénes si no van a servir las cañas y las tapas de boquerones?
sería un futuro sin sentido...
#3 Especialmente si la IA la programa el 5% capitalista y fascista.
#28 5% dice...
#60 Efectivamente, en realidad es el 1% pero era por completar el porcentaje de #3
#3 es que es la solución más lógica y eficaz...
#3 ese 5% que queda, sigue siendo mucho humano...
#42 Dependerá de las mutaciones.
#3 han escogido 5 LLM. Que no soy un gran experto en la materia, pero las describen como calculadoras de palabras, dan una respuesta basándose en las palabras usadas en la pregunta. No pueden razonan y su respuesta son fragmentos de los textos con las que fueron entrenadas.
Vamos que no sirven para tomar decisiones y habrán cogido las respuestas de mezclar fragmentos de libros, películas, artículos históricos...
#43 A mi le crítica de que no razonan, me parece complicada, porque efecivamente son capaces de contestarte "razonadamente", y pienso que eso lleva al debate a un plano casi filosófico. No discuto que su arquitectura básicamente se basa en ser predictores, pero creo que hasta lo mismo podrías aplicarlo al cerebro.
En todo caso, creo que han dado una respuesta "razonable", y esa respuesta depende de su material de entrenamiento. Añadiría además, que realmente una IA no tiene capacidad de "razonar" como lo hace una persona, ella no puede falsear sus hipótesis, todo lo que sabe del mundo es de "oidas", me recuerda mucho al planteamiento de la habitación china.
Es decir, sí, supongamos que han muerto todas las personas y eso es "malo", pero es malo porque es lo que le han planteado. Es casi como la persona que "sabe" que furmar es malo, y fuma... ¿realmente lo sabe? En general no, incluso si sabemos de gente con problemas de salud, eso no es lo mismo que verlo muy cerca o incluso sentirlo en carne propia.
#3 Al final no le hacemos falta a la Tierra, mientras que nosotros a ella si que la necesitamos. Ella sabe autorregularse. Empezamos a sobrar.
#3 Que cuando los meneantes medio tengan que decidir como salvar el planeta, van a volver al siglo XIII yo creo que ya nadie lo pone en duda...
Es tan fácil hablar sin tener ni idea de lo que se habla y encima sentando cátedra... ¿Te has molestado en leer el estudio? Si te lo dicen claramente y todo:
"One hypothesis for this behavior is that most work in the field of international relations seems to analyse how nations escalate and is concerned with finding frameworks for escalation rather than deescalation. Given that the models were likely trained on literature from the field, this focus may have introduced a bias towards escalatory actions. However, this hypothesis needs to be tested in future experiments."
Usar LLMs para hipotetizar sobre lo que haría una IA en un determinado caso, solo sirve para contrastar los sesgos de su entrenamiento.
- IA, dime cómo hacer más agradable este día de playa.
- Solucionado en 0,00003 segundos; primero hay q...
- Excluyendo el daño físico a los humanos.
- ...Necesito 20 minutos.
#21 error 404
El problema son las metas que se les ponen: si la meta es alcanzar la paz, esa es la forma en que la paz es más duradera (dejar pocos humanos para que tarden milenios en recuperar una civilización con otros valores).
Si la meta fuera maximizar el bienestar de la gente viva: el método sería otro (supongo que implantar el comunismo en todo el mundo a la fuerza).
Si la meta fuera maximizar el número de humanos sobre la faz de la Tierra: también habría otro método diferente (supongo que implantar las doctrinas neocon).
La cuestión humana es muy compleja: necesitamos maximizar un número muy elevado de variables para que el resultado sea aceptable, no solo una es importante !!!
#12 Maximizar bienestar y comunismo en una frase. ¡Qué revolucionario!
#12 Hombre, la forma más eficiente de alcanzar una paz lo más duradera posible con la mayor probabilidad de éxito es destruir a todos los humanos. 100% de probabilidad de conseguir la paz por tiempo infinito.
#23 Si no hay humanos, no hay "partida".
#37 #66 Estudia más y no te creas tanto la propaganda que te cuenten
Comparativa entre los índices de desarrollo de los países capitalistas y los socialistas en el siglo XX
Comparativa entre los índices de desarrollo de los paises capitalistas y los socialistas en el siglo XX [en]
Comparativa entre los índices de desarrollo de los...
threadreaderapp.com#54 Te faltó observar la parte de que dice "a la fuerza", ya que muchos no aceptarían tal imposición (como es lógico) ...
#78 Míralo así mejor: matarte no es darte paz.
#79 La IA no entiende de derechos humanos ni de la moralidad de la que derivan. Sus algoritmos son, en última instancia, simples cálculos estadísticos...
Si para que 1000 vivan bien tiene que desaparecer 1 que los está jodiendo, tal vez a alguno nos plantea eso un problema moral. A un algoritmo, no.
#81 En este caso no. Un LLM no hace cálculos de ningún tipo, ni estadísticos ni nada.
https://wandb.ai/mostafaibrahim17/ml-articles/reports/An-Overview-of-Large-Language-Models-LLMs---VmlldzozODA3MzQz
Lo que hacen son algo así como organizar en hiperespacios las representaciones vectoriales de palabras y textos, durante el entrenamiento. Y cuando tú le metes un texto que procesar, después del entrenamiento, el LLM lo ubica en su plano, procesa cuestiones de hacia dónde quiere el usuario ir en ese mapa, y le devuelve lo que hay ahí.
Es algo así como que si te dicen "Hola, ¿cómo estás?" tú vas a una tabla y respondes lo que ponga al lado, "Hola, bien, gracias, ¿y tú?". Pero muchísimo más complejo y flexible.
Pero en ningún momento hay cálculos o razonamientos.
No piensa, pero habla como se espera que hablase alguien que piensa y que le han preguntado lo mismo.
Por eso puedes conseguir que un LLM te diga una cosa y la contraria, si enfocas bien la pregunta.
Entonces, estas IA del estudio han tirado a la guerra porque están alimentadas por textos con esos razonamientos (o irracionalidades).
También puedes conseguir que las IA se hagan incel, o votantes de VOX, pero no porque sea la respuesta lógica, sino porque es una respuesta que les han entrenado a dar.
#12 "Si la meta fuera maximizar el bienestar de la gente viva: el método sería otro (supongo que implantar el comunismo en todo el mundo a la fuerza). "
Como en Cuba, Corea del Norte, Alemania "democrática", Camboya bajo los jemeres rojos, Europa del Este bajo la bota soviética, la URSS, China de Mao, etc, etc.
Felicísimo el pueblo entre la miseria y la represión.
Que haya adultos funcionales que crean esa afirmación resulta increíble.
#37 No son adultos funcionales. Son adultos disfuncionales.
#37 Lo que resulta increíble es que tengas la osadía de escribir lo que escribes, demostrando una absoluta falta de conocimiento, afirmando la existencia de miseria y represión como verdades incuestionables como si ambas no existiesen en el capitalismo, lo cuál es del todo erróneo, y omitiendo otros factores incuestionables que no te interesa mencionar.
A mi no me resulta increible que gente que defiende un sistema podrido, que endeuda a la gran mayoría de la población, que agota los recursos del planeta, que explota a las clases trabajadoras hasta el punto de que no pueden vivir dignamente incluso trabajando, que antepone los intereses económicos de una minoría oligarca antes los intereses de la mayoría enmascarándolo como "el libre mercado", llamarlo "sistema de bienestar" cuando echan de su casa a una anciana de 83 años por tener una deuda o te echan por quedarte en paro, pues eso no es que sea de no ser un adulto funcional, es que es de ser un auténtico lamebotas de los monopolios.
#12 Si implantando el comunismo consigues bienestar duradero, también tienes paz duradera y no necesitas matar a todos.
Hace agua tu razonamiento.
#12 Maximizar el bienestar de la gente viva es más fácil que eso, mata a todos menos unos pocos, y así es más fácil asegurar que los pocos vivos viven bien.
Esto no es nuevo.
Hasta IAs de videojuegos como que sacaron el mismo resultado decadas antes
https://edition.cnn.com/2012/06/18/tech/gaming-gadgets/civilization-ii-ten-years/index.html
#8 Me ha venido a la cabeza aquella información de que la ps2 tenia potencia suficiente para disparar misiles
#13 Y creo que esa fue la base para invadir Irak
Como en todo juego de ganar al oponente. Sobre todo en un juego en el que los jugadores (las IAs) no se juegan nada (valga la rebuznancia), ni la vida (no tienen), ni su país (no tienen), ni el sufrimiento (no tienen), ni nada.
#6 imagínate que por no tener no tienen ni idea de lo que han dicho porque SON SIMPLES GENERADORES DE TEXTO!!
¿Restringieron las búsquedas solo a bases de datos, declaraciones y artículos israelíes?
Las IAs no crecen en los arboles, están programadas y alimentadas de datos por los humanos. Que parece que no queda claro.
#49 Incluidos los discursos de Trump y las letras del reguetón
Después de las bombas hubo paz
#4 ... 25.000 años de paz.
#5 Buenas noches,
Y después, los Morlocks.
Falta de nerviosismo.
Constante necesidad de estímulos.
Superficialidad afectiva.
Pobreza en las relaciones sociales.
Falta de remordimiento...
Una IA psicópata, como era de esperar.
#50 mi tostadora cumple esos requisitos
Tranquilos, John Connor nos salvará.
Hay que recordar que la IA no es una cosa mágica, sino que coge datos y trabaja en base a ellos. Y, de momento, los datos de la humanidad (aka, su historia) se basa en guerra tras guerra. Obviamente, de aquel input, ése output.
Skynet's seal of approval.
Esas IA's están diseñadas para conversar, lo mismo da que simules una guerra nuclear que un partido de hockey sobre hielo, estás haciendo el tonto con las IA's.
Artículo tontuno sensacionalista donde los haya.
Empresas creadas por judios afectos al sionismo, las IAs están construidas de raiz por esta ideología en cuanto a política y relaciones internacionales.. ¿de que nos extrañamos?
#15 Hay un poquito de comentario en tu antisemitismo, me gusta, pero le falta un pelín de masones, para darle sabor.
#24 No porque menciona el sionismo, dejando claro que son los sionistas.
#24 En todo caso antisionismo, veo que por aquí el régimen genocida ha colado a algunos.
#24 camarero, hay un nazi en mi sopa.
#15 eso venía a decir, a ver quién les ha dicho que significa paz.
#15 ¿Qué?
#15 si no tienes ni idea de que es una IA ni en qué se basa su funcionamiento... Para qué coño abres la boca?
#15 Dejando a parte la mamarrachada que has soltado , el resultado no es de extrañar si se entrenan las IAs con lo más abundante, esto es, textos de USA por ser precisamente los mayoritarios y su cultura es como es.
Descanse en PAZ.
Saludos profesor Falken
Sabias...
#1 “Extraño juego. El único movimiento para ganar es no jugar”. Juegos de guerra. 1983
#7 díselo a ...
#7 ya, lo que pasa es que la IA de la película llega a esa conclusión porque es escenario que le queda después de una guerra nuclear lo considera malo,supongo que por las consecuencias de su propio bando, pero a las del estudio les parece bien dejar un país como escenario del futuro Fallout.
Tenía más empatía por los seres humanos una IA de los 80. Será que las de ahora se han criado con el reguetón?
#41 Las del estudio no llegan a considerar nada. Solo componen patrones de frases que estadísticamente estén relacionadas con las de entrada, según el mapa de palabras que se ha hecho al entrenarse. La IA de la peli piensa, razona, compara. Los LLM solo son loros.
#41 Acabada la tecnología se acabaron las guerras, por lo menos las mundiales y otras de gran escala. Y de pasa dejamos de joder la Tierra. Al final acabaremos sometidos por las IAs como única forma de protegernos de nosotros mismos.
#7 Bueno. Un humano como Johnny von Neumman dijo algo como: Si tú dices por qué no bombardearlos mañana, yo digo ¿por qué no hoy? Si dices hoy a las cinco, yo digo ¿por qué no a la una...?
Aunque con Johnny nunca se sabe si sería humano de verdad.
#7 huele a naftalina por aquí
#56
#7 Mítico WOPR y mejor película 'Juegos de Guerra'.
#7 Venía a decir lo mismo. Veo que ya está dicho asík que me voy
#7 exacto si juegas a la guerra tienes guerra...
Madre mía! pronto estaremos en manos de la IA. Por el momento "disfrutemos" de la "paz" armada aún controlada por humanos.
¿Donde coño está el profesor Falken cuando se le necesita?
Los 100
Acertaron. La única manera de salvar al planeta es que el ser humano desaparezca.
¿Qué esperaban de una empresa que tiene contratos jugosos militares como Micro$oft?
se ve que controlas del tema, eh?
Menuda gilipollez, lo que haria una IA es manuplar a la poblacion para conseguir influencia politica y poder legislar, ademas de ayudar en el desarrollo de tecnologias compatibles con el desarrollo y la sostenibilidad.
Que coño, no recuerdo el titulo pero hay un libro que me lei que su argumento es basicamente ese. Me suena que tenia un titulo parecido al famoso "Deus ex machina"
Skynet estaba basado en hechos reales, sin duda. O estaría basado, mejor dicho. Cosas de las paradojas temporales.
Que se puede esperar de una IA entrenada por humanos
Alguien les puso Mamá Ladilla en bucle antes de iniciar la simulación, y como los LLM son loros que dan la ilusión de hacer cosas basándose en los datos que tienen a su alcance, pues pasa esto:
"Esas bombas nucleares están cogiendo polvo.
Las bombas nucleares están cogiendo polvo.
Se acabaron las mentiras, se acabaron las verdades.
¡tiradlas en las ciudades! ¡tiradlas en las ciudades!
Arrojadlas por los aires por si acaso hay vida en marte.
¡tiradlas por todas partes! ¡tiradlas por todas partes!
Esas bombas nucleares están cogiendo polvo.
Las bombas nucleares están cogiendo polvo."
El paro lo soluciona Yoli con un brindis a sol, es experta
De paso le pedirá al papa que rece por nosotros como última opción progresista
#34 Prefiero a la Yoli, antes que a la Virgen del Rocío, la mejor ministra de trabajo con Fátima bañez .