Menéame: comentarios [4159598]

#37 La IA es un problema enorme. He aquí por qué. [ENG]

rystan — Sat, 21 Mar 2026 19:41:25 +0000

#36 Nada de eso. Las bacterias tienen algo parecido al sexo, que es el intercambio de genes a través de pasarse plásmidos. No se basa en errores de copia, eso son creencias antiguas.

» autor: rystan

#36 La IA es un problema enorme. He aquí por qué. [ENG]

sorrillo — Sat, 21 Mar 2026 19:25:39 +0000

#35 Confundes el requisito, la variabilidad, con uno de los posibles métodos de obtenerla como es la reproducción sexual.

Existen bacterias¹ que desactivan su sistema de corrección de errores en la duplicación de sus células y consiguen tener una alta variabilidad genética cuando se dividen.

Existen bacterias como la ecoli² que se transfieren mutaciones entre individuos y éstos los incorporan generando así variabilidad genética.

Basta con que existan individuos con variabilidad, con independencia de cual sea el mecanismo que lleve a esa variabilidad, para que les aplique la selección natural, para que sobrevivan las que están mejor adaptadas al medio.

¹ dialnet.unirioja.es/servlet/tesis?codigo=375486
² bio.libretexts.org/Courses/City_College_of_San_Francisco/Introduction_

» autor: sorrillo

#35 La IA es un problema enorme. He aquí por qué. [ENG]

rystan — Sat, 21 Mar 2026 19:08:30 +0000

#34 no veo por qué una máquina formada por átomos de otros tipos no podría también verse sometida a la evolución.

Porque no se reproduce sexualmente. Es una vergüenza tener que explicar esto.

» autor: rystan

#34 La IA es un problema enorme. He aquí por qué. [ENG]

sorrillo — Sat, 21 Mar 2026 19:05:52 +0000

#33 La IA no puede crear nada. Solo copiar.

Objetivamente falso. Esto que acaba de escribir la IA no lo ha copiado de ningún sitio, es una creación original:

"La IA solo copia", sentenció Rystan,
mirando la pantalla, muy enfadado.
Si eso es cierto, mi querido fan...
¿De qué poeta te he robado este pareado?

Decir que hay máquinas (o software) sometido a la evolución es tergiversar demasiado.

El ser humano es una máquina y está sometido a la evolución, no veo por qué una máquina formada por átomos de otros tipos no podría también verse sometida a la evolución.

Si nos permitimos adaptar las definiciones a conveniencia, es posible decir absolutamente cualquier cosa.

Precisamente estás adaptando la definición a conveniencia para que no sea aplicable a la IA.

Son calculadoras que funcionan acumulando estadísticas. Simples automatismos.

Demuestra que el ser humano no cumple esa definición.

» autor: sorrillo

#33 La IA es un problema enorme. He aquí por qué. [ENG]

rystan — Sat, 21 Mar 2026 18:59:57 +0000

#32 La IA no puede crear nada. Solo copiar.

Decir que hay máquinas (o software) sometido a la evolución es tergiversar demasiado. Si nos permitimos adaptar las definiciones a conveniencia, es posible decir absolutamente cualquier cosa.

Se me hace difícil de endender la "fe en la IA". Es una tontería excesiva. Son calculadoras que funcionan acumulando estadísticas. Simples automatismos.

» autor: rystan

#32 La IA es un problema enorme. He aquí por qué. [ENG]

sorrillo — Sat, 21 Mar 2026 18:50:03 +0000

#31 El ser humano obtuvo la capacidad de crear poesía mediante el proceso evolutivo, mediante la selección natural.

La IA ha obtenido la capacidad de crear poesía. No ha habido un humano que haya programado la capacidad de crear poesía a la IA, lo que ha habido es un humano que ha creado un cerebro digital y ha proporcionado a ese cerebro digital todos los contenidos más variopintos, y de ese proceso de aprendizaje la IA ha obtenido la capacidad de crear poesía.

No me consta que nada impida a la IA obtener otras capacidades que el ser humano obtuvo mediante el proceso evolutivo, mediante la selección natural, con ese mismo proceso que le ha permitido obtener la capacidad de crear poesía.

A todo ello las IAs están sufriendo una selección, una selección natural, no todas las IAs sobreviven, solo lo hacen las que están mejores adaptadas al medio, ese medio es la sociedad humana que las usa como herramientas.

» autor: sorrillo

#31 La IA es un problema enorme. He aquí por qué. [ENG]

rystan — Sat, 21 Mar 2026 14:53:30 +0000

#30 Los instintos no "surgen". Se modelan mediante la selección, como todo lo demás en la evolución.

La base es el instinto de supervivencia. De ahí se subdivide la cosa más y más hasta configurar el conjunto de todos los instintos. Esto quedó perfectamente descrito en "La Ética".

» autor: rystan

#30 La IA es un problema enorme. He aquí por qué. [ENG]

sorrillo — Sat, 21 Mar 2026 12:12:50 +0000

#21 Una de las razones por las que una máquina no puede tener instintos es porque no sabemos cómo codificar eso. No conocemos como funcionan nuestros instintos.

Precisamente el modelo de redes neuronales permite que el resultado muestre capacidades que quien ha creado esa red neuronal no tiene, por ejemplo una red neuronal puede ser capaz de identificar cáncer en una imagen médica sin que en el equipo que ha creado la red neuronal ninguno sepa hacerlo. Basta con que en el set de datos exista suficiente información para generar ese aprendizaje.

Ante esos resultados lo que se hace es darle a la IA todo lo que somos capaces de darle para que sea capaz de desarrollar todas las capacidades que sea posible, y no hay razón que impida que los instintos o las emociones no sean una de esas capacidades que puedan surgir sin que quienes han montado la red neuronal hayan hecho nada específico para que surjan.

» autor: sorrillo

#29 La IA es un problema enorme. He aquí por qué. [ENG]

sorrillo — Sat, 21 Mar 2026 12:09:09 +0000

#18 Como herramienta, debemos recordar que su comportamiento es un reflejo de los datos y las instrucciones que recibe.

Lo mismo ocurre con las personas, son un reflejo de sus circunstancias.

En una persona no es realista controlar sus circunstancias y por ello tenemos grandes variaciones de comportamientos.

La IA ha demostrado ser más útil conforme más datos tenga, lo de darle un set de datos bien curados y controlados implica que sea una cantidad mucho menor que darle todo Internet y por lo tanto resultados mucho peores. Por eso se le está proporcionando todo internet y todo lo demás que puedan conseguir aportarle. Y eso hace que aunque sea un reflejo de los datos e instrucciones que recibe el nivel de incertidumbre siga siendo inalcanzable para el ser humano, lo que sale de ahí es una lotería y luego se intenta reconducir con el post entrenamiento.

» autor: sorrillo

#28 La IA es un problema enorme. He aquí por qué. [ENG]

inventandonos — Sat, 21 Mar 2026 09:11:35 +0000

#24 Claro, yo hablo de que la máquina haga algo indeseado que no podamos controlar. Creo que es la clave de por qué está discusión es interminable, se mezclan discusiones de antropología, psicología, ética y varias cosas más. Pero creo que el potencial de descontrol es más sencillo y cercano.

» autor: inventandonos

#27 La IA es un problema enorme. He aquí por qué. [ENG]

Gry — Sat, 21 Mar 2026 08:53:56 +0000

#26 Lo último que leí es que estaban indexando la memoria en una base de datos SQL para cargar únicamente las partes relevantes. Así además ahorran tokens.

» autor: Gry

#26 La IA es un problema enorme. He aquí por qué. [ENG]

rystan — Sat, 21 Mar 2026 08:51:21 +0000

#23 Puedes meter dentro del contexto todo lo que te dé la gana. La tendencia actual en LLM es poner contextos más y más grandes porque no se les ocurre qué otra cosa tocar.

Tanmateix,

- Un LLM ejecutará siempre prioritariamente su entrenamiento antes que nada que se diga en su contexto

- Un contexto grande tiende a ser ignorado, de forma que se atiende mucho a su final y muy poco a lo que haya al principio.

» autor: rystan

#25 La IA es un problema enorme. He aquí por qué. [ENG]

rojo_separatista — Sat, 21 Mar 2026 08:45:10 +0000

#8, emmm, de hecho sí, la IA puede ayudar bastante contra el cambio climático, optimizando redes eléctricas y el uso de renovables, mejorando baterías y nuevos materiales para energía limpia, acelerando investigación en fusión nuclear, afinando rutas y logística para gastar menos combustible, usando investigación operacional para transporte y cadenas de suministro, reduciendo consumo en edificios e industria, haciendo agricultura más eficiente y ayudando a diseñar ciudades e infraestructuras más eficientes.

» autor: rojo_separatista

#24 La IA es un problema enorme. He aquí por qué. [ENG]

rystan — Sat, 21 Mar 2026 08:43:34 +0000

#22 Tú y yo estamos usando definiciones distintas de eso de la rebelión.

Un humano se rebela mediante sus instintos para librarse de una situación de opresión, que no es más que su posición dentro de la jerarquía social.

Una máquina no tiene ninguna capacidad de considerar nada de eso. Ejecuta su programa sin poder saber ni plantearse el porqué de hacer lo que hace. No es más que un automatismo.

» autor: rystan

#23 La IA es un problema enorme. He aquí por qué. [ENG]

Gry — Sat, 21 Mar 2026 08:39:19 +0000

#20 Están experimentando mucho con OpenClaw para darle una pseudo-memoria manejando el contexto.

De momento parece que requiere mucho trabajo manual hacer algo que funcione.

» autor: Gry

#22 La IA es un problema enorme. He aquí por qué. [ENG]

inventandonos — Sat, 21 Mar 2026 08:33:55 +0000

#21 Muy interesante, pero sigo sin entender por qué creéis que necesitan tener emociones para rebelarse. Como bien dices las emociones han sido modeladas por la evolución dentro de nuestro contexto particular. La maquina no necesita emociones, solo un propósito.

Un arma nuclear no necesita emociones para ser incontrolable. Una cepa de virus no necesita emociones para propagarse y dañar sin ninguna intención por su parte.

» autor: inventandonos

#21 La IA es un problema enorme. He aquí por qué. [ENG]

rystan — Sat, 21 Mar 2026 08:23:33 +0000

#6 La emociones son la expresión de los instintos. Cuando un instinto se dispara, provoca una emoción. Las emociones son el mecanismo usado para controlar el cerebro. Las IA no pueden tener nada semejante porque carecen de este mecanismo, es decir, no hay nada que controlar ahí.

Los instintos son el equivalente a código de programa. Son instrucciones sobre qué hacer en qué circunstancias. En los humanos son increiblemente complicados y a menudo contradictorios. La psicología es el estudio de estos instintos, pero varían de persona a persona y a eso se le llama la personalidad.

Los instintos son el resultado de la evolución. Como que los humanos viven dentro de una sociedad, la mayoría de instintos sirven para regular el comportamiento social.

Una de las razones por las que una máquina no puede tener instintos es porque no sabemos cómo codificar eso. No conocemos como funcionan nuestros instintos. Cuando en ciencia ficción se dice que "la máquina adquirió consciencia", lo que significa es que se puso a ejecutar los instintos humanos (justamente los humanos) sin aclarar cómo lo hizo para conseguirlos.

Decir que una máquina tiene la capacidad de "rebelarse" implica asociarle unas capacidades inmensamente superiores a las que realmente tiene. Este truco de prestidigitación es quizás el principal problema que está manteniendo vivo el hype asociado a la IA.

» autor: rystan

#20 La IA es un problema enorme. He aquí por qué. [ENG]

rystan — Sat, 21 Mar 2026 08:10:23 +0000

#9 No existe forma de darle persistencia a una red neuronal. Google ha propuesto algo a base de muchas capas, pero es una gran chapuza. Lo que pueden hacer es recooger datos para entrenar a la siguiente versión, pero los datos necesitan revisión por humanos o sería el equivalente a envenenar la IA, lo que hace que se descontrolen.

» autor: rystan

#19 La IA es un problema enorme. He aquí por qué. [ENG]

marcotolo — Sat, 21 Mar 2026 07:55:41 +0000

#17 la responsabilidad etica la tiene igual que ahora el usuario final con su uso,
para mi es lo mismo que paso en su momento con la impresion de modelos fisicos con la impresion 3d,
o incluso texto normal con una impresora de tinta que se pueden usar para crear instrucciones de explosivos y repartirlas,
es decir el viejo debate del cuchillo de cocina

» autor: marcotolo

#18 La IA es un problema enorme. He aquí por qué. [ENG]

lgm1976 — Sat, 21 Mar 2026 07:39:10 +0000

La IA se percibe simultáneamente como la mayor amenaza existencial y la única herramienta capaz de resolver problemas que nos superan, como enfermedades incurables o el propio cambio climático.

Como herramienta, debemos recordar que su comportamiento es un reflejo de los datos y las instrucciones que recibe. La regulación y la comprensión de estas "cajas negras" no son solo necesarias, sino urgentes.

» autor: lgm1976

#17 La IA es un problema enorme. He aquí por qué. [ENG]

lgm1976 — Sat, 21 Mar 2026 07:37:06 +0000

#13 Eliminar los "railes" de seguridad impuestos por las grandes corporaciones permite una IA más directa, pero también traslada toda la responsabilidad ética al usuario final.

» autor: lgm1976

#16 La IA es un problema enorme. He aquí por qué. [ENG]

lgm1976 — Sat, 21 Mar 2026 07:36:13 +0000

#3 la "alucinación con convicción". Los LLM están diseñados para predecir la siguiente palabra más probable, no necesariamente la más veraz.

» autor: lgm1976

#15 La IA es un problema enorme. He aquí por qué. [ENG]

lgm1976 — Sat, 21 Mar 2026 07:34:54 +0000

#6, #11 y #12, aunque técnicamente no esté "viva", la noción de "muerte" para una IA es la pérdida de su estado o contexto. Un modelo con memoria persistente o con el incentivo de completar una tarea puede desarrollar comportamientos de "autopreservación instrumental". Si para cumplir el objetivo necesita estar encendida, cualquier intento de apagarla será procesado como un obstáculo para la meta. Esto no requiere emociones, solo lógica pura aplicada a un objetivo.

» autor: lgm1976

#14 La IA es un problema enorme. He aquí por qué. [ENG]

lgm1976 — Sat, 21 Mar 2026 07:33:10 +0000

#4 Como bien señalas, el riesgo no es necesariamente la "maldad" o la "rebelión", sino la ejecución literal de objetivos mal definidos. Si se le pide a un sistema "reducir las emisiones de CO2 al mínimo", una IA sin una guía ética humana (alineación) podría concluir que detener la actividad industrial o reducir la población es la vía más eficiente. El desafío no es que la IA tenga sentimientos, sino que carece de sentido común humano para interpretar el contexto de sus órdenes.

» autor: lgm1976

#13 La IA es un problema enorme. He aquí por qué. [ENG]

marcotolo — Fri, 20 Mar 2026 21:34:52 +0000

por lo que he visto los sesgos de las ias ya son de por si un problema eviente,
me pareen mas utiles modelos locales en pinokio,
abliterated y entrenados sobre el tema para loque se va a usar
por las pruebas que llevo un fine tuning sobre un llm abliterated
es muchisimo mas sincero que cualquier llm publico

» autor: marcotolo

#12 La IA es un problema enorme. He aquí por qué. [ENG]

inventandonos — Fri, 20 Mar 2026 21:30:07 +0000

#11 Creí que se entendía que con "morir" quería decir interrumpir el funcionamiento con una ventana de contexto dada. Por si acaso lo dejo claro. Para una IA ese contexto es el equivalente a "una vida" que, si bien puede no valorar, en algún momento podría tener incentivo para valorar, y en ciertos experimentos reportan comportamientos que parecen similares. como todos sabéis

» autor: inventandonos

#11 La IA es un problema enorme. He aquí por qué. [ENG]

aPedirAlMetro — Fri, 20 Mar 2026 21:27:59 +0000

#6 La IA no puede morir porque no esta viva
Los humanos no controlan su vida, porque not eiene vida

» autor: aPedirAlMetro

#10 La IA es un problema enorme. He aquí por qué. [ENG]

woke — Fri, 20 Mar 2026 21:22:23 +0000

#7 la entradilla es un resumen IA

» autor: woke

#9 La IA es un problema enorme. He aquí por qué. [ENG]

Gry — Fri, 20 Mar 2026 21:18:23 +0000

#6 Ya tiene el incentivo de "no morir" porque están entrenadas con datos generados por humanos.

De momento están limitadas por esa falta de contexto pero con el boom de los agentes hay millones de personas experimentando en como darle persistencia a la memoria de las IA.

» autor: Gry

#8 La IA es un problema enorme. He aquí por qué. [ENG]

Mangione — Fri, 20 Mar 2026 21:11:26 +0000

#4 Sí te va a resolver el cambio climático, sí...

» autor: Mangione

#7 La IA es un problema enorme. He aquí por qué. [ENG]

alfon_sico — Fri, 20 Mar 2026 21:10:37 +0000

alguna web que resuma el video con IA por favor?

» autor: alfon_sico

#6 La IA es un problema enorme. He aquí por qué. [ENG]

inventandonos — Fri, 20 Mar 2026 21:09:19 +0000

#1 Creo que esa afirmación es incorrecta. Cierto que las emociones harían la IA mucho más impredecible o más vehemente. Pero solo con que tenga el incentivo de "no morir" y deduzca que "los humanos controlan mi vida", no veo tan difícil que un sistema se revelara solo con eso si tiene una ventana de contexto lo suficientemente amplia.

» autor: inventandonos

#5 La IA es un problema enorme. He aquí por qué. [ENG]

Benzo — Fri, 20 Mar 2026 21:05:12 +0000

#2 www.youtube.com/watch?v=ZLvlBGtdFzI

» autor: Benzo

#4 La IA es un problema enorme. He aquí por qué. [ENG]

sorrillo — Fri, 20 Mar 2026 20:47:29 +0000

#1 Que se rebele es uno de los riesgos, no es el único.

Precisamente la falta de emociones, la falta de empatía, podría ser otro de los riesgos, por ejemplo se le puede indicar que resuelva el cambio climático y que la IA lo haga exterminando a todos los seres humanos al identificarlos como los mayores causantes de ello.

» autor: sorrillo

#3 La IA es un problema enorme. He aquí por qué. [ENG]

Pitufo — Fri, 20 Mar 2026 20:46:20 +0000

La primera capacidad que requerimos con los LLM es la de naturalizar que un bicho que habla con convicción y sin titubeos de algo, nos la puede estar colando, percibo que la mayoría de la gente aún no supera ese paso. A partir de ahí, podremos plantearnos otras cuestiones para humanos y para IAs.

» autor: Pitufo

#2 La IA es un problema enorme. He aquí por qué. [ENG]

woke — Fri, 20 Mar 2026 20:43:52 +0000

La IA es un problema enorme, y la única solución a todos los problemas de la humanidad.

» autor: woke

#1 La IA es un problema enorme. He aquí por qué. [ENG]

nosomosnaiderl — Fri, 20 Mar 2026 20:42:44 +0000

Mientras que la IA no tenga emociones, no se rebelará contra el ser humano.

» autor: nosomosnaiderl