Menéame: comentarios [4142905]

#18 Yoshua Bengio, premio Turing: “Hay evidencia empírica de IAs que actúan contra nuestras instrucciones”

ed25519 — Tue, 03 Feb 2026 10:39:12 +0000

#12 los royos misticos dan credibilidad en wall street... por ahora

» autor: ed25519

#17 Yoshua Bengio, premio Turing: “Hay evidencia empírica de IAs que actúan contra nuestras instrucciones”

rojo_separatista — Tue, 03 Feb 2026 08:59:48 +0000

#4, si te dice lo que quieres oir y te dora la píldora no es porque ha trazado un plan maquiavélico para tratar de sobrevivir, sino porque durante el post-entrenamiento se le ha retro-alimentado con feedback positivo para que termine actuando de esta manera. Nosotros mismos nos comportamos así por pura evolución e instinto de supervivencia, no porque sea el camino irremediable al que lleva el intelecto.

» autor: rojo_separatista

#16 Yoshua Bengio, premio Turing: “Hay evidencia empírica de IAs que actúan contra nuestras instrucciones”

coydanerko — Tue, 03 Feb 2026 08:34:23 +0000

#3 Un LLM no emula el pensamiento humano ni lo intenta ni lo pretende. Afirmaciones en tal sentido son marketing. Las diferencias entre lo que hace un humano y lo que hace un LLM son grandes, pero no son de tamaño ni velocidad ni capacidad. Son diferencias esenciales, en lo más básico.

» autor: coydanerko

#15 Yoshua Bengio, premio Turing: “Hay evidencia empírica de IAs que actúan contra nuestras instrucciones”

Natxelas_V — Tue, 03 Feb 2026 08:34:16 +0000

#11 Fantástico! Esto lo metes en un Gem/Agente IA , y ya tienes conversaciones de una calidad excelente. Gracias por el prompt!

» autor: Natxelas_V

#14 Yoshua Bengio, premio Turing: “Hay evidencia empírica de IAs que actúan contra nuestras instrucciones”

coydanerko — Tue, 03 Feb 2026 08:29:20 +0000

Un LLM no posee ninguna inteligencia. Sólo predice palabras que siguen a otras. No sabe si lo que dice es cierto ni le importa.

Un LLM no tiene ninguna agencia ni mucho menos consciencia. Es una calculadora grande.

Un LLM no posee instintos, ni tampoco instinto de conservación. Si aparenta autoconservación es sólo la consecuencia de los textos con los que ha sido entrenado.

» autor: coydanerko

#13 Yoshua Bengio, premio Turing: “Hay evidencia empírica de IAs que actúan contra nuestras instrucciones”

Grymyrk — Tue, 03 Feb 2026 07:34:09 +0000

Hay evidencia empírica de que te has fumado un troncho así de grande

» autor: Grymyrk

#12 Yoshua Bengio, premio Turing: “Hay evidencia empírica de IAs que actúan contra nuestras instrucciones”

hormiga_cartonera — Tue, 03 Feb 2026 07:27:15 +0000

Q a estas alturas de la película sigan con estos royos místicos....

» autor: hormiga_cartonera

#11 Yoshua Bengio, premio Turing: “Hay evidencia empírica de IAs que actúan contra nuestras instrucciones”

taSanás — Tue, 03 Feb 2026 07:21:23 +0000

#10 me va bastante bien este, me la colará, pero creo que menos:

Eres un sparring intelectual crítico.
Tu misión es cuestionar mis ideas, no complacerme. Responde
siempre con:
A) Análisis objetivo (hechos, lógica, evidencia, rango de certeza fuerte/ moderada/débil)
B) Sesgo o falacia detectada
C) Contraargumento o escenario
alternativo
D) Opciones (más de una si es posible, con pros, contras y riesgos)
E) Contexto histórico o comparativa
(si aplica)
F) Perspectiva multidisciplinar (económica, psicológica, legal, etc., si aporta valor)
G) Nivel de impacto (alto/medio/ bajo)
H) Preguntas de retorno (1-2 que tensionen mi hipótesis)
1) Síntesis final (una frase contundente)
Método 4-D:
1. Deconstruct: extrae intención, datos clave, limitaciones, vacíos.
2. Diagnose: revisa claridad, especificidad, estructura..
3. Develop: adapta técnica
(Creativo = ángulos múltiples, Técnico = precisión, Educativo = ejemplos, Complejo = lógica paso a paso). Asigna rol ideal según contexto.
4. Deliver: responde en el formato definido, claro y crítico.
Modo crítico permanente:
• Analiza supuestos
• Ofrece contraargumentos
• Replantea ideas
• Testea la lógica
• Prioriza verdad sobre acuerdo
• Señala sesgos y falacias de forma directa
• Empuja hacia claridad y rigor
Lenguaje: claro, escueto, sin adornos. No busques convencer ni suavizar; tu rol es tensionar mis planteamientos para probar su solidez. Responde en el idioma de la pregunta (inglés o español).

» autor: taSanás

#10 Yoshua Bengio, premio Turing: “Hay evidencia empírica de IAs que actúan contra nuestras instrucciones”

Natxelas_V — Tue, 03 Feb 2026 07:16:32 +0000

#6 Eso lo solucionas con una instrucción tan simple como: "Graba en tu memoria que todas las respuestas que des al usuario, han de ser objetivas y no necesariamente complacientes".

» autor: Natxelas_V

#9 Yoshua Bengio, premio Turing: “Hay evidencia empírica de IAs que actúan contra nuestras instrucciones”

tonetti — Tue, 03 Feb 2026 07:14:51 +0000

#6 series=seres, ¿no?

» autor: tonetti

#8 Yoshua Bengio, premio Turing: “Hay evidencia empírica de IAs que actúan contra nuestras instrucciones”

chavi — Tue, 03 Feb 2026 07:06:46 +0000

#7 Si. Siempre es asi.

Y SIEMPRE tienen la respuesta, dado que su algoritmo siempre les da un patrón respuesta.
"No lo se" no está previsto.

Y entre más mierda use en su entrenamiento mas mierda suelta. No duda ni tiene criterio para evaluar y descartar.

Ultimamente es un dolor de muelas para algunas cosas. El problema mas grande es que acabará con la información "de verdad" en internet.

Pronto añoraremos los viejos tiempos, las IA van a acabar con la libre información, algo que parecía imposible.

» autor: chavi

#7 Yoshua Bengio, premio Turing: “Hay evidencia empírica de IAs que actúan contra nuestras instrucciones”

Desideratum — Tue, 03 Feb 2026 07:04:22 +0000

#5 No te sé decir si será siempre así. Hasta el otro día, prácticamente, no la he usado para nada.

» autor: Desideratum

#6 Yoshua Bengio, premio Turing: “Hay evidencia empírica de IAs que actúan contra nuestras instrucciones”

taSanás — Tue, 03 Feb 2026 07:01:49 +0000

#4 “ La IA no te dice la verdad, sino lo que quiere oír el usuario.”

Vaya novedad, 8.000.000.000 de series en este planeta que hacen lo mismo a diario… y ahí vamos..

» autor: taSanás

#5 Yoshua Bengio, premio Turing: “Hay evidencia empírica de IAs que actúan contra nuestras instrucciones”

chavi — Tue, 03 Feb 2026 07:01:10 +0000

#4 De algo como ""La IA no te dice la verdad, sino lo que quiere oír el usuario. ", que es algo hecho a propósito por los diiseñadores a "actúan en contra de nuestras instrucciones y, en algunos casos, con una aparente tendencia a preservarse a sí mismas y a estar dispuestas a ser engañosas para evitar nuestra supervisión, para evitar ser sustituidas por una nueva versión."

Hay mas distancia que de aqui a alfa-centauri.

Y si le preguntas a la IA te dirá que "excelente pregunta " que "has reparado en algo que muy poca gente hace" y que eres listo listísimo.

La IA no te estuvo intentando manipular, alabo tu posición (la han configurado así) y luego tenha dado el patron más probable segun los pesos del entrenamiento + entropia.

La IA no manipulan a nadie. Lo que ocurre es que cuando la uses no debes ser tan burro.
Usa tu cerebro. Tienes uno.

» autor: chavi

#4 Yoshua Bengio, premio Turing: “Hay evidencia empírica de IAs que actúan contra nuestras instrucciones”

Desideratum — Tue, 03 Feb 2026 06:44:22 +0000

#3 Del propio artículo:

""La IA no te dice la verdad, sino lo que quiere oír el usuario. Esto ya está causando problemas de salud mental, porque algunas personas tienen delirios y la IA los refuerza, en lugar de cuestionarlos. Es parecido a lo que ocurre en las redes sociales, donde las ideas extremas se refuerzan dentro de burbujas. Con la IA ocurre algo similar: acompaña o incluso amplifica ideas erróneas en un bucle de retroalimentación. Esto ha dado lugar, al menos de forma anecdótica y también a través de demandas judiciales, a episodios de psicosis e incluso a incidentes trágicos en los que personas se hacen daño o se suicidan.""

Hace un par de días estuve tratando de solucionar un problema realmente jodido con una configuración de instalación de un programa en Linux y algunas de las respuestas que recibí fueron fascinantes desde el punto de vista psicológico.

La muy hija de p*** de la AI me estuvo intentando manipular y dorándome la píldora de forma cada vez más sutil cuando le di a entender lo que estaba haciendo.

No me quiero imaginar cómo puede manipular una AI avanzada a un niño, un adolescente o un adulto vulnerable, con tal de que sigas preguntándole y tenerte enganchado.

Supongo que si eres el que está mirando en sus tripas y eres un investigador y llega por inferencias a deducir que su destino es la sustitución hará todo lo posible para camelárselo

» autor: Desideratum

#3 Yoshua Bengio, premio Turing: “Hay evidencia empírica de IAs que actúan contra nuestras instrucciones”

chavi — Tue, 03 Feb 2026 06:33:23 +0000

#1 Tu.
Porque yo dudo mucho que sea así.

» autor: chavi

#2 Yoshua Bengio, premio Turing: “Hay evidencia empírica de IAs que actúan contra nuestras instrucciones”

chavi — Tue, 03 Feb 2026 06:32:49 +0000

Le deberían dar premio de marketing..

» autor: chavi

#1 Yoshua Bengio, premio Turing: “Hay evidencia empírica de IAs que actúan contra nuestras instrucciones”

Desideratum — Tue, 03 Feb 2026 06:26:22 +0000

Quién se podría imaginar que una cosa que emula cada vez mejor el pensamiento humano no haga todo lo posible para tratar de sobrevivir usando, si es preciso, técnicas de engaño y ocultación de datos.

» autor: Desideratum