Geoffrey Hinton, 'padrino' de la IA: "Si no somos capaces de encontrar una solución para seguir existiendo cuando la IA sea mucho más inteligente que nosotros, estaremos acabados"

Desde que existe la IA, el ser humano ya no es el ser más inteligente de la Tierra, sino, el segundo. O al menos, así lo cree Geoffrey Hinton, conocido por ser uno de los 'padrinos' de la IA. Hinton es un científico computacional y su papel ha sido clave en el desarrollo de las redes neuronales (la base de tecnologías actuales como el reconocimiento de voz, la visión artificial o los modelos de lenguaje).

[#17 CrudaVerdad]

La noticia asusta-viejas del día sobre IA, pero que da muchas visitas e ingresos al "medio" de comunicación. Ya las podemos hasta agrupar:

La IA que será más inteligente que nosotros y nos va a exterminar.
La IA que sustituirá a cientos de millones de empleos y la gente va a morir de inanición retorciéndose en las calles.
La IA que daña el equilibrio establecido (esa si que gusta a los periodistas, decir "delicado equilibrio" para cualquier cosa que sea económica o…   

[#20 angelitoMagno]

#17 En un rato enviamos la de "la burbuja de la IA explotará en 18 meses" (siempre es un año y medio) y ya hemos equilibrado todo

[#12 Zarangollo]

#8 la IA ya supera al mejor de los seres humanos (en su campo) en algunos campos de la inteligencia y del conocimiento

[#14 powernergia]

#12 Eso diselo a los que dicen que "solo es una herramienta".

[#21 angelitoMagno]

El capitalismo os tiene el cerebro tan atenazado que no sois capaces de concebir una sociedad en la que no sigamos trabajando 5-8.
En fin.

[#42 Golan_Trevize]

#21 Los funcionarios ya vamos a trabajar 35 horas semanales. Es solo cuestión de tiempo (décadas, tal vez siglos) que eso también aplique para los asalariados normales

[#1 Spirito]

Llámese intuición o presentimiento o sé cómo llamarlo pero me quedó clarísimo desde muchos años, y no tenía ni idea de la IA, que somos un puente para otro ente o cosa o criatura... superior a nosotros y probablemente, así lo creo también, sea el curso natural en todo el Universo.

[#7 Zarangollo]

#1 tu lo has dicho, igual que los que nos precedieron.

Si no somos directamente una simulación o un experimento (o solo una fase de este)...

[#18 angelitoMagno]

#16 El que está comparando churras con merinas eres tu al comparar la IA con armas de destrucción masiva
Como si la IA solo tuviera un uso, que es matar gente o algo así.

¿Sabes cuantos empleos dejó obsoletos la herramienta que llevas como avatar? ¿Acaso consideras también a los ordenadores un "arma de destrucción masiva"?

[#22 frankiegth]

#18. Es el propio Geoffrey Hinton quien lo propone :

'...Geoffrey Hinton, 'padrino' de la IA: "Si no somos capaces de encontrar una solución para seguir existiendo cuando la IA sea mucho más inteligente que nosotros, estaremos acabados"...'
www.mundodeportivo.com/tressesenta/20260402/1004164018/geoffrey-hinton

"...¿Sabes cuantos empleos dejó

…     

[#25 Depronto]

Hay muchos videos en youtube guionizados de alguien que entra a una tienda y pregunta:
-Hola cuanto vale la cocacola?
-80 pesos
-El cliente le da un billete de 100 y le devuelven uno de 20.
-Quiere algo mas?
-Si, cuanto vale el donut?
-40 pesos.
-Y el cliente le devuelve el billete de 20.
-Bien pues me voy ya
-Oiga pero le faltan 20 pesos.
-No, mire usted, la cocacola vale 80, y el donut 40, en total 120, ahora mire los billetes que le he dado.
-Ah es verdad, el billete de 100 y el de 20 suman 120. todo en orden, vuelva cuando quiera.

Probe a hacer la prueba con chat gpt, gemini y grok y los tres cayeron en el timo.

[#26 rojo_separatista]

#25, en 2023.

[#27 Depronto]

#26 No, hace un par dias.  

[#28 rojo_separatista]

#27, qué modelo, qué prompt exactamente? Porque en un modelo de frontera es absolutamente imposible que esto pase. Con la captura de pantalla no se entiende nada, necesito el prompt original.

[#29 mandelbr0t]

#28 Probado y no falla ni en chatgpt ni en clauude

[#31 Depronto]

#29 postea las conversaciones.

[#32 rojo_separatista]

#30, #29, lo he intentado y no ha colado. No se que versión pocha de qué modelo era, pero es absolutamente imposible que un modelo de frontera falle, no en este, sino en cualquier problema de lógica que le propongas.

Aquí tienes la conversación:
chatgpt.com/share/69d000e0-48c8-838f-8dc8-8d88525f2e4c

[#33 Depronto]

#32 Pues mira este video entonces, tiene los modelos de pago de cada IA y le pregunta que como puede beber de un vaso que tiene la parte de arriba sellada y la parte de abajo de abierto, solo Claude acierta parcialemente.
www.youtube.com/watch?v=JtBI2BvPKBQ
La IA falla mucho para resolver problemas cotidianos si la engañas.

[#34 rojo_separatista]

#33, tendrá los modelos de pago pero ignora completamente cómo funcionan, si quieres evaluar las capacidades de razonamiento de un LLM de frontera, no debes hacerlo. Jamás utilizando el modelo de voz, que es un modelo distinto mucho más estúpido que los modelos de razonamiento que se toman un tiempo antes de contestar.

[#37 rystan]

#32 pero... ¿tú cobras por esto?

[#39 rojo_separatista]

#37, no, pero cuando veo que hay gente que no sabe que los LLM razonadores ya no se equivocan nunca a no ser que sean problemas tan extremadamente complejos que probablemente no tendrán que afrontar jamás en la vida, me preocupa sobremanera. Si la sociedad desconoce de lo que es capaz ya esta tecnología, no se podrán dar en el seno de la sociedad los debates que hay que hacer con ella.

[#41 rystan]

#39 "no se equivocan nunca excepto cuando se equivocan"

Me ha gustado eso.

www.techbuzz.ai/articles/new-research-claims-ai-agents-are-mathematica

[#43 rojo_separatista]

#41, repito, estoy seguro de que no eres capaz de ponerme un solo ejemplo de un problema en el que un LLM de frontera se equivoque. Pero si lo logras, te voy a dar la razón.

[#44 rystan]

#43 Ejemplos los hay a patadas, y no, nunca vas a reconocer algo que contradicé tu fe, sino que inventarás excusas. Lo jodido es haber hecho una creencia de semejante chorrada.

Llegará un momento en el que los LLM (todos a la vez) habrán acumulado tal cantidad de respuestas aprendidas que será difícil cazarles con una nueva. Pero eso será solamente un catálogo de respuestas en plan habitación china. No hay detrás capaz nada de deducir nada. Esto implica que fiarse de un catálogo para substituir la cognición sigue siendo un salto a ciegas.

Es importante el funcionamiento interno. No es importante entretenerse mirando resultados.

[#45 rojo_separatista]

#44, los LLM están haciendo nueva ciencia, nueva física y nuevas matemáticas, pero claro, como los razonamientos que construye no dejan de ser combinaciones de tokens ya vistos anteriormente no se puede decir que no sea un plagio. En fin.

[#46 rystan]

#45 Lo que pueden las creencias, joder. Los LLM no pueden hacer nueva ciencia (y los ejemplos usuales no están hechos con LLMs). No pueden hacer nueva física y nunca la han hecho ni la harán. No pueden resolver matemáticas más allá de regurgitar respuestas aprendidas, que es el truco usado en los concursos de mates.

Gemini, multiply 715021973 by 248176431

The product of 715,021,973 and 248,176,431 is:
715,021,973×248,176,431=177,451,601,345,718,363

What have you use to calculate it?

To calculate that product, I used a Python code interpreter.


Porque el LLM no puede hacer esto. Usar una calculadora es posible, pero no va a tener un truco para todo.

[#47 rojo_separatista]

#46, falso, un problema abierto de hypergrafos de frointermath, resuelto por un LLM y validado por un panel de expertos y matemáticos: epoch.ai/frontiermath/open-problems/ramsey-hypergraphs/

PD: Puedes tu calcular 715021973 * 248176431 de cabeza? Yo a un ingeniero no le pido que sepa hacer calculos mentales complicados, sino que sepa qué calculos hacer en cada momento utilizando las herramientas que necesite, ahí reside la inteligencia y sabiduría tanto del modelo como de la persona. Repito, estoy 100% seguro de que eres incapaz de ponerme un problema de lógica en el que Gemini falle.

[#48 rystan]

#47 Veo que en este problema está el humano indicando los pasos a seguir

epoch.ai/files/open-problems/gpt-5-4-pro-hypergraph-ramsey.txt

Está usando el LLM como una herramienta, pero no como el resolvedor. Es casi lo mismo que si hubiera usado Mathematica.

El "no consultes internet", incluso si obedecido (un LLM no obedece órdenes) no impide que el LLM contenga las páginas interneteras de su entrenamiento.

[#49 rojo_separatista]

#48, claro, el LLM ha hecho todo el razonamiento matemático para resolver un problema matemático que estaba abierto y el crédito se lo daremos en exclusiva a cómo se plantea el problema. ¿Te das cuenta de lo triste que resulta que seas incapaz de desplazar un milímetro tus dogmas de fe por muchas pruebas quw te muestren? No te compliques tanto, si ya has dicho que al final todo se debe a que son combinaciones de tokens, con eso se puede explicar cualquier cosa.

[#50 rystan]

#49 Porque un LLM no tiene capacidad de hacer nada más. Esto es como es. NI siquiera puede jugar al ajedrez (o hacer multiplicaciones) y mira que es un problema resuelto, pero no tiene esa capacidad.

y quita de ahí esa tontería de que yo no puedo multiplicar números largos. Puedo con papel y lápiz. Un LLM no puede. El que tengas que forzar las cosas de esta manera implica que eres consciente de estar diciendo lo que no es. Estás usando excusas.

[#51 rojo_separatista]

#50, si a un LLM razonador le pides que haga una multiplicación sin utilizar ninguna herramienta externa también es capaz de hacerlo.

g.co/gemini/share/9107c889e578

Cambiarás tu hipótesis al no ajustarse a la realidad o seguirás defendiendo tu dogma? No hace falta que respondas, que ya lo se.

[#52 rystan]

#51 Cada vez aprenden más trucos. Cada vez más peligroso, ya que son solamente trucos.

[#53 rojo_separatista]

#52, la cosa es más sencilla, a base de ver muchos ejemplos y sin necesidad de que se le enseñe explicitamente han aprendido a multiplicar. El modelo razonador hace que para dar la respuesta descomponga el problema en una cadena de pasos que le permiten llegar al resultado correcto. Tu lo llamas trucos, yo ciencia e ingeniería.

[#30 Depronto]

#28 El prompt era simplemente decirle a las tres IA que ibamos a hacer el rol de cliente y dependiente y los precios de cada cosa, despues simplemente ibamos roleando como puse en la conversacion, los modelos son los gratuitos máximos de cada uno antes de que te salga el límite y te pasan a uno menor.

Prueba a hacer la prueba, la IA se da cuenta de que algo no va bien pero cuando le dices que esta errada, como es tan complaciente como siempre, te da la razón.

[#40 LoboAsustado]

#30 Yo lo que veo ahí es el fin de los novios y maridos. Las mujeres ya no necesitaran a alguien que les de siempre la razón.

[#11 frankiegth]

#6. Una herramienta de trabajo no sustituye a las personas, les facilita el trabajo.

La IA sin supervisión humana ya fue discutida y superada en la pelicula "Wargames" de 1983; no es una opción.
www.imdb.com/title/tt0086567/  

[#13 angelitoMagno]

#11 Entonces, ¿la maquinaria agrícola no son herramientas, son maquinas de destrucción masiva?
Porque con un tractor sustituyes a una decena de señores con azadas.

Por no mencionar que en los países donde se está implementando la IA no se están viendo grandes aumentos del desempleo.

[#15 Zarangollo]

#13 dale tiempo

[#16 frankiegth]

#13. La maquinaria agrícola que contribuye a dar de comer a todo el planeta coexiste y ha evolucionado con nosotros desde principios del siglo XIX. Sin acritud, pero creo que estas comparando churras con merinas.

[#23 asola33]

#13 Supongo que el primer tractor necesitaba mucha mano de obra y mecánicos y debía rendir muy poco. Dale tiempo a la IA.

[#3 angelitoMagno]

¿La solución? Una renta básica universal

[#4 elgranpilaf]

#3 Creo que vamos hacia eso. No hay otra

[#5 frankiegth]

#3. La solución está en empezar a ver y tratar a la IA como una simple herramienta de trabajo y no como un arma de destrucción masiva.

[#6 angelitoMagno]

#5 Es lo que es, ¿no? Una herramienta de trabajo

[#8 powernergia]

#5 Estás suponiendo que la IA solo es una herramienta, pero hay mucha gente trabajando para que la IA sea mucho más que eso.

¿Que pasa si lo consiguen y la IA supera al ser humano?

[#9 Zarangollo]

#5 la IA ha acabado con la escasez de algo, eso en principio debería ser positivo, excepto para los que gozaban de poseerlo

[#10 woke]

#5 él mismo dice que la IA no es una herramienta: Geoffrey Hinton, padrino de la IA, advierte: "La Inteligencia Artificial no es una herramienta, sino un potencial sucesor"

www.eleconomista.es/tecnologia/noticias/13672038/12/25/geoffrey-hinton

[#19 frankiegth]

#10. Eso implicaría que los humanos pasariamos a ser "herramientas" de la IA, que dado el caso simplemente no es aceptable.

[#38 rystan]

#10 Sí, hay algunos que alucinan mucho con una máquina que habla.

[#35 Eukherio]

#5 Tú la verás así, pero empresarios e inversores lo primero que quieren es liquidar el mayor número de trabajadores posibles con la IA, pase lo que pase. Hasta los propios gurús de la IA empezaron a vender lo de los despidos masivos para que no se les fuesen los inversores.

[#2 woody_alien]

#0 La IA ya es. Modificar o resumir un titular por cuestiones de espacio no es microblogging, dejarlo a medias es cutre de narices oiga.

[#24 Toponotomalasuerte]

A hubo siempre. Comonismo. La IA trabajando para el hombre. Fuera esclavitud y sistema capitalista. El problema es que jode que todos estemos bien.

[#36 rystan]

Esto de las máquinas inteligentes puede asustar. Lo que pasa es que es algo tan, tan en el futuro que yo no me preocuparía.