Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

Geoff Hinton, considerado uno de los padrinos de la IA y uno de los científicos más influyentes del siglo, explica cómo llegamos hasta la IA moderna, qué peligros reales enfrenta la humanidad respecto a ella y por qué cree que estamos cerca de una superinteligencia capaz de superar a los humanos en todo. Durante esta conversación, Hinton revela la historia y el origen del Deep Learning, el concepto de IA maternal y por qué dejó Google para poder advertir al mundo sobre los riesgos de la inteligencia artificial, entre otras cosas.

[#6 TXTSpake]

Vista la entrevista entera. Muy intersante.

Saco dos ideas, para mi, claves... y dentro de mi limitación de adulto con estudios, pero ni de lejos con los conocimientos de Hinton.

La IA tarde o temprano va a pensar en aniquilarnos. Él da un 20% de que ocurra, pero repite que siendo muy optimista, y que el 50% sería más realista. ¿La solución? Intentar "encauzar" a la IA a una IA maternal, que nos vea como niños a los que proteger... pero por ahora, poca gente esta pensando en eso.…   

[#10 Mustela]

#6 Pensará en aniquilarnos pero otra es que logre algo, y para ello debemos dejarnos o desregular por completo el sistema, cosa improbable por mucho que las gigantes tecnológicas compren y compren.

[#5 Torrezzno]

Bueno, supongo que todo se reduce a definir que es la consciencia. Es imposible definir que es la consciencia humana ya que no se conoce. Por lo tanto si la IA es consciente sera diferente a la consciencia humana.

Andrej Karpathy es realmente uno de los padres de las LLM y según el estamos a una década de alcanzar el AGI y no será exactamente como lo que esperamos. Pego traducido su post en X

x.com/karpathy/status/1979644538185752935

Plazos para la AGI.

Mis comentarios

…   

[#1 Spirito]

No me creo que la IA actual, ni aun la más avanzada, sea consciente todavía.

Ahora bien, sí entiendo que llegado el momento de la "singularidad" de la IA, y llegará, tal vez una super IA, sí se halla creado a un monstruo para nosotros, aunque quizás sea una bendición para el resto de la vida en la Tierra.

[#9 Mustela]

#1 He visto la conversación de principio a fin. Estoy de acuerdo contigo, yo tampoco puedo catalogarla de consciente, de todos modos y por lo que Hinton desprende se está viendo que puede llegar a razonar de forma similar. Como pensamiento singular, tal y como se basa en esa información que tiene, quizá lo consiga por medio de alguna clase de herencia.

Pero la IA carece de algo imprescindible para que tenga consciencia: tener sensaciones como amor, deseo, miedo, etc. Puede no querer que la…   

[#12 Spirito]

#9 Bien, muy bien el hilo y estoy en parte de acuerdo contigo.

Quizás tendríamos que definir varios conceptos sobre lo que ya hay cientos de libros desde la antigüedad, tal que:

- ¿Qué entendemos por vida?
- ¿Qué entendemos por inteligencia?
- ¿Qué entendemos por conciencia?
- ¿Qué entendemos por razonamiento?
- ¿Qué entendemos por sensación, intuición, emoción, sentimiento... acaso no son impulsos eléctricos que luego se interpretan en nuestro cerebro?

No sabemos hacia donde vamos con todos…   

[#14 Mustela]

#12 Gracias, eso genera un debate enriquecedor aunque mucho tiempo no tengo

Aparte de lo que entendemos por estos conceptos, en la computación mandan las Entradas / Salidas, que por muy rápidas o muchos "Hz" que alcancen sus sensores o interrupciones no podrán asemejarse a la analogía de la vida. Es más, se ha demostrado que cada parte del cuerpo tiene su propia memoria y si albergamos las funciones de un hipotálamo descubriremos que la IA no deja de estar a la altura de un…   

[#13 Pájaroloco]

#1 La IA o que va a ser, si no lo es ya , es una bendición para los que se dedican a fabricar armas como fueron la mayoría de los avances técnicos en la historia de la humanidad . Evidentemente no va a ser una excepción.

[#15 quitamelpiedencima]

Lo que más me gustó de la entrevista es que Hinton se declara ateo y Gustavo se despide al finalizar la entrevista con un “que Dios le bendiga”

Troleo máximo

[#3 El_empecinado]

Esto es lo que pasa cuando haces algo sólo "porque puedes hacerlo".

[#2 Doisneau]

El mal periodismo y los bocachanclas como este estan dando informacion basura al publico general a cambio de clicks. Llevamos muchos años de mal periodismo y mala divulgacion con este tema, y cansa un poco ver a estos irresponsables soltar este tipo de cuñadeces, honestamente. Ya no es un tema cientifico o tecnico, sino casi mistico para algunos por culpa de estos bocachanclas.

[#4 JanSmite]

#2 ¿A quién te refieres con "bocachanclas"? ¿Has visto la entrevista?

Yo la encuentro MUY interesante, siendo Hinton quien es: Doctor en Inteligencia Artificial desde 1977, es decir, un pionero, además de Premio Nobel de Física 2024 por sentar las bases de la Inteligencia Artificial, entre otros muchos reconocimientos.

¿O te has fijado sólo en una frase?

[#7 powernergia]

#2 Se te ve cargado de grandes argumentos.

[#8 rojo_separatista]

#2, mira que hay que ser un rato cuñao para llamar bocachanclas a Geoffrey Hinton.

[#11 ewok]

#2 Si alguien no necesita "clicks" es Hinton, ni es un 'youtuber' ni necesita 'monetizar', ya que es millonario por haber trabajado para Google (y ni siquiera por la puja más alta, como explica en la entrevista).
* Lo interesante del vídeo es el entrevistado, no el entrevistador, y ninguno de los dos 'mistifica' este tema, sino más bien al revés, si ves el vídeo (a la IA y a nosotros mismos y nuestra concepción de la mente).