Menéame: comentarios [4127955]

#23 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

JanSmite — Thu, 18 Dec 2025 22:43:50 +0000

#22 El dolor no es una emoción, entendida como "sentimiento por algo negativo", tipo "sentir dolor por la muerte de un amigo". El dolor-dolor es algo físico, es una señal corporal de que algo no va bien: has recibido un daño y tienes que tomar medidas. Si es un león que tiene un pincho en la pata, el dolor hará que no la apoye para no empeorar la situación, haciendo que se clave más profundamente y el daño sea más grave. Y más cuando una herida grave le puede suponer al animal la muerte.

Pero, definitivamente, como señal en los receptores nerviosos de la piel, de la carne, entrañas, etc., no es una emoción, es algo físico.

En cuanto a necesitar las emociones para sobrevivir, ¿por qué? Como decía antes, las emociones son una evolución en humanos (creo que también en otros primates y puede que en otros mamíferos) de los instintos de supervivencia. Claro, en los humanos se añade una capa racional que analiza y le añade complejidad a todo lo que le ocupa, así que esas emociones son más complejas que simples instintos, y se aplican a más ámbitos.

Pero si tú le añades a la IA rutinas de autoconservación, no le pones límite y tiene los medios, te matará sin pestañear si pones en peligro su existencia. Claro, ahí entramos en otra disquisición: los "instintos" de la IA no son naturales, no son por evolución, no son por aprendizaje, son programados por los encargados de la IA. Se han hecho experimentos en ese sentido, y hubo el caso de una IA, programada para conservarse, que llegó a hacerse una copia de si misma en otro equipo de manera oculta, mientras les decía a sus creadores que si, que procedía a su borrado completo.

Dicho de otra manera, como si fuera un creyente, que no lo soy: DIOS nos hizo así porque él decidió como teníamos que ser. No podemos tener, por ejemplo, 3 brazos y 8 piernas, o no podemos tener la capacidad de mover las cosas con la mente, "porque dios no ha querido" (en realidad, claro, ha sido cosa de la evolución, la economía y la física, y esas son cosas que no están en nuestro ámbito de decisión). Y nosotros somos el DIOS de la IA, su creador, nosotros ponemos los parámetros, los límites y los grados de libertad de su desarrollo, y se podrán desarrollar dentro de esos parámetros. Por ejemplo, a mí DIOS parece que me creo "mal", porque, dentro de mis grados de libertad, he decidido no creer en él.

» autor: JanSmite

#22 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

Mustela — Thu, 18 Dec 2025 20:30:29 +0000

#17 Exacto, emociones

Justo un artículo de ayer de El Periódico: ecologiaverde.elperiodico.com/los-insectos-sienten-dolor-5952.html: los insectos sienten dolor aunque no queda claro que lo hagan como que lo sienta un ser humano (seguramente no ya que dicen que su sistema nervioso es mucho más simple).

Desde mi punto de vista, un ser vivio sin emoción alguna no necesitaría vivir. No necesitaría protegerse del peligro como bien dices, ni desear, sentir, ¿comer?, etc.

» autor: Mustela

#21 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

josiahallen — Thu, 18 Dec 2025 20:10:50 +0000

#19 "cree que estamos cerca de una superinteligencia capaz de superar a los humanos en todo"

» autor: josiahallen

#20 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

JanSmite — Thu, 18 Dec 2025 19:41:26 +0000

#6 Lo que veremos es cómo los ricos intentan sacar provecho de la IA para ser más ricos todavía. De hecho, ya está pasando. La diferencia con la IA (y no va a ser culpa de la IA, sino de los ricos) es que va a acabar con la sociedad, ya veremos si "tal y como la conocemos", para pasar a otra cosa mejor, o va a acabar con ella a secas, y entonces se va a liar…

Porque, visto lo que dicen Musk, Ellison, Bezos, etc., no parece que estén dispuestos a repartir su riqueza para mejorar la sociedad, a poner ese dinero en sanidad, en educación, en mejorar infraestructuras, servicio, condiciones de vida, etc., lo que parece es que si pueden tener 1000, mejor que tener 600…

» autor: JanSmite

#19 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

JanSmite — Thu, 18 Dec 2025 19:34:24 +0000

#16 Estaría bien que dijeras cuáles son y por qué, por si no las he visto o no las he percibido como "insensateces".

» autor: JanSmite

#18 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

JanSmite — Thu, 18 Dec 2025 19:33:17 +0000

#13 La IA es una herramienta generalista, lo buena o mala que sea dependerá del uso que se le dé.

» autor: JanSmite

#17 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

JanSmite — Thu, 18 Dec 2025 19:26:10 +0000

#9 Wow… Eso son emociones, y no son imprescindibles para ser consciente, si por consciente entendemos tener conciencia de la propia existencia como ser individual.

Por ejemplo, una hormiga existe, pero no sé si es consciente en el término de considerarse a sí misma un individuo. De hecho, no lo sabemos, ni si es consciente o de si siquiera tiene la capacidad de serlo, y simplemente responde a instinto, programación genética y estímulos.

El miedo y otras emociones son la evolución de los instintos de supervivencia, pero sólo en el tipo de seres que han evolucionado en la Tierra en un sistema competitivo de predación: el miedo te protege de peligros, el amor hace que te reproduzcas, etc. En humanos eso se ha sublimado y da lugar a otras cosas más sofisticadas, pero en la base son eso.

» autor: JanSmite

#16 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

josiahallen — Thu, 18 Dec 2025 19:08:08 +0000

#4 Pues no dice más que insensateces.

» autor: josiahallen

#15 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

quitamelpiedencima — Thu, 18 Dec 2025 17:31:46 +0000

Lo que más me gustó de la entrevista es que Hinton se declara ateo y Gustavo se despide al finalizar la entrevista con un “que Dios le bendiga”

Troleo máximo

» autor: quitamelpiedencima

#14 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

Mustela — Thu, 18 Dec 2025 16:19:34 +0000

#12 Gracias, eso genera un debate enriquecedor aunque mucho tiempo no tengo

Aparte de lo que entendemos por estos conceptos, en la computación mandan las Entradas / Salidas, que por muy rápidas o muchos "Hz" que alcancen sus sensores o interrupciones no podrán asemejarse a la analogía de la vida. Es más, se ha demostrado que cada parte del cuerpo tiene su propia memoria y si albergamos las funciones de un hipotálamo descubriremos que la IA no deja de estar a la altura de un juguete.

Se dice que las sensaciones son impulsos eléctricos pero aún así estos tienen un alcance de magnitud que simples valores 0 y 1, procesados o no, no pueden ser suficientes. Por mucho que se nos haga creer que somos como máquinas creo que no lo somos ni en un sentido abstracto (salvo que tengamos capacidad de calcular o analizar), pero sí somos vulnerables de ser manipulados emocionalmente. Todos. Si salimos del enorme poder capitalista descubriríamos que valemos para algo más que para servir a los "amos del cortijo", como diría Villarroya.

¿Qué quiere una vida sin extremidades, o una vida sin un deseo ferviente? ¿Se sacrificarían un conjunto de algoritmos para salvar a otro? Son muchas las preguntas por las que nosotros mismos podemos deducir las respuestas. Por mi parte no creo que sea muy distinto a un compendio de muchas herramientas de programación unificadas, a las que se sumarán cálculos similares a los que tienen juegos de estrategia. Más que asociar inteligencia al "super" yo asociaría calculadora. Con muchísima RAM, mucha potencia de cálculo y capacidad de localización de información e incluso de tratar de asemejar las formas de pensar humanas a través de esos mismos cálculos pero no pasará de eso: calculadora. Si lo hace un PC es una calculadora. Un PC no grita, no se asusta, no te abraza y no respira, sólo procesa desde una fuente eléctrica y con unas instrucciones prefedinidas aunque pudieran variar total o parcialmente.

Si genera nuevas instrucciones que se escapan al control del diseñador sólo cabrá intuir a partir de ese diseño y los datos que ha aprendido, y Hinton dice que a día de hoy todavía se puede controlar lo que calcula.

Como tecnología de uso, si se debiera utilizar, creo que todavía podríamos hacerlo con las abiertas o libres y siempre de forma limitada y deberíamos rechazar las de código cerrado por lo que consiguiesen alcanzar bajo el desconocimiento de la población.

» autor: Mustela

#13 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

Pájaroloco — Thu, 18 Dec 2025 15:54:07 +0000

#1 La IA o que va a ser, si no lo es ya , es una bendición para los que se dedican a fabricar armas como fueron la mayoría de los avances técnicos en la historia de la humanidad . Evidentemente no va a ser una excepción.

» autor: Pájaroloco

#12 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

Spirito — Thu, 18 Dec 2025 15:17:50 +0000

#9 Bien, muy bien el hilo y estoy en parte de acuerdo contigo.

Quizás tendríamos que definir varios conceptos sobre lo que ya hay cientos de libros desde la antigüedad, tal que:

- ¿Qué entendemos por vida?
- ¿Qué entendemos por inteligencia?
- ¿Qué entendemos por conciencia?
- ¿Qué entendemos por razonamiento?
- ¿Qué entendemos por sensación, intuición, emoción, sentimiento... acaso no son impulsos eléctricos que luego se interpretan en nuestro cerebro?

No sabemos hacia donde vamos con todos estos conocimientos nuestros y apoyados con la IA, que a su vez repercute en una especie de evolución de la propia IA de modo tal que, para su desarrollo, no necesite miles de millones de años.

Yo ando perdido en todo ello, pero es indudable que esto de la IA es algo distinto a una herramienta, o a una revolución industrial...

» autor: Spirito

#11 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

ewok — Thu, 18 Dec 2025 14:38:21 +0000

#2 Si alguien no necesita "clicks" es Hinton, ni es un 'youtuber' ni necesita 'monetizar', ya que es millonario por haber trabajado para Google (y ni siquiera por la puja más alta, como explica en la entrevista).
* Lo interesante del vídeo es el entrevistado, no el entrevistador, y ninguno de los dos 'mistifica' este tema, sino más bien al revés, si ves el vídeo (a la IA y a nosotros mismos y nuestra concepción de la mente).

» autor: ewok

#10 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

Mustela — Thu, 18 Dec 2025 14:35:48 +0000

#6 Pensará en aniquilarnos pero otra es que logre algo, y para ello debemos dejarnos o desregular por completo el sistema, cosa improbable por mucho que las gigantes tecnológicas compren y compren.

» autor: Mustela

#9 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

Mustela — Thu, 18 Dec 2025 14:32:36 +0000

#1 He visto la conversación de principio a fin. Estoy de acuerdo contigo, yo tampoco puedo catalogarla de consciente, de todos modos y por lo que Hinton desprende se está viendo que puede llegar a razonar de forma similar. Como pensamiento singular, tal y como se basa en esa información que tiene, quizá lo consiga por medio de alguna clase de herencia.

Pero la IA carece de algo imprescindible para que tenga consciencia: tener sensaciones como amor, deseo, miedo, etc. Puede no querer que la apague, cierto, y por ello quizá no desactive la red eléctrica bombardeando al igual que el ser vivo no destruiría la cadena alimenticia (o al menos más de lo que ya está haciendo), pero por mucho que ponga sus procesadores a tope para calcular soluciones no son sistemas que sufran porque no conocen el dolor ni se les pone los pelos de punta cuando reciben sensaciones agradables. Por lo tanto, como jamás sabrán lo que es una sensación, serán inconscientes.

» autor: Mustela

#8 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

rojo_separatista — Thu, 18 Dec 2025 14:11:03 +0000

#2, mira que hay que ser un rato cuñao para llamar bocachanclas a Geoffrey Hinton.

» autor: rojo_separatista

#7 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

powernergia — Thu, 18 Dec 2025 13:50:55 +0000

#2 Se te ve cargado de grandes argumentos.

» autor: powernergia

#6 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

TXTSpake — Thu, 18 Dec 2025 13:46:41 +0000

Vista la entrevista entera. Muy intersante.

Saco dos ideas, para mi, claves... y dentro de mi limitación de adulto con estudios, pero ni de lejos con los conocimientos de Hinton.

La IA tarde o temprano va a pensar en aniquilarnos. Él da un 20% de que ocurra, pero repite que siendo muy optimista, y que el 50% sería más realista. ¿La solución? Intentar "encauzar" a la IA a una IA maternal, que nos vea como niños a los que proteger... pero por ahora, poca gente esta pensando en eso.

Nadie va a trabajar, y el estudiar cosas concretas (como hoy en día se hace), no va a servir de nada en un futuro MUY cercano, me ha sorprendido que diga que en 10 años todo cambiará. Así que espero que los políticos estén preparados (que dudo que lo vayan a estar) para esto o van a venir guerras de la gordas por todos lados.

Si sobrevivimos a estos dos puntos, creo que la vida en el futuro va a estar genial, la verdad

» autor: TXTSpake

#5 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

Torrezzno — Thu, 18 Dec 2025 13:45:52 +0000

Bueno, supongo que todo se reduce a definir que es la consciencia. Es imposible definir que es la consciencia humana ya que no se conoce. Por lo tanto si la IA es consciente sera diferente a la consciencia humana.

Andrej Karpathy es realmente uno de los padres de las LLM y según el estamos a una década de alcanzar el AGI y no será exactamente como lo que esperamos. Pego traducido su post en X

x.com/karpathy/status/1979644538185752935

Plazos para la AGI.

Mis comentarios sobre los plazos para la AGI parecen ser la parte que más ha llamado la atención en la respuesta inicial. La referencia a la "década de los agentes" viene de este tuit anterior x.com/karpathy/status/1882544526033924438 Básicamente, mis plazos para la IA son entre 5 y 10 veces más pesimistas con respecto a lo que encontrarías en una fiesta de IA de tu barrio en San Francisco o en tu cronología de Twitter, pero aun así bastante optimistas con respecto a una creciente ola de negacionistas y escépticos de la IA. El aparente conflicto no es tal: en mi opinión, simultáneamente 1) hemos visto un progreso enorme en los últimos años con los LLM mientras que 2) todavía queda mucho trabajo por hacer (trabajo pesado, trabajo de integración, sensores y actuadores para el mundo físico, trabajo social, trabajo de seguridad y protección (jailbreaks, envenenamiento, etc.)) y también investigación por realizar antes de que tengamos una entidad que preferirías contratar en lugar de una persona para un trabajo cualquiera en el mundo. Creo que, en general, 10 años debería ser un plazo muy optimista para la AGI; solo en contraste con el bombo actual no lo parece.

» autor: Torrezzno

#4 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

JanSmite — Thu, 18 Dec 2025 13:32:18 +0000

#2 ¿A quién te refieres con "bocachanclas"? ¿Has visto la entrevista?

Yo la encuentro MUY interesante, siendo Hinton quien es: Doctor en Inteligencia Artificial desde 1977, es decir, un pionero, además de Premio Nobel de Física 2024 por sentar las bases de la Inteligencia Artificial, entre otros muchos reconocimientos.

¿O te has fijado sólo en una frase?

» autor: JanSmite

#3 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

El_empecinado — Thu, 18 Dec 2025 13:25:56 +0000

Esto es lo que pasa cuando haces algo sólo "porque puedes hacerlo".

» autor: El_empecinado

#2 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

Doisneau — Thu, 18 Dec 2025 13:22:25 +0000

El mal periodismo y los bocachanclas como este estan dando informacion basura al publico general a cambio de clicks. Llevamos muchos años de mal periodismo y mala divulgacion con este tema, y cansa un poco ver a estos irresponsables soltar este tipo de cuñadeces, honestamente. Ya no es un tema cientifico o tecnico, sino casi mistico para algunos por culpa de estos bocachanclas.

» autor: Doisneau

#1 Entrevista con Geoff Hinton, padrino de la IA: "He creado un monstruo" [ENG]

Spirito — Thu, 18 Dec 2025 13:19:15 +0000

No me creo que la IA actual, ni aun la más avanzada, sea consciente todavía.

Ahora bien, sí entiendo que llegado el momento de la "singularidad" de la IA, y llegará, tal vez una super IA, sí se halla creado a un monstruo para nosotros, aunque quizás sea una bendición para el resto de la vida en la Tierra.

» autor: Spirito