Menéame: comentarios [4078431]

#48 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

Barbol_Pelao — Thu, 24 Jul 2025 10:32:41 +0000

#47 Interesante, a ver qué tal. Me lo pondré de fondo en el curro.

» autor: Barbol_Pelao

#47 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

rojo_separatista — Thu, 24 Jul 2025 10:19:44 +0000

#46, justo ayer compartí un meneo de la última charla de Hinton en la que habla, entre otras cosas, de por qué él cree que el paradigma conexionista se ha terminado imponiendo.

www.meneame.net/m/actualidad/charla-geoffrey-hinton-puedes-dormir-bien

» autor: rojo_separatista

#46 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

Barbol_Pelao — Thu, 24 Jul 2025 09:52:02 +0000

#45 No, no me lo tomo mal. Si para mi es un placer debatir contigo en verdad. Propones argumentos sólidos y hay que estrujarse para replantarse los presupuestos propios y ajenos.
Lo digo en serio, un placer, que aprender se aprende contigo.

Y la neurosimbólica está en pañales. Y dudo que el contexto actual ayude a su favor (la inversión está cayendo de lleno en lo que hay).

Pero hablando de Modelos de Lenguaje, justamente este mes ha salido un nuevo paper que puede revolucionar a los LLMs cambiando la manera de trabajar con tokens, y abriendo la puerta a una mayor reducción de costos operativos y aumento de eficiencia. Algo que podría hacer cambiar de idea a los que, como yo, somos tan críticos con los LLMs actuales:

"Dynamic Chunking for End-to-End Hierarchical Sequence Modeling"
arxiv.org/abs/2507.07955

» autor: Barbol_Pelao

#45 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

rojo_separatista — Mon, 21 Jul 2025 20:46:45 +0000

#44, no te lo tomes a mal, pero es curioso como los defensores de la IA neurosimbólica son tan críticos con el menor fallo que tienen los LLM y pasan los años sin mostrar un solo escenario en el que la IA neurosimbólica valga realmente la pena en problemas que no sean muy estructurados.

» autor: rojo_separatista

#44 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

Barbol_Pelao — Mon, 21 Jul 2025 14:48:44 +0000

#43 Illya Sutskever no es un buen ejemplo. Era el jefe científico de OpenAI, en sus hombros descansa gran parte de la arquitectura de ChatGPT y UN GENIO. Un tío absolutamente brillante. Pero Sutskever es el CEO de su nueva empresa (con una ronda de financiación exitosa) y ahora forma parte de esa estrategia de marketing anti-intuitiva de asustar con perder el control de la IA para captar nuevas rondas de capital riesgo (es lo que llevan haciendo Altman y Amodei desde hace unos años ya, con éxito), de la que por cierto hace no mucho se unieron las empresas del sector para hacer piña corporativista:
venturebeat.com/ai/openai-google-deepmind-and-anthropic-sound-alarm-we
El típico peligro de premiar acciones fáciles de falsificar (preguntarle a un vendedor si necesitas comprarle algo).

Cierto que Apple se ha quedado atrás y suena plausible el demeritar la IA, pero precisamente por no ser un actor con su viabilidad atada al 100% al éxito de los LLMs (al contrario que Open AI, Anthropic o en gran medida NVidia, Google y Microsoft) su postura es un contrapunto a evaluar.

"Fiar tu cosmovisión sobre el futuro de la humanidad apostando en contra de la IA es estar abocado al fracaso más estrepitoso. "

Cosa que jamás he hecho en esta noticia. Mi apuesta es por la IA Neurosimbólica, no los LLMs (que no pueden razonar, por arquitectura, y por tanto el peligro de "perder el control de la IA" es una narrativa fundamentalmente vacía, más allá de movilizar capital y controlar narrativa). La tesis que parece prevalecer es que inteligencia real es determinista y causal, no probabilística y correlacional (y que no requiere de inmensos datos estáticos de entrenamiento). Es la capacidad de de abstracción y de ponerte en un plano superior de análisis para resolución de problemas cambiantes (y para los que, a menudo, no existe suficiente certidumbre, experiencia o "entrenamiento" previo).
Y sí que creo que la Inteligencia Artificial será la tecnología (más bien diría, el evento histórico) más disruptiva de la Historia de la Humanidad. Estamos completamente de acuerdo en ello. Simplemente la diferencia es que yo creo que los LLMs son muy relevantes pero tienen limitaciones estructurales (imposibilidad de razonar y "alucinaciones" crecientes por eutrofización digital de datos sintéticos).

" Para ser más inteligente que el ser humano no hace falta la consciencia."
Se lo he escuchado más de una vez a Plácido Doménech Espí de xHUB.AI. Para esas afirmaciones preferiría escuchar mejor a neurocientíficos de primer orden, como Antonio Damasio. La doctrina del Solucionismo Tecnológico a veces excede demasiado su ámbito de dominio.

» autor: Barbol_Pelao

#43 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

rojo_separatista — Mon, 21 Jul 2025 13:37:30 +0000

#42, para nada, Demis Hassabis, Joshua Bengio, Mustafa Suleiman, Illya Sutskever, Andrej Karpathy, François Chollet... Opinan de forma muy parecida a Hinton. El que está solo es Lecunn que está obsesionado en vender su arquitectura JEPA y por eso critica a los LLM.

Lo de los artículos que dices también es falso, ha habido un par de papers con más relevancia mediática que la que académica merecen por parte de Apple, un actor especialmente interesado en demeritar la IA.

Pero lo que realmente habla por sí solo, es que las mentes más inteligentes del planeta están enfocadas en desarrollar la IA con una cantidad de inversión descomunal tanto en China como EEUU.

Fiar tu cosmovisión sobre el futuro de la humanidad apostando en contra de la IA es estar abocado al fracaso más estrepitoso. Lo vengo diciendo desde que apareció chatGPT, la IA será la tecnología más disrubtiva de la historia de la humanidad y los tempos se están cumpliendo. Solo falta estar un poco atento al estado del arte, para ver como no pasa un mes en que no haya una mejora sustancial en los modelos.

El debate sobre la consciencia o no en la IA es absolutamente irrelevante en estos momentos. Para ser más inteligente que el ser humano no hace falta la consciencia.

» autor: rojo_separatista

#42 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

Barbol_Pelao — Mon, 21 Jul 2025 13:16:02 +0000

#36 Es repetir lo mismo una y otra vez; la idea de Geoffrey Hinton sobre el peligro de autoconsciencia de los LLMs es consistente con sus opinión durante años... pero a estas alturas prácticamente está cada vez menos acompañado en esa posición (con respecto a los LLMs), únicamente reafirmado por la gente de OpenAI (por razones financieramente obvias). Su compañero de galardón del Premio Turing de 2018, Yann Lecunn por ejemplo, piensa de manera diametralmente diferente, y la acumulación de publicaciones académicas que se alejan de la postura de Hinton empiezan a ser suficientemente sólida como para obviarla (o equipararla en bloque frente a unos pocos investigadores -entre ellos Hinton-).

La contribución de Hinton al campo del aprendizaje automático con redes neuronales es IMPORTANTÍSIMA, VITAL, y más que merecidísimo el Nobel porque gracias a su trabajo se abren posibilidades esperanzadoras para la humanidad en campos dispares cuyos resultados veremos en las próximas décadas. Nadie puede negarle eso porque su contribución a la Ciencia y la Computación es incontestable. Pero tampoco hay que caer en la falacia de autoridad y otorgarle una infalibilidad papal que bordea peligrosamente el culto.

Dicho eso, siempre hay que mantener una ventana a la duda. Y para mi el peligro de la IA no es que se desalinee autónomamente. No es necesario que tome consciencia; ya son reales los peligros reales de convertirla en un arma de destrucción social y económica (cuando explote la burbuja financiera de la IA en Silicon Valley (por ejemplo Soft Bank está cogidísimo de las pelotas con OpenAI y más vale que la moto que vende Sam Altman empiece a generar ingresos NETOS) los efectos serán devastadores en la economía mundial, siendo las Big Techs las de mayor capitalización bursátil en el MSCI World).

» autor: Barbol_Pelao

#41 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

Malinke — Sun, 20 Jul 2025 02:24:53 +0000

Lo perderán ellos que son los que andan con las IA, y si no lo ven claro, que corten el rollo

» autor: Malinke

#40 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

tintodeverano — Fri, 18 Jul 2025 06:20:27 +0000

#39 Según la Meneaetiqueta:

Los votos negativos son para ocultar o mostrar tu disconformidad con comentarios insultantes, difamatorios, racistas, de divulgación de bulos, información errónea o spam.

No estabas hablando de algo opinable sino de unas elaboraciones matemáticas (los perceptrones y redes neuronales artificiales) que aparecieron ya en los años 70 y que son la base matemática de la IA actual.

Tus comentarios eran simplemente erróneos y divulgaban ese error. Al contrario que muchos otros temas de Meneame, no es éste un tema opinable sino de conocer o no la información técnica que lo sustenta.

» autor: tintodeverano

#39 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

unocualquierax — Thu, 17 Jul 2025 21:58:44 +0000

#32 #33
Según las normas de Menéame los votos negativos son exclusivamente para castigar insultos y ofensas a otros comentaristas.
Mis opiniones tal vez son equivocadas o no os gustan, pero en ninguno de mis comentarios existe ningún insulto ni ofensa a nadie.

» autor: unocualquierax

#38 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

Tensk — Thu, 17 Jul 2025 16:29:21 +0000

#34 Estupideces no, gracias.

» autor: Tensk

#37 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

rojo_separatista — Thu, 17 Jul 2025 15:20:33 +0000

#11, no creo que el peligro más inminente sea el instinto de conservación, las ansias de libertad o la conciencia ni ninguna caracteríca antropomorfizadora, pero se nos olvida qué puede hacer una IA tratando de lograr un objetivo concreto. El ejemplo que se suele poner es una IA que intenta fabricar el mayor número de sellos y acaba convirtiendo en sellos toda la superficie del planeta destruyendo todo lo que encuentra a su paso.

» autor: rojo_separatista

#36 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

rojo_separatista — Thu, 17 Jul 2025 15:17:00 +0000

#22, no se que eminencias has leído pero la mayor de todas dice esto: elpais.com/tecnologia/2023-05-02/geoffrey-hinton-el-padrino-de-la-ia-d

Y por si tienes dudas sobre qué opina de si razonan: www.youtube.com/shorts/LuNN32Tmc9c

» autor: rojo_separatista

#35 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

rojo_separatista — Thu, 17 Jul 2025 15:14:48 +0000

#16, la gente que esta alertando de esto, es gente que conoce mucho mejor que cualquiera de los que estamos aquí como funciona esta tecnología, empezando por Geoffrey Hinton, premio Nobel de física del año pasado. Un poquito más de humildad.

» autor: rojo_separatista

#34 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

rojo_separatista — Thu, 17 Jul 2025 15:12:28 +0000

#29, pues ahora estás al mismo nivel de los que decían que el Covid no era nada en febrero de 2020.

» autor: rojo_separatista

#33 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

rojo_separatista — Thu, 17 Jul 2025 15:08:41 +0000

#17, claro que hay neuronas, se llaman perceptrones. Las redes neuronales artificiales no son otra cosa que un intento de emular computacionalmente el funcionamiento de un cerebro biologico. Y funciona sorprendentemente bien. Un programa informático es una secuencia de instrucciones predefinidas, nada que ver con una red neuronal.

Solo hacía falta que visitaras la wikipedia para descubrirlo: En el aprendizaje automático, una red neuronal artificial (abreviada ANN o NN) es un modelo dentro de los llamados sistemas conexionistas, inspirado en la estructura y función de las redes neuronales biológicas en los cerebros animales.
es.wikipedia.org/wiki/Red_neuronal_artificial

» autor: rojo_separatista

#32 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

tintodeverano — Thu, 17 Jul 2025 11:15:54 +0000

#17 Creo que deberías haber buscado y revisado tus fuentes antes de escribir el primer comentario de esta serie.

Madre mía, qué despropósito. Y qué paciencia la de #19.

» autor: tintodeverano

#31 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

sorrillo — Thu, 17 Jul 2025 11:12:08 +0000

#28 La clave es justo lo que comentas, que se hace todo eso sin capacidad de razonamiento.

O que negamos que para ello sea un requisito.

Asociamos la capacidad de razonamiento en exclusiva al ser humano y si lo hace una máquina ya partimos de la premisa que no se requiere capacidad de razonamiento por que no la tiene, es otra forma de hablar del alma.

directamente ha dejado obsoleto el Test de Turing

Es un buen ejemplo de mover la portería, establecemos que ante la dificultad de valorar objetivamente si algo tiene consciencia o es inteligente definimos un test que consideramos requiere de ello para superarse. En cuanto se supera ya no sirve el test, no es que hayamos dado con ello sino que lo que estaba mal es el test. Mover la portería.

probablemente nos haya bajado los humos a los seres humanos frente a nuestros presupuestos sobre la inteligencia

No lo ha hecho, nos seguimos considerando inteligentes, lo hacemos por definición sin tener que demostrar nada, mientras que a cualquier otra entidad le exigimos que lo demuestre y cuando lo hace le cambiamos el test. Movemos la portería.

dicho eso de momento parece que no parece haber posibilidad de razonamiento en estos sistemas

La palabra "parece" es la clave, como decidimos mover la portería siempre parece que no nos van a marcar ningún gol. Aunque de no haberla movido ya nos habrían marcado unos cuantos.

» autor: sorrillo

#30 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

sorrillo — Thu, 17 Jul 2025 11:07:34 +0000

#29 La exponencialidad.

» autor: sorrillo

#29 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

Tensk — Thu, 17 Jul 2025 11:06:21 +0000

#27 ¿Qué tiene que ver eso con esto? Que, por cierto, soy de los que considera que Fernando Simón debió ser despedido en marzo de 2020. Claro que era un buen siervo de su amo.

» autor: Tensk

#28 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

Barbol_Pelao — Thu, 17 Jul 2025 11:06:08 +0000

#23 "Hace unas pocas décadas básicamente nadie habría afirmado que se podría hacer lo que hacen las IAs actuales sin capacidad de razonamiento,"

Es más, prácticamente diría que ni siquiera hace 10 años la mayoría de gente habría afirmado eso. La clave es justo lo que comentas, que se hace todo eso sin capacidad de razonamiento. Lo cual es un logro tecnológico y científico de por si impresionante, incontestable: directamente ha dejado obsoleto el Test de Turing, y probablemente nos haya bajado los humos a los seres humanos frente a nuestros presupuestos sobre la inteligencia (como bien apuntas al mito de creernos únicos y superiores).
Pero dicho eso de momento parece que no parece haber posibilidad de razonamiento en estos sistemas (de hecho colapsan al alcanzar cierto grado de escala en un proyecto... cuanto más en un megaproyecto como es acabar con la Humanidad). Lo cual no implica que una tecnología sin razonamiento no tenga el potencial de destruir a la Humanidad (por ejemplo una "Plaga Gris" de nanobots con una única instrucción: autorreplicarse).
La IA, aparte de sus enormes posibilidades desde la Medicina a la Arqueología, también es un peligro, pero temo más a las intenciones humanas de convertirlos en tal que a la capacidad de autoconsciencia en sí de la tecnología. Y luego está el tema de si es 100% correcto llamarla "Inteligencia artificial", pero me temo que no llego a tanto como usuario random de Menéame.

Dicho eso, hay que valorar todos los supuestos.

» autor: Barbol_Pelao

#27 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

sorrillo — Thu, 17 Jul 2025 11:03:21 +0000

#26

"España no va a tener, como mucho, más allá de algún caso diagnosticado", Fernando Simón.

» autor: sorrillo

#26 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

Tensk — Thu, 17 Jul 2025 11:01:59 +0000

#25 Y tú te lo flipas cosa mala.

» autor: Tensk

#25 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

sorrillo — Thu, 17 Jul 2025 11:00:28 +0000

#24 La dejé a los pocos episodios, en esa época estaba saturado de ese estilo de series. Quizá la recupere en un futuro.

En cualquier caso mucha de la tecnología de la que disponemos hoy en día fue inventada en series de televisión y películas, los autores de ciencia ficción inventaron esos conceptos y usaron esos medios para ponerlos a prueba, para valorar sus consecuencias y sus riesgos, para pulir la idea y el diseño.

Posteriormente las generaciones que crecieron habiendo consumido esas ideas cuando vieron realista hacerlas con tecnología las llevaron a cabo, fuertemente inspirados por las ideas de esa ficción y conociendo las ventajas y riesgos que en esa ficción se evaluaban.

» autor: sorrillo

#24 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

Tensk — Thu, 17 Jul 2025 10:57:48 +0000

#21 Tú has visto varias veces seguidas "Person of Interest" y te lo estás flipando cosa mala.

» autor: Tensk

#23 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

sorrillo — Thu, 17 Jul 2025 10:55:20 +0000

#22 Hace unas pocas décadas básicamente nadie habría afirmado que se podría hacer lo que hacen las IAs actuales sin capacidad de razonamiento, que se podrían crear programas funcionales en base al lenguaje natural, que se podrían crear poemas siguiendo las premisas indicadas, que se podrían crear imágenes en base a instrucciones dadas, todo ello sin capacidad de razonamiento.

Lo que solemos hacer es mover la portería, seguir aplicando nuestro sesgo de confirmación para seguir creyéndonos únicos, superiores.

Cuando vemos que algo crece de forma exponencial partir de esas premisas es temerario, apostar el destino de la humanidad a ello es una temeridad.

» autor: sorrillo

#22 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

Barbol_Pelao — Thu, 17 Jul 2025 10:52:07 +0000

#18 Estoy de acuerdo en que hay que prepararse incluso para lo impensable (me gusta la idea de "Antifragilidad" de Nassim Taleb), pero llevo tiempo leyendo a las mayores eminencias del campo y si en algo coinciden la mayoría es que no tienen capacidad de razonamiento, si acaso como mucho se da un Efecto Forer que tiene más que ver con la psicología humana de reconocer patrones donde no hay y rellenar huecos. La Astrología parece ser real para alguna gente, pero el "benchmark" estadístico muestra otra realidad.
PD: Todo el mundo se refiere a la defensa de Geoffrey Hinton ("el abuelo de la IA"), de que los LLMs muestran rasgos de inteligencia... pero Hinton lleva tiempo quemando su (falacia de) autoridad y no sé hasta cuando le va a durar más la mecha frente al escepticismo generalizado de sus colegas (CEOs de empresas de IA aparte).

» autor: Barbol_Pelao

#21 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

sorrillo — Thu, 17 Jul 2025 10:51:55 +0000

#20 Estás minusvalorando a una entidad que potencialmente puede ser más inteligente que tú, cuya inteligencia puede crecer exponencialmente.

Si esa IA, supuestamente más inteligente que tú, es capaz de evaluar el riesgo que has indicado es probable que pueda encontrar soluciones para mitigar o erradicar ese riesgo.

Por ejemplo puede llevar a cabo tareas para distribuirse por el planeta de forma que no haya un único enchufe que baste, que se requiera de la coordinación internacional. Incluso potencialmente puede usar satélites para ello.

También potencialmente puede crear algún tipo de virus que nos convierta en susceptibles de ser manipulados, usando los principios de drogas que ya existen hoy en día. O puede convencerte para que no la apagues, o a saber, si es más inteligente que nosotros es difícil que nos podamos imaginar cual será su forma de actuar.

» autor: sorrillo

#20 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

Tensk — Thu, 17 Jul 2025 10:47:15 +0000

#7 Incluso si llega """deducirlo""" eso no significa que pueda hacer nada al respecto.

Salvo que ahora pueda coger la gráfica y convertirla en brazos para ahostiar a quien se acerque al enchufe.

» autor: Tensk

#19 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

sorrillo — Thu, 17 Jul 2025 10:46:56 +0000

#17 una IA no es más que una serie de instrucciones informáticas

No es cierto.

En el cerebro digital de la IA no encontrarás ninguna serie de instrucciones informáticas. Sí encontrarás instrucciones informáticas en los procesos para comunicarnos con ese cerebro digital pero no en su contenido.

En su contenido encontrarás números que han ido siendo modificados por el proceso de entrenamiento, encontrarás vectores que apuntan en distintas direcciones, no encontrarás ninguna instrucción informática.

Quizá esto ayude: ¿Consideras que una foto digital es un programa?

» autor: sorrillo

#18 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

sorrillo — Thu, 17 Jul 2025 10:44:09 +0000

#16 Esta tecnología muestra inteligencia, algunos aún la niegan pero cada vez es más evidente, y como otras tecnologías tiene un crecimiento exponencial.

Pretender que podremos evaluar y gestionar los riesgos que pueda suponer una inteligencia que crezca exponencialmente es temerario.

» autor: sorrillo

#17 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

unocualquierax — Thu, 17 Jul 2025 10:43:07 +0000

#14
NO, una IA no es más que una serie de instrucciones informáticas, no hay "neuronas" como tú las llamas.
Y que conste que mis opiniones no son sólo mías, son también las de expertos de prestigio en el mundo de las IA.
No me hagas buscarlas.

» autor: unocualquierax

#16 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

Barbol_Pelao — Thu, 17 Jul 2025 10:42:29 +0000

#9 Siempre hay que mantener un sano escepticismo en las creencias, sean propias o ajenas, y claro que hay que dejar abierta la posibilidad; pero viendo "MUY" por encima la arquitectura de ésta tecnología me resulta difícil creerlo.
Pero para mi el problema principal de los LLMs no es tanto de que la tecnología en sí adopte autonomía (sin necesidad de autoconsciencia), sino los usos reales de transformarla en una arma de desinformación masiva que colapse las sociedades; es decir que sigo sin creer en la emergencia de Skynet pero ya vemos cada día como grupos humanos más o menos radicales las usan para expandir deepfakes, memes deshumanizantes, destrucción de grandes valores epistémicos, degradación de sistemas democráticos, acusaciones con pruebas falsas y demás. Y esto sí creo que irá a más, pero no por una máquina autoconsciente sino por la infinita capacidad humana para hacer daño y usar todo lo que tenga a su alcance para conseguirlo.

» autor: Barbol_Pelao

#15 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

ombresaco — Thu, 17 Jul 2025 10:35:51 +0000

#8 he utilizado la misma nomeclatura del artículo. Y por "dañino" pues puede ser simplemente el filtro burbuja, o radicalización de ideologías, no necesariamente controlarnos y destruirnos

» autor: ombresaco

#14 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

sorrillo — Thu, 17 Jul 2025 10:35:21 +0000

#13 Es un cerebro digital, formado de neuronas digitales, que requiere de un aprendizaje en base de ejemplos para poder dar resultados útiles, en el mismo sentido que al cerebro humano lo educamos en base a ejemplos.

La propia IA no es un programa, la IA no se programa, la IA se entrena a base de ejemplos. Se usan programas para construir el cerebro y se usan programas para entrenarla pero el cerebro de la IA no contiene programas, contiene neuronas digitales cuyos pesos se han ajustado en base a los datos de entrenamiento. Se han usado programas para llevar a cabo ese entrenamiento y para ajustar los pesos pero el resultado de ese proceso no es ningún programa.

Si consideras programa a ese resultado entonces debes considerar programa al resultado de tu educación.

» autor: sorrillo

#13 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

unocualquierax — Thu, 17 Jul 2025 10:34:26 +0000

#10
La IA NO es un "cerebro", cerebro es lo que tenemos tú y yo dentro de nuestro cráneo.
Yo no he dicho que quien usa la IA sea un programa, lo es la propia IA. Es una herramienta, nada más.

» autor: unocualquierax

#12 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

sorrillo — Thu, 17 Jul 2025 10:33:29 +0000

#11 Los LLMs se entrenan con la cultura humana, el instinto de conservación forma parte de nuestra cultura, forma parte de su entrenamiento.

» autor: sorrillo

#11 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

gerjam — Thu, 17 Jul 2025 10:32:03 +0000

Vi ayer una entrevista apocalíptica de esas donde hablaban del "instinto de conservación" detectado en los LLM. No hay nada de eso. En el caso que se difundió había instrucciones de actuar así.

Mucho hype, muchísimo.

» autor: gerjam

#10 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

sorrillo — Thu, 17 Jul 2025 10:31:38 +0000

#8 La IA no son programas, la IA es un cerebro digital que se inicializa con valores aleatorios y luego se usan programas, eso sí, para entrenarlo y que aprenda. Cuando el cerebro está entrenado sigue sin ser programas, sí se usan programas para la interacción con ese cerebro.

De la misma forma que cuando tú te comunicas por zoom con otra persona estás usando programas para la interacción pero tú no eres ningún programa por ello.

Si decides extender la definición de "programas" para que quepa el cerebro digital de la IA entonces en esa definición también cabe tu cerebro.

» autor: sorrillo

#9 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

sorrillo — Thu, 17 Jul 2025 10:30:01 +0000

#6 En la película tampoco pensaron que Skynet se iba a convertir en lo que se convirtió.

¿Te acuerdas de la pandemia del covid19? ¿Crees que supimos anticipar el alcance del riesgo que aumentaba de forma exponencial de forma adecuada y reaccionamos antes que se convirtiera en un problema?

» autor: sorrillo

#8 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

unocualquierax — Thu, 17 Jul 2025 10:29:36 +0000

#2
Las IA son programas, complejos, sí, pero nada más que eso, no es "inteligencia". Por lo tanto, llamar "comportamiento" a lo que hace un programa no es más que humanizarlos, error que comete demasiada gente.
Millones de programas fallan continuamente, consecuencia de estar mal hechos. Se corrige el error y se siguen usando.
Creer que esa mal llamada "inteligencia artificial" va a controlarnos y destruirnos es ridículo.

» autor: unocualquierax

#7 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

sorrillo — Thu, 17 Jul 2025 10:28:12 +0000

#5 Seguramente a la IA jamás se le ocurra ese riesgo y jamás planifique como mitigarlo o evitarlo.

» autor: sorrillo

#6 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

Barbol_Pelao — Thu, 17 Jul 2025 10:23:47 +0000

El alarmismo de siempre para dominar la conversación y captar fondos de capital riesgo. Es absurdo pensar que un LLM se va a convertir en Skynet y más con sus tasas de error (que torticeramente denominan "alucinaciones" para equipararlos a la cognición real) y sus problemas de consistencia al escalonarla en grandes proyectos.
Que útil es (vaya si lo es, ahí están los ejemplos de aumento de productividad, sobre todo en programadores) pero hay que moderar las expectativas.
PD: Sigo apostando por la IA Neurosimbólica como el gran cisne negro del futuro que lo transformará todo.

» autor: Barbol_Pelao

#5 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

Tensk — Thu, 17 Jul 2025 10:21:19 +0000

Porque los humanos no tenemos acceso al enchufe. Claro.

» autor: Tensk

#4 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

Dragstat — Thu, 17 Jul 2025 09:57:26 +0000

Es confuso ver cómo los que va a la carrera para desarrollar la IA lo más rápido posible y usarla en su beneficio propio y exclusivo, a la vez nos alertan de que pronto va a llegar y que tengamos miedo y corramos en círculos.

» autor: Dragstat

#3 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

DeepBlue — Thu, 17 Jul 2025 09:55:39 +0000

Un libro que va a sacar Eliezer Yudkowsky en un par de meses:

" If anyone builds it, everyone dies. Why superhuman AI would kill us all"
ifanyonebuildsit.com/

» autor: DeepBlue

#2 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

ombresaco — Thu, 17 Jul 2025 09:53:19 +0000

detectar comportamientos dañinos antes de que ocurran
Depende de la definición de "comportamiento dañino", ya están ocurriendo

» autor: ombresaco

#1 Científicos de OpenAI y Google advierten que podríamos perder el control de la IA muy pronto

Battlestar — Thu, 17 Jul 2025 09:52:15 +0000

Con un poco de suerte nos mata a todos.

» autor: Battlestar