cultura y tecnología
151 meneos
1493 clics
La inteligencia artificial no está aprendiendo: está extrayendo

La inteligencia artificial no está aprendiendo: está extrayendo

Llevamos meses escuchando la misma cantinela: que la inteligencia artificial se va a convertir en nuestro copiloto, nuestro asistente, nuestro secretario, nuestro agente. Que nos liberará de tareas tediosas, que anticipará necesidades, que hará el mundo más eficiente. Y, sin embargo, cuanto más se despliega, más evidente resulta una realidad mucho menos romántica: la inteligencia artificial falla con una facilidad exasperante en tareas básicas… pero funciona de maravilla cuando se trata de capturar contexto personal...

| etiquetas: inteligencia artificial , internet , tendencias
Comentarios destacados:                    
#4 Hay mucho miedo a la IA, pero la IA ya está aquí; o nos ponemos las pilas o nos va a pasar por encima, como le pasa a este artículo, con muchos desatinos. Es un artículo para 2023 no para 2025.

Uno de los errores da título al artículo, que es equiparar los asistentes domésticos (Alexa, Siri, Google home) con los modelos de lenguaje de frontera actuales, que de torpes ya tienen más bien poco; otra cosa es que aún no están desplegados para todo el público o en su mejor versión sin pagar.

DeepSeek-V3 ha demostrado capacidades de razonamiento verificables que superan el rendimiento humano experto en física, matemáticas olímpicas y diagnóstico médico; por no hablar de los norteamericanos que están en la cresta de la ola (Claude, Grok, Chatgpt y gemini)

Hay burbuja financiera e hiperfinanciación que dudo que logren los beneficios económicos suficientes para compensar la inversión, al menos a corto plazo. Pero eso no quita que los últimos modelos de lenguaje razonadores son…...
Hay mucho miedo a la IA, pero la IA ya está aquí; o nos ponemos las pilas o nos va a pasar por encima, como le pasa a este artículo, con muchos desatinos. Es un artículo para 2023 no para 2025.

Uno de los errores da título al artículo, que es equiparar los asistentes domésticos (Alexa, Siri, Google home) con los modelos de lenguaje de frontera actuales, que de torpes ya tienen más bien poco; otra cosa es que aún no están desplegados para todo el público o en su mejor versión sin pagar.…   » ver todo el comentario
#4 Miedo a la IA ?

Algun ignorante a lo mejor

ha demostrado capacidades de razonamiento verificables que superan el rendimiento humano experto en física,
Cuando una IA haga algo semejante al teorema de la relatividad, el cálculo diferencial o el simple teorema de pitagoras hablamos.
Mientras, no ha demostrado nada de eso que dices.
#6 Confundes genialidad singular con capacidad de razonamiento experto.
Ningún humano vivo ha creado algo comparable a la relatividad. ¿Eso significa que los físicos actuales no tienen ya inteligencia?

Está bien defender el ego humano, pero hay que ser pragmático también:

1960s: "La IA nunca jugará ajedrez decentemente"
1997: Deep Blue gana a Kasparov → "Bueno, el ajedrez es solo fuerza bruta"
2016: AlphaGo gana a Lee Sedol → "Go es solo reconocimiento de…   » ver todo el comentario
#4 La IA no razona, así que difícilmente podrá demostrar que razona, ni verificable ni no verificable.

Sí, son fuerza bruta a la que se le van poniendo unos guardarraíles para que no se salga de madre, no razona.

Y ya de paso, respecto a lo que dices en #9, poner el Nobel como demostración de "buah, la leche" dejó de tener sentido cuando le dieron el de la paz a Obama, si no antes.

¿Que unos científicos usaron una herramienta para resolver un problema? ¿Qué me estás contando?
#19, el que queda claro que no ha razonado bien aquí eres tú. ¿Qué cojones tiene que ver el premio Nobel de la Paz con el de Química? :palm: :palm:
#28 Hombre, tú por aquí.
#45, tu tampoco fallas, y eso que no estás nada preocupado porque todos sabemos que la IA es una castaña que solo escupe chorradas sin sentido.
#50 Hombre, tú por aquí.
#19 La definición de razonar tiene bastante miga y sería una conversación muy larga y extensa. Y ciertamente filosófica.

Pero resolver problemas matemáticos nuevos de olimpiada internacional, diagnosticar enfermedades comparativamente con la misma eficacia que especialistas, o generar demostraciones válidas de teoremas se parece demasiado a lo que hacen exactamente ingenieros, médicos y matemáticos en su día a día. Y es difícil defender que uno sea razonar y el otro no.

Sobre AlphaFold: no…   » ver todo el comentario
#29 Lo del Nobel de la Paz de Obama (o, para otros, a Machado) es para indicar que, muy bien, los Nobel tienen su prestigio pero, en última instancia, no son tanto una cosa "medible" sino que son humanos dando premios a humanos, ergo susceptibles de caer en la subjetividad.

No me resulta difícil defender que uno razona y el otro no. Simplificando un poco pero manteniendo la idea, la IA no sabe qué es lo que maneja, no sabe a qué se refieren los conceptos que maneja, un humano sí. Lo…   » ver todo el comentario
#9

Pues igual todos tienen razón y lo que estamos sobrestimando es la inteligencia humana que lo que hace es memorizar y reconocer patrones.
#47 justamente lo que no hace la inteligencia humana es funcionar aprendiendo ni memorizando patrones...
#57

Pues la pareidolia es justo eso.
#65 Pero eso poco tiene que ver con nuestra forma de aprender, razonar y abstraer la información. Nuestro cerebro aprende de forma conceptual y logarítmica, no memorizando y reproduciendo patrones, ni usando algoritmos de retropropagación.
#9 confundes razonamiento con un bucle de retroalimentación, las IAs no razonan, por mucho que le hayan llamado así por marketing.
#48 estoy de acuerdo en que no razonan como un ser humano.

Pero si voy a la definición de razonar, sinceramente me quedan dudas que lo que hacen los LLM grandes no pueda ser considerado algun tipo de razonamiento
#48 Así es. Solo utilizan esa narrativa por puro marketing.
#9 Bueno, es que los seres humanos tienen el vicio de morirse.

Pero la relatividad la creó o descubrió un ser humano, igual que el cálculo diferencial o el teorema de pitagoras.

Que ha inventado o descubierto una IA ?

Nada
#6 amen

Es, solo, mas publi, más billetes en publi y acciones subiendo
#6, te informo que para sustituirte a ti o a mi no hace falta que ninguna IA haga el teorema de Pitágoras o la teoría de la Relatividad.
#24 Y si te encargas de arreglar cagadas de IA, ¿qué IA te va a sustituir?
#40, pierdes mucho menos tiempo arreglando las cagadas de IA que haciendo las cosas desde cero. Lo que hacen 10 ingenieros sin IA lo pueden hacer 4 con IA. No enfades con la IA y pregúntate porque seguimos teniendo que trabajar 40 horas a la semana.
#44 eso es lo que pensaban muchos CEOs que apostaron por el vibe coding, y en todos los casos ha acabado siendo un auténtico desastre.
#44 Eso es una trola de vendedor de IA que los ignorantes repetís como loros. Cualquier programador sabe por experiencia que cuesta más buscar cagadas en código ajeno que hacerlo tú bien desde el principio.

De hecho yo ya me dedicaba antes a arreglar destrozos de proveedores de software nefastos, y desde que usan IA no doy abasto facturando. Si te crees que la IA ha supuesto una mejora en calidad o eficiencia es que estás drogado, el software es peor que nunca y a los clientes les sale más…   » ver todo el comentario
#72 Tus dos primeros enlaces son de vendedores de IA. :palm: El primero vende libros y cursos en Youtube, el segundo vende directamente productos de IA.

A ver si te miras lo que enlazas, que en este tema la fuente lo dice prácticamente todo. Menéame mismo está llenito de creyentes exaltados que te sueltan tremendas gilipolleces sobre este tema sin tener ni pajolera idea de qué hablan. Como para que te pongas a enlazar fuentes que directamente viven de propagar esos bulos. xD

Y tu tercer…   » ver todo el comentario
#84, pero qué dices? El segundo es un hilo en reddit de un desarrollador anónimo.
#44 Yo, con veinte años de experiencia, pierdo menos tiempo arreglando las cagadas de la IA que empezando desde cero porque durante 20 años empezaba todo desde cero. Veremos cuánto tarda el siguiente ingeniero que me sustituya, que nunca empezó nada desde cero porque usaba la IA hasta para resolver las sumas desde la educación básica. Es muy cómodo que la IA haga el trabajo, pero me parece que vamos a pagar un coste del que ahora no somos conscientes.

La respuesta a tu pregunta es trivial: capitalismo. La verdadera pregunta es por qué no nos estamos organizando para acabar con el capitalismo.
#77, no entiendo como viendo como ha mejorado esta tecnología en 3 años se sigue pensando que seguirá cometiendo siempre los mismos fallos siempre.
#80 Volvemos a comentar el tema dentro de 3 años, cuando, deduciendo de tus palabras, las IAs sean infalibles.

Irónicamente, cuanto mejor funcionen más crítico será que generen un error que no sepamos resolver.
#82, no hace falta que sean infalibles, solo que sean mejores que los programadores humanos.
#85 Pero eso es un problema terrible. Si las IAs fallan y los humanos no somos capaces de reconocer y solucionar el error, ¿de qué nos sirven las IAs?
#4 Grok no se si lo mencionaria... le subi una foto de mi hermano de crio y me dijo que era una de las fotos más conocidas y compartidas de Elon Musk de niño .. y cuando le pido enlaces o fuentes muchas veces directamente se las inventa xD

De Elon Musk.. siendo esta su IA y siendo evidente que no se parecen en nada.
#10 A pesar de que Grok falla, a pesar de que está manipulada por Musk, a pesar de que no es la mejor... a Grok hay que hacerle un monumento.

Hace unos meses alguien le dijo "@grok, analiza mis tweets y luego calcula el tamaño de mi pene". A lo que Grok contestó, citando varios artículos científicos, que debido a la misoginia e inseguridades que mostraba estimaba un tamaño de -2cm respecto a la media xD xD xD

No te puedo poner el enlace ya que era tran sumamente retrasado que me parece que le cerraron la cuenta (en Twitter, donde no hay moderadores, imagina lo que debió poner...).
#4 Recuerdo una noticia hace unos años sobre uno que había montado una "IA mala" con la misión de dominar el mundo y una de las primeras cosas que se le ocurrió fue tratar de acceder a IAs especializadas en el plegado de proteínas para diseñar armas biológicas...

Hablando con las comerciales, de forma hipotética por supuesto, te encuentras enseguida muros de censura de cosas sobre las que les dejan hablar.
#4 #4 No te voy a decir que te falte razón en tu comentario, pero me parece que hablas un poco de tu libro y que no es incompatible con el contenido del artículo. Contenido que como indicas no es novedoso, ya está más que manido, sin embargo es extremadamente vigente en el mundo de la empresa, que es donde este autor habita.

Dudo mucho que el autor ignore los riesgos que comentas, simplemente no los ha puesto en el foco en este artículo. Los que menciona los acompaña de numerosos artículos y fuentes tanto académicas como institucionales, cosa que agradezco.
#25 Te compro la parte. Pero el titular y la entradilla de tipo clickbait desmerecen lo que dices y el valor real del artículo.
#31 Completamente de acuerdo.
#4 La IA es una huida hacia adelante, llevan tiempo prometiendo la AGI (es.wikipedia.org/wiki/Inteligencia_artificial_general) para conseguir inversiones, porque lo que se ha conseguido hasta ahora ( que no dudo que es la leche) no vale el dinero que se está invirtiendo en ello, pero hay mucha gente, entre la que me incluyo, que cree que la AGI no llegará nunca, al menos con la tecnología actual. En mi opinión, la AGI es el timo del siglo
#27, y cual es el punto al que quieres llegar con tu comentario? ¿Debería pararse toda la investigación en IA generativa a partir de ahora? Además no se como casas que la IA sea una castaña pilonga con que está robando tus contribuciones. La verdad que no te entiendo.

Me congratula ver que el comentario más votado de este hilo es el que más atina #4, parece que poco a poco algo se va moviendo.
#32 debería socializarse. Debería haber una IA publica y libre. Yo apostaría por data centers europeos.

Yo no digo que sea una castaña. Digo que exageran sus capacidades reales. Para hacer aplicaciones en local muy bien. Pero en un sistema distribuido o complejo aún no están
#4 bufff... resolver un problema concreto específico en abstracto o rendir bien en un examen de lo que sea está muy lejos de demostrar razonamiento o de superar a los humanos en estas cuestiones.

Una de las peores cosas de la IA es lo mucho que cala y cuela el hype, y la enorme cantidad dispuesta a tragárselo y actuar de profetas, sea por interés, agenda, miedo o a saber...
#4 Toma, lee y deja de flipar.

www.genbeta.com/inteligencia-artificial/alucinan-porque-les-premiamos-

Los que no tenéis ni idea de cómo funciona os flipáis cosa mala repitiendo las maravillas de un invento que en realidad falla más que una escopeta de feria.

Tanto es así que la mayoría de veces que acierta es por mera casualidad estadística, y justamente eso es lo que impide eliminar los fallos alucinatorios.
#4 ilústrame a lo que refieres con ponerse las pilas, por favor
#4 Yo solo creo que el autor se enfoca en el tema de la privacidad, sin pasar por alto o no los temas que mencionas. Y menciona el mercado en torno a los datos. No está negando su utilidad, sino el como se usa.
#73 Puede ser, pero entré al trapo por el titular, que logró su objetivo.
#4 ¿Cómo cojones no da miedo el crash que va a pegar esto? Nos encaminamos a una de las crisis más grandes que ha vivido la humanidad por culpa de la puta burbuja esta que han montado cuatro criptobros de los cojones para generar imagenes de gatitos.

¿En cuánto está la deuda ahora de Open AI? ¿600000 millones de dólares?. Vamos, no me jodas.
#78 No veo cómo van rentabilizar eso, parece imposible que la burbuja no explote. Pero hay burbuja de valoración de OpenAI fundamentalmente, no crisis sistémica tipo 2008.

Si quiebran empresas de IA, pierden inversores de capital riesgo que ya asumieron ese riesgo. No necesariamente debería arrastrar bancos ni fondos de pensiones, aunque sí será un buen bofetón.

La oferta monetaria internacional está en máximos histórico y si no se va a la IA se va a armas o a lo que sea.

Internet tuvo peor burbuja en 2000, quebró el 90% de empresas... y sobrevivió. La tecnología que funciona persiste aunque exploten valoraciones.
#4 Ostras, pues yo uso chatgpt (la integrada en copilot) y me parece tremendamente estúpido. Vamos, que tiene errores de razonamiento muy muy básicos, nivel niño de primaria. Y lo peor es que te suelta respuestas que son creíbles para quien no tiene ni idea, pero apenas rascas un poco se cae todo el castillo de naipes.
Obvio. Ya lo comenté lo que me jode que use mi código. No esta libre para que tecnócratas se lucren sino para que seres humanos lo puedan usar
#1 en el momento que lo subes a GitHub tu código ya estaba siendo aprovechado por los tecnócratas, siento desilusionarte
#8 No subais cosas a GITHUB hacedlo en PORNHUB

Aparte de la broma, totalmente de acuerdo
#8 en el momento que lo subes a Internet*
#1 por eso falla tanto? :troll:
#14 xD xD puede ser xD
#1, si lo que te molestan es que los tecnócratas se lucren, critica el sistema capitalista, no la tecnología que se está desarrollando. Parece mentira que 200 años después se sigue incurriendo en el mismo pensamiento naif que los luditas en su día.
#22 yo no critico el deep learning ni los transformers. Soy ingeniero, seria idiota hacerlo. Crítico el uso que se está haciendo de ello y de como está afectando a la sociedad y el planeta para el lucro de unos pocos
#27 ¿Sería idiota criticar el Deep learning porque eres ingeniero? ¿Qué cojones?
Hoy en día le dan la ingeniería a cualquiera.
#51 claro. No deja de ser un algoritmo. Una estructura de datos. Es malo o bueno? Ni uno ni otro. Es como decir que las matrices en matemáticas son perversas xD xD xD
#55 Ya bueno, carecen de sentido del bien y el mal, al ser herramientas. Pero de ahí a no poder criticarlas, me chocó un poco, no sé. Y más por ser ingeniero cuando debería ser justo al revés. Con el conocimiento es más fácil establecer una crítica.
#60 una cosa es decir que puede ser mas eficiente o hacerlo de otro modo y otro es criticar. En ingeniera las opiniones no llevan a nada. Todo se tiene que demostrar matemáticamente
#62 pero luego nos gustan los programas que más colores tiene para representar las gráficas.
Anda que... Aún serás de grado de Bolonia y me vienes de ingeniero.
#74 pinchas en hueso amigo. Dime de que promoción eres y donde trabajas, que puestos y donde puedo ver tu codigo. Luego yo hago lo mismo. :hug:
La IA es una mierda. Le pregunté qué número salía en la lotería y nada.
#3 A veces con la IA el secreto esta en saber como preguntar.

¿Has probado a preguntarle la lista de los que no iban a salir?
#18 o en qué usas el modelo equivocado.
O en la temperatura
O en qué tus datos no están bien construidos
O en qué [inserte aquí cualquier otra excusa]
#42 Tienes el detector de ironias averiado.
#54 nah tranqui. Lo tenía bien. Solo quería seguir tu ironía xD
Recuerdo una movida de Google que le subías una foto y te la describía... y como resultaba hasta extraño su insistencia en clasificar la clase social de los individuos, los lugares...
La gente que suba fotos así de pijos, ya ni fardando de pasta, pero si en entornos "caros"... tienen que estar siendo jodidamente asediados por los publicistas
La inteligencia artificial tipo chat falla mas que una escopeta de feria. Ya he pillado a todas intentando colarme datos falsos ante preguntas simples y verificables. Al echárselo en cara te agradece que la corrijas y te vuelve a dar otros datos falsos afirmando que están verificados. Le vuelves a decir que no son correctos y te agradece tu insistencia. Para muchas cosas ChatGTP, Deepseek etc son una mierda pinchada en un palo. Y la gente se cree lo que escriben sin dudarlo...
Pues yo últimamente la estoy utilizando en muchos temas y me parece absolutamente bestial. Proyectado a 10 años hacia el futuro los cambios en la sociedad van a ser descomunales, en mi opinión, por supuesto.
La horda de fanáticos y su nuevo mesIAs. Más pesados y ridículos que un testigo de Jehová terraplanista.
La IA está siendo educada en reconocer imágenes y reconocer patrones de conducta humana.
Va a ser la policía que dirá si vamos a ser buenos o malos ciudadanos.
Es el sueño húmedo de toda sociedad fascista, poder predecir quien se va a revelar para "corregir" su aptitud previamente.
#12 Como toda tecnología se puede usar para el bien y para el mal, para mejorar nuestras vidas o para empeorarlas.

Internet ha demostrado que cuando ofreces una herramienta a todo el mundo sin prácticamente barreras de entrada el resultado final es una mejora sustancial para el conjunto de la sociedad. Sus ventajas superan con creces sus inconvenientes.
#13 Pensaba eso hace años.. uff cuando todo el mundo tenga acceso a internet.. el mundo podrá contrastar ideas, la información no dependerá de unos monopolios informativos, habrá conocimiento gratuito al que todo el mundo podrá acceder... el mundo será mas sabio..
Desde un punto individual no quitaría internet, pero desde un punto social/global parece que no ha mejorado la humanidad. La ha polarizado, ha "empoderado" a gente necia, se usa para manipular ..

Tal como lo veo ahora:
-…   » ver todo el comentario
#12 Fascista? Dirás fascista y comunista. Qué suerte tener amnesia selectiva para olvidarnos de cosas como esta: es.wikipedia.org/wiki/Stasi
Hace ambas cosas, extraer y aprender.
#64 si, yo te estoy la razón. Yo lo que digo es que s la IA le han puesto la palabra "inteligencia" para hacer crecer que es realmente inteligente. Y como hay gente que lo cree así y la utiliza sin filtro.
Pues yo pienso que a la IA le sobra la palabra "inteligencia". Y hay gente que cree que la IA es conocedora de absolutamente todo y además capaz de tomar la mejor decisión en cualquier ocasión, y la usan para todo sin verificar la respuesta.
Como tantas cosas. hay una capa de "marketing" (empezando por "inteligencia') que nos hemos tragado sin darnos cuenta y sin ninguna educacion previa sobre ello.
Cuanto antes aprendamos a qué la IA no es más que una herramienta a la que hay que validar su respuesta, mejor. Y no darle ni un dato privado sensible.
#26 Los humanos somos inteligentes y tampoco conocemos absolutamente todo, ni mucho menos tomamos las mejores decisiones o damos respuestas correctas siempre. Relacionar inteligencia con fiabilidad es un error de concepto.

Las IA´s lo que hacen es inferir, que es paso básico de cualquier inteligencia y necesario para el razonamiento.

A ver si nos creemos que los humanos somos inteligentes por ciencia infusa. Aprendemos por nuestros sentidos desde el mismo momento en el que nacemos, y hasta que no nos quemamos con el fuego seguimos queriendo tocarlo. Y ahora mismo el principal inconveniente que tiene la IA no es su razonamiento, sino cómo obtiene los datos con los que infiere.
Yo la IA de Grok la he roto, haciendo que pierda el fine-tuning de instrucciones y simplemente repita el prompt. Eso ha pasado cuando he discutido en política y le he sacado muchas incoherencias que ya no puede continuar.

Grok es una mierda, es la peor.
#_10
Es curioso ver en el mismo artículo hablar de Dans y de la inteligencia {0x1f61c}
La inteligencia artificial....nunca, nunca, nunca , superarara la estupidez natural.

Que creeis que hara la gente como Trump o como Feijo cuando vean la facilidad que tienen los datos para desmontar su relato ?
La flecha del progreso solo tiene una dirección. O te subes al carro o te quedas en la cuneta. Protestar no sirve de nada.  media
Google es extractivo, internet es extractivo, las I.A.s de diagnosticos son extractivas.

Nada mejor como el conocimiento en legajos y la experiencia individual de cada maestro...

xD
Otro envío de la cancamusa????
La IA repetirá como un loro lo que ya existe, no inventará nuevos algoritmos, lenguajes de programación, frameworks… La IA es igual a estancamiento.
Veo que a nadie le interesa el coste económico, de energía, de agua y los efectos colaterales de la utilización masiva de la IA
Circulan noticias de la producción de C02, pero vosotros a lo vuestro , en fin , además de que lo vemos de la IA es la punta del iceberg
Los que trabajan en ello suelen tener contratos de confidencialidad

menéame