Menéame: comentarios [4042676]

#36 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

SmithW6079 — Sat, 29 Mar 2025 11:12:12 +0000

#34 alguien se ha dado por aludido jajajajaja

» autor: SmithW6079

#35 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

Artok — Sat, 29 Mar 2025 01:01:07 +0000

O sea, crean esa tecnología y nadie sabe cómo funciona realmente? Alucino

Edit: alucino vecino

» autor: Artok

#34 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

MellonCollie — Fri, 28 Mar 2025 22:19:11 +0000

#21 a diferencia del fachapobre medio, que tiene mínimo un doctorado en física cuántica.

» autor: MellonCollie

#33 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

sorrillo — Fri, 28 Mar 2025 20:49:21 +0000

#24 Las IAs actuales entienden y hablan en todos los idiomas y para que eso ocurra no es necesario que quienes las han "programado" sepan todos los idiomas.

Lo que hacen esos programadores es crear el cerebro digital vacío, sin conocimiento, y luego crean las herramientas para que ese cerebro digital pueda aprender y finalmente le dan todo Internet para que lo aprenda todo.

Y gracias a eso ese cerebro digital acaba entendiendo todos los idiomas, entendiendo de física cuántica, entendiendo de biología, etc. sin que esos programadores hayan tenido que saber nada de lo anterior. Ese aprendizaje surge de los datos con los que se entrena la IA y que los programadores no necesitan entender, basta con que sea el cerebro digital el que los haya procesado.

» autor: sorrillo

#32 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

daphoene — Fri, 28 Mar 2025 20:39:58 +0000

#17 No estaría de más enlazar algunas de las discusiones anteriores al respecto, y mencionar a @sorrillo, @kaotan, @sauron34_1, @chavi y otros interesados en estas discusiones.

Este comentario mío viene bastante al pelo:
www.meneame.net/story/nuevo-modelo-chatgpt-intento-no-apagarse-mismo-d

Edito para mencionar a #18, aunque no estoy de acuerdo en que el funcionamiento de nuestro cerebro y el de la IA sean prácticamente idénticos, pero sí hay que pensar que igual que existen una serie de cuestiones fundamentales que se comparten por todo tipo de sistemas, habrá apartados que por la propia naturaleza del procesado de información sean similares en una IA y en nuestro cerebro.

» autor: daphoene

#31 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

crissis — Fri, 28 Mar 2025 19:17:07 +0000

#24 Imagínate que inventas el ajedrez. ¿eso te hará el mejor jugador de ajedrez del mundo, por el hecho de haberlo inventado?

La respuesta es obviamente no. Porque de las reglas del ajedrez emergen posiciones y complejidades que van más allá de sus reglas básicas.

Esto es parecido.

» autor: crissis

#30 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

sdar — Fri, 28 Mar 2025 18:49:19 +0000

#19 Voy a aportar mi granito de arena, con algoritmos de machine learning simples y pocos datos puedes hacer gráficos (plots) que te permitan ver visualmente lo que está pasando y diagnosticar fallos de forma mas sencilla que simplemente mirando los datos y el algoritmo. (por ejemplo local minima, overfitting, underfitting...)

Con pocas dimensiones, por así decir, esto se puede hacer, pero cuando tienes billones de parámetros tu cabeza no es capaz de abarcarlo y no hay forma de hacer un gráfico de un billón de dimensiones que te permita comprender algo visualmente, se han hecho muchos esfuerzos en inventar nuevas formas de visualizar esta cantidad desmesurada de datos, pero por lo que se, sin mucho éxito.

Por lo que finalmente llegas a un punto donde sabes como las neuronas aprenden pero no como con la cantidad masiva de datos que le has proporcionado las han llevado a "pensar" de esa forma.

Lo he simplificado lo que he podido.

» autor: sdar

#29 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

dani.oro.5 — Fri, 28 Mar 2025 17:34:44 +0000

#19 depende a qué nivel, el cerebro también tiene su software y su hardware y es un sistema complejo.

El hardware tiene el mismo sustrato en un cerebro que en un procesador, leyes físicas, ecuaciones de Maxwell, señales eléctricas, entradas y salidas, lógicas...

» autor: dani.oro.5

#28 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

PortgasDAce — Fri, 28 Mar 2025 16:28:48 +0000

#9 efectivamente

» autor: PortgasDAce

#27 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

PortgasDAce — Fri, 28 Mar 2025 16:27:15 +0000

#20 mearse mearse... no sé yo, no conozco un solo benchmark en el que eso suceda.

Ni por precio, ni por capacidad matemática...

Entiendo el rechazo hacia Open AI, pero es que no se sostiene la afirmación.

» autor: PortgasDAce

#26 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

thalonius — Fri, 28 Mar 2025 16:26:14 +0000

#25 No hay un solo creador de inteligencia artificial, hay mucha gente a la vez proponiendo muchas cosas.
¿A quién consideras tú "los creadores"?
Creo que en los últimos años, el salto cualitativo pudo venir de los Transformers, autoría de Google, pero parece que mediáticamente OpenAI ha sabido colocarse para aparentar ser los "inventores" del tema.

Esta investigación de Anthropic no es nueva, llevan ya meses dándole vueltas a esto, mira este vídeo de hace ocho meses:
youtu.be/VjZ51nIcy1I?si=VBCftqu0e5OxZV8V

» autor: thalonius

#25 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

salteado3 — Fri, 28 Mar 2025 15:30:55 +0000

#5 Estos están haciendo una ingeniería inversa quitando merito a los creadores...

» autor: salteado3

#24 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

Elektr0 — Fri, 28 Mar 2025 15:03:00 +0000

#15 No tengo ni idea de IA pero es algo que no entiendo. Una cosa programada por un humano y no sabe lo que hace. Es lo que pasaría si copio código de StackOverflow sin entenderlo y lo pongo a ejecutarse.

» autor: Elektr0

#23 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

SmithW6079 — Fri, 28 Mar 2025 14:32:27 +0000

#18 por algo le han puesto ese nombre además de marketing

» autor: SmithW6079

#22 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

SmithW6079 — Fri, 28 Mar 2025 14:30:18 +0000

#10 a mí me resulta incomprensible un script de no más de 20 líneas que hice hace dos meses

(Culpa mía por no documentar cuando aún lo entendía)

» autor: SmithW6079

#21 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

SmithW6079 — Fri, 28 Mar 2025 14:28:17 +0000

#7 muy osado por tu parte suponer que el progre medio tiene algo más que eco entre las orejas

» autor: SmithW6079

#20 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

SmithW6079 — Fri, 28 Mar 2025 13:44:23 +0000

#4 los modelos de anthropic se mean con mucha diferencia en los de openai.

No dudo que el hype sea parte de su estrategia de marketing, pero la comparación no me parece acertada.

» autor: SmithW6079

#19 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

meneandotela — Fri, 28 Mar 2025 13:17:13 +0000

#7 te lo compro pero no el ejemplo del de las orejas. No es lo mismo estudiar el funcionamiento de un software que el de una entidad biológica.

» autor: meneandotela

#18 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

JGG — Fri, 28 Mar 2025 13:14:42 +0000

"Contrario a la idea de que los LLM simplemente predicen la siguiente palabra en una secuencia, el estudio de Anthropic encontró que los modelos de IA realizan planificación a largo plazo para ciertas tareas"

Al final resultará que el funcionamiento de nuestro cerebro y el de la IA son prácticamente idénticos.

» autor: JGG

#17 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

leviatan — Fri, 28 Mar 2025 12:49:22 +0000

"Contrario a la idea de que los LLM simplemente predicen la siguiente palabra en una secuencia, el estudio de Anthropic encontró que los modelos de IA realizan planificación a largo plazo para ciertas tareas"

Vaya poco a poco se va cayendo el mito de todos esos expertos en IA que decían que la IA es simplemente una sofisticada función estadística alimentada por una ingente cantidad de datos.

» autor: leviatan

#16 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

caret — Fri, 28 Mar 2025 12:42:08 +0000

Cuando decimos que no se sabe como funcionan nos estamos refiriendo a que no somos capaces de entender como funciona el comportamiento complejo que se deriva de su funcionamiento por eso son sistemas complejos. Sabemos como funciona una neurona, como se conecta, como se meten los datos, como se sacan, algunos principios de diseño, pero no sabemos como internamente se organiza la información y da los resultados complejos de alto nivel.

» autor: caret

#15 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

Razorworks — Fri, 28 Mar 2025 12:29:47 +0000

Ah, o sea... ¿qué las hemos diseñado pero todavía no lo sabíamos?

» autor: Razorworks

#14 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

Joder__soy_yo — Fri, 28 Mar 2025 12:28:16 +0000

#10 bueno, en este caso es más bien propiedades emergentes que surgen cuando todos esos módulos funcionan y sus salidas y entradas se entrelazan

» autor: Joder__soy_yo

#13 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

TripodeDeEbano — Fri, 28 Mar 2025 12:17:43 +0000

#5 Sabemos como funciona el cerebro humano pero no sabemos por ejemplo porque a diferentes personas les gustan diferentes cosas o ante un mismo hecho es diferente manera. Podríamos hablar de entrenamiento. Pero se da el caso de gemelos con padre alcohólico que uno de ellos acaba también alcohólico y el otro acaba triunfando en la vida.

Otro ejemplo, cuando tiras una piedra y das en el blanco, porque no eres capaz de acertar a partir de entrance's siempre.

» autor: TripodeDeEbano

#12 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

TripodeDeEbano — Fri, 28 Mar 2025 12:14:27 +0000

#11 Bueno ha sido ingenioso

» autor: TripodeDeEbano

#11 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

llorencs — Fri, 28 Mar 2025 12:00:52 +0000

#3 No me gustan los coladores, así que negativo al canto. Y es bien merecido

» autor: llorencs

#10 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

CrudaVerdad — Fri, 28 Mar 2025 12:00:16 +0000

Cualquier software enorme (miles de tablas, formularios e informes) hechos por miles de desarrolladores, termina siendo incomprensible. A lo sumo alguna persona entenderá un módulo pero no el total.

» autor: CrudaVerdad

#9 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

abogado_del_diablo — Fri, 28 Mar 2025 11:39:31 +0000

#5 Por lo visto hay modelos de IA que sí que tienen trazabilidad y puedes saber por qué han llegado a una conclusión. Pero los modelos más potentes no la tienen: ni siquiera quien los programa sabe decir qué le ha llevado a un resultado, lo cual es un serio problema para algunas aplicaciones.
Al menos hasta ahora.

» autor: abogado_del_diablo

#8 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

Razhan — Fri, 28 Mar 2025 11:39:23 +0000

#5 Sabemos como funciona la idea en general. Pero no entendemos como razona. Sabemos como son las operaciones a bajo nivel, pero a base de añadir mas y mas operaciones, empiezan a aparecer capacidades que no somos capaz de asignar de vuelta a las operaciones basicas. Es como en un cerebro, entendemos como unas neuronas interaccionan con otras. Y para ciertas acciones, podemos ver como algunas neuronas se activan mas que otras. Pero no podemos explicar como un recuerdo especifico esta almacenado en esas relaciones entre neuronas.

» autor: Razhan

#7 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

dani.oro.5 — Fri, 28 Mar 2025 11:36:33 +0000

#5 no lo saben, saben como funcionan las redes neuronales pero cuando estás son muy grandes y metes muchos datos lo que ocurre es "magia".

Por magia me refiero a propiedades emergentes en sistemas complejos.

Tampoco se sabe cómo funciona la rede neuronal que tienes entre las orejas.

» autor: dani.oro.5

#6 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

Razhan — Fri, 28 Mar 2025 11:35:29 +0000

#4 El poder explicar como razona un modelo actual no veo por que iba a permitirte inmediatamente alcanzar AGI

» autor: Razhan

#5 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

osids — Fri, 28 Mar 2025 11:33:19 +0000

Entonces los que han programado las IAs no saben como rulan? Estamos más perdidos de lo que pensaba y el día del juicio le quedan unos siglos por suerte

» autor: osids

#4 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

--808874-- — Fri, 28 Mar 2025 11:31:28 +0000

Qué mentirosos... si lo hubieran descubierto de verdad ya habrían alcanzado la AGI... Anthropic siguiendo la estela de OpenAI a la hora de crear hype sin base...

» autor: --808874--

#3 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

ed25519 — Fri, 28 Mar 2025 10:19:34 +0000

#2 pues a ver si hay suerte y abren la caja B de algun partido politico

» autor: ed25519

#2 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

eskape — Fri, 28 Mar 2025 09:57:39 +0000

Han abierto la "caja negra". www.bbc.com/mundo/noticias-65331262

» autor: eskape

#1 Anthropic asegura haber descubierto cómo ‘piensan’ los modelos de IA

woke — Fri, 28 Mar 2025 08:25:55 +0000

Es sólo una aproximación

» autor: woke