Menéame: comentarios [4167200]

#3 Siete problemas filosóficos en el mundo de la Inteligencia Artificial

rystan — Sun, 12 Apr 2026 14:38:17 +0000

Si un LLM es un artefacto (como una calculadora o un coche), la responsabilidad moral y legal recae en su fabricante y su usuario. Si es un agente (como un empleado o un animal), podría tener intereses propios, derechos y quizás hasta obligaciones. La diferencia entre una respuesta y otra define regímenes regulatorios enteros.

Al ser un LLM estático, está claro de que lado cae. Luego están los llamados agentes (un desastre reciente). Consiste en montar bucle que va haciendo consultas al LLM. Esto no quita que el LLM en sí sigue siendo estático.

Quién ha escrito esto va totalmente perdido.

» autor: rystan

#2 Siete problemas filosóficos en el mundo de la Inteligencia Artificial

rystan — Sun, 12 Apr 2026 13:01:13 +0000

Están hablando de la habitación china:

Pues bien, varios filósofos argumentan ahora que el argumento no se aplica a los LLMs, o al menos no de la manera que Searle pretendía. El argumento original se dirigía contra la manipulación formal de símbolos discretos, los ceros y unos del programa clásico. Pero los LLMs trabajan con representaciones vectoriales distribuidas: cada palabra se convierte en un punto en un espacio de cientos o miles de dimensiones, y las relaciones entre palabras se codifican como relaciones geométricas entre esos puntos. Eso cambia fundamentalmente la dinámica.

No. Por favor, no. Qué gilipollez. Eso no cambia ninguna dinámica en absoluto. Siguen siendo ceros y unos.

El que ha escrito esta mierda está pretendiendo que cambie la naturaleza de la cosa a base de nombrarla con palabras distintas.

La Habitación China no previó que el manual de reglas pudiera generar, por su propia dinámica, algo parecido a un mapa del mundo.

La habitación china no tiene dinámica porque es estática. Un LLM es también estático.

» autor: rystan

#1 Siete problemas filosóficos en el mundo de la Inteligencia Artificial

rystan — Sun, 12 Apr 2026 11:02:45 +0000

Decir que los LLMs no comprendan simplemente porque sus operaciones consisten en cálculos estadísticos es como decir que un piano no puede producir armonía porque son solo martillos golpeando cuerdas.

La falacia es evidente. El que se empiece a "argumentar" usando falacias es un claro indicativo del nivel de los "argumentos".

¿Debo razonar esto? Da hasta vergüenza. Debería ser evidente para todo el mundo que un piano es incapaz de producir ninguna clase de armonía. Eso lo hace el pianista.

Una IA no comprende nada, pero esto no es porque procese estadísticas, sino porque no hace nada más. Es como el piano sin pianista.

Respecto de lo que es lo que le falta a una IA para poder producir algo con significado, he visto muchas opiniones diversas y la gran mayoría sin ningún sentido. Es increible el nivel de despiste. Ni los gurus de la IA se aclaran, ni mínimamente.

Lo que no tienen para poder tener significado es precisamente los significados. Lo llamamos comunmente conceptos. Una persona dice cosas con significado porque establece conceptos y linka las palabras a esos conceptos. Precisamente por eso.

Dentro de una IA de estas (LLM) no hay más que parámetros determinados por el entrenamiento (backpropagation). Son respuestas memorizadas, y respecto de los textos engullidos son simples estadísticas.

No. Una IA no tiene nada parecido a eso. Inventarse excusas (como lo de que los conceptos están "embebidos", toma ya) no cambia el hecho de que no está. "Sólo hacen estadísticas" tiene el significado de que no establecen conceptos.

» autor: rystan