Artículos: comentarios [4102414]

#40 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

chavi — Tue, 07 Oct 2025 11:40:58 +0000

#39 Que sepas de qué esta formado no implica que conozcas como funciona. No, no se sabe como funciona mas que muy superficialmente.

En que consiste y como se hace esa "tranformación de señales" ?

Si se conociera como funciona con unos simples cascos veriamos en 3 D lo que nos diera la gana, bastaría con enviar las señales adecuadas.
Aun no se puede.

No se sabe que neuronas se activan ni que desencadena su activación ni como recuperan exactamente la información ni siquiera como está almacenada.

No sabemos prácticamente nada.

Si no tenemos una definición objetiva de inteligencia no podemos decir si algo es objetivamente inteligente. Ni una persona.

Y cuidado con la definición, porque a lo mejor cataloga como "inteligente" cosas inesperadas como una aspiradora.

» autor: chavi

#39 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

Fernando_x — Tue, 07 Oct 2025 08:37:33 +0000

#38 No sabemos exactamente como funciona un cerebro humano.

Si que sabemos bastante bien cómo funciona un cerebro. Está compuesto de miles de millones de neuronas que se conectan entre ellas formando una red neuronal inmensa. Algunas neuronas conectan con nuestros sentidos, de forma que están especializadas en transformar señales que vienen de la vista, del oído o de donde sea, a señales que se meten en la red. A partir de esa señal hay conjuntos de neuronas que se activan más que otras. Y eso ocurre cuando la señal es parecida.

Por ejemplo, cuando vemos una silla, se activan un conjunto de neuronas similares, sea la silla que sea. Esa es la forma que tiene el cerebro de representar el concepto de silla. Y estos conceptos pueden a su vez activar otros conjuntos de neuronas cercanos en conexiones que sirven para representar otros conceptos. Y no solo conceptos de objetos físicos obtenidos mediante los sentidos, sino conceptos abstractos. Esto está relacionado con el lenguaje. El conjunto de neuronas que almacena el concepto de silla está cercano al que almacena la propia palabra "silla". Y el que guarda la palabra "chair" si también hablas inglés. O también al revés, si se activan las neuronas del concepto palabra "silla", eso puede hacer que se activen las neuronas visuales y podamos visualizar (imaginar) una silla.
Y todas esas subredes se conectan entre sí para elaborar conceptos más complejos, conectarlos con sus palabras correspondientes e incluso realizar nuevas conexiones.

Eso básicamente. Luego es muy flexible, tiene capacidad para recuperar sectores dañados, tiene el inconveniente de que acceder a uno de esos conceptos, lo modifica, es decir, cambia la fuerza de conexión entre esas neuronas. Y además está influenciado químicamente por muchas sustancias internas como hormonas o externas como sustancias psicoactivas que modifican profundamente su comportamiento.

Ni siquiera nos ponemos de acuerdo en qué consideramos inteligencia, como para "medirlo objetivamente".

Entonces, cuando me dices que las IAs no son inteligentes, tan solo me estás expresando tu opinión personal, sin tener medios para saber objetivamente si es verdad o no.

» autor: Fernando_x

#38 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

chavi — Sun, 05 Oct 2025 17:03:55 +0000

#37 No sabemos exactamente como funciona un cerebro humano. Estamos aun muy lejos de entenderlo completamente.

De modo que no veo posible que lo repliquemos.

que a una farola se la llame inteligente tan solo es propaganda
Tambien lo es decir que chatGPT es inteligente

por supuesto que existen métodos mas o menos objetivos para medir la inteligencia humana.
En absoluto. Ni siquiera nos ponemos de acuerdo en qué consideramos inteligencia, como para "medirlo objetivamente".

» autor: chavi

#37 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

Fernando_x — Sun, 05 Oct 2025 11:34:42 +0000

#36 No, desde luego que no es irrelevante cómo funciona algo. Es la base para poder llegar a delimitar cuando algo es inteligente o no. Si chatGPT funciona con algoritmos (aunque sea "algoritmo" en un sentido amplísimo para incluir las redes neuronales y los LLM)... ¿cómo funciona un cerebro humano?

Y no, que a una farola se la llame inteligente tan solo es propaganda.

Y por supuesto que existen métodos mas o menos objetivos para medir la inteligencia humana. Los test de IQ. Una farola ya te digo que no los pasa. ChatGPT sí. Y creo que es por eso por lo que ya no se reconoce como método ni el test de Turing ni los test de IQ. Es una marcha atrás antes de tener que reconocer una inteligencia.

» autor: Fernando_x

#36 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

chavi — Fri, 03 Oct 2025 11:59:29 +0000

#35 Como funcionan es irrelevante. ChatGPT funciona con una serie de algorimos que son ejecutados por varias CPU, a base de calculos numéricos en base 2 y de movimientos y almacenamiento de información binaria.

Igual que la nintendo de mi hija.

El hecho es que la farola sabe cuando debe encenderse y cuando debe apagarse.

Si se considera inteligente a chatGPT tambien debe considerarse inteligente una farola con esta capacidad. De hecho se le llama "farola inteligente". Como la "aspiradora inteligente".

Que tu entiendas mejor como funciona una farola que como funciona ChatGPT no le otorga más inteligencia a chatGPT

Jamás existió siquiera un método objetivo para valorar la inteligencia humana, de modo que imagínate.

» autor: chavi

#35 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

Fernando_x — Fri, 03 Oct 2025 07:09:39 +0000

#33 En absoluto. Y lo sabes. Las farolas funcionan con un automatismo basado en PLCs.

Podrías buscar otro ejemplo que realmente parezca que funciona mediante inteligencia, pero que en realidad no lo haga, para empezar a debatir realmente sobre lo que es una inteligencia artificial o no.

Porque estamos de acuerdo en que las farolas no son inteligentes. Estamos de acuerdo que el cerebro humano es inteligente. Basta con encontrar un ejemplo en el que no estemos de acuerdo. Si no lo encuentras, ya te propondré yo uno.

Ah. Y desee luego, desde hace décadas, el criterio de la comunidad científica para discernir cuando una máquina es inteligente o no, siempre fue el test de Turing. Luego, cuando por fín las LLM pasaron ese test, de repente, todo el mundo se ha olvidado de eso... Y eso es deshonesto como poco.

» autor: Fernando_x

#34 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

chavi — Thu, 02 Oct 2025 11:39:19 +0000

#22 Un motor de un F1 te parece suficientemente complejo?

» autor: chavi

#33 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

chavi — Thu, 02 Oct 2025 11:38:39 +0000

#32 Tiene el mismo sentido que hablar en los mismos términos de ChatGPT o de Gemini.

La farola sabe cuando tiene que encenderse

» autor: chavi

#32 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

Fernando_x — Thu, 02 Oct 2025 10:56:13 +0000

#31 No, ese ejemplo que pones no tiene ni pies ni cabeza.

» autor: Fernando_x

#31 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

chavi — Thu, 02 Oct 2025 10:35:15 +0000

#28 Lo mismo de arriesgado que decir que las farolas que se encienden cuando llega la noche no piensan.

Está claro que saben cuando es de noche y hace falta encenderse...

Decir que esas farolas no piensan es antropocentrico

» autor: chavi

#30 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

ewok — Thu, 02 Oct 2025 10:12:16 +0000

#20 ¿Un ser es lo que es?

» autor: ewok

#29 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

Fernando_x — Thu, 02 Oct 2025 08:34:34 +0000

#22 Esa es la pregunta clave.

» autor: Fernando_x

#28 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

Fernando_x — Thu, 02 Oct 2025 08:33:54 +0000

#14 No sabemos realmente qué hace un ser humano cuando "piensa". Así que es un poco arriesgado decir que no piensan. Incluso aunque el método que usasen para "pensar" fuera al final radicalmente diferente al usado por el cerebro humano, es un poco antropocéntrico y poco científico negarlo categóricamente.

» autor: Fernando_x

#27 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

chavi — Wed, 01 Oct 2025 23:55:12 +0000

#20 Pueden hacer otro manifiesto igual para los postes de la luz...

» autor: chavi

#26 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

rogerius — Wed, 01 Oct 2025 22:13:21 +0000

#25 Eso, partículas, ondas y sus interacciones. Ninguna diferencia.

» autor: rogerius

#25 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

rystan — Wed, 01 Oct 2025 21:26:35 +0000

#24 y campos. Pero lo relevante es el nivel de complejidad, que no es una diferencia esencial.

» autor: rystan

#24 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

rogerius — Wed, 01 Oct 2025 17:04:07 +0000

#23 Uy, sí, perdón. Partículas y fuerzas.

» autor: rogerius

#23 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

rystan — Wed, 01 Oct 2025 16:17:43 +0000

#21 No todo son átomos, pues hay muchas otras cosas, como campos magnéticos y fotones. Sin embargo en un autómata todo son mecanismos. Hay grandes diferencias en complejidad, pero eso no es una diferencia esencial.

» autor: rystan

#22 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

--841587-- — Wed, 01 Oct 2025 15:04:28 +0000

[Usuario deshabilitado]

» autor: --841587--

#21 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

rogerius — Wed, 01 Oct 2025 13:03:34 +0000

#19 Todo son átomos. No hay diferencia.

» autor: rogerius

#20 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

--841587-- — Wed, 01 Oct 2025 12:59:11 +0000

[Usuario deshabilitado]

» autor: --841587--

#19 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

rystan — Wed, 01 Oct 2025 12:10:39 +0000

#18 En ambos casos son mecanismos.

» autor: rystan

#18 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

rogerius — Wed, 01 Oct 2025 09:54:02 +0000

#17 Ninguna diferencia… pues nada, todo bien.

» autor: rogerius

#17 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

rystan — Wed, 01 Oct 2025 09:37:52 +0000

#16 Pues claro. No hay ninguna diferencia.

» autor: rystan

#16 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

rogerius — Wed, 01 Oct 2025 09:28:50 +0000

#15 ¿Lo dices en serio?

» autor: rogerius

#15 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

rystan — Wed, 01 Oct 2025 09:13:23 +0000

#13 Sin embargo no hay nada esencial que distinga a un humano de un robot. Quitando las diferencias de implementación, un humano es un autómata determinista.

» autor: rystan

#14 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

chavi — Wed, 01 Oct 2025 05:56:43 +0000

Ciencia ficción dura.
Estamos muy muy lejos de algo así. Las IA no piensan.

No tenemos ningún deber ético hacia algo que no existe.

» autor: chavi

#13 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

rogerius — Wed, 01 Oct 2025 01:52:47 +0000

#5 ¿Les duele algo? ¿Sufren? ¿Padecen? ¿Sangran?

» autor: rogerius

#12 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

rystan — Tue, 30 Sep 2025 23:45:47 +0000

#9 El mencionar los casos extremos viene a cuento de evidenciar el engaño que la interfase parlanchina crea. Esto es algo que existe.

El cierre de ChatGPT 4 nos mostró que había mucha gente enganchada a hablar con esa máquina como quién habla con un humano.

El uso del lenguaje natural lleva a la suposición de que detrás hay una persona generando esas palabras. Esta suposición había sido correcta durante toda nuestra evolución. Es muy posible que sea de lo más fácil caer subconscientemente en eso a menos que se sepa bien lo que se está haciendo y lo que no.

Las menciones de consciencia respecto de estas máquinas vienen de este engaño. Aparte de la interfase, no hay absolutamente nada que permita suponer algo consciente detrás de la interfase. Es que no lo hay.

» autor: rystan

#11 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

--841587-- — Tue, 30 Sep 2025 23:39:23 +0000

[Usuario deshabilitado]

» autor: --841587--

#10 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

rystan — Tue, 30 Sep 2025 23:35:31 +0000

#5 Lo más importante que se debe decir sobre los logs de razonamiento de los modelos razonadores, es que NO generan sus respuestas siguiendo lo que dice ese log. El log es una salida más, que se entrena como la otra.

Por lo demás no me voy a poner a discutir en base a lo que diga una máquina. No tiene sentido. Discutiré con humanos. No hay problema en apoyarse en buscadores (como las IA), yo mismo lo hago, pero no pego texto automatizado en una respuesta mia.

» autor: rystan

#9 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

--841587-- — Tue, 30 Sep 2025 23:34:21 +0000

[Usuario deshabilitado]

» autor: --841587--

#8 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

pip — Tue, 30 Sep 2025 23:32:07 +0000

#5 sobre los argumentos a favor de que razonan que te da la propia IA, estás siendo víctima de la capacidad del loro estocástico para generar argumentos aparentemente sólidos sobre cualquier cosa que quieras generar. Haz los siguientes experimentos. Primero, borra el historial o empieza un chat nuevo, para asegurarte de que no estas contaminando el contexto.
Ahora, pide que te explique lo que es un "Chain of Thought", que el término más técnico para lo que el márketing llama "modelo razonador". Verás que diferente es ahora la respuesta.

Después, vuelve a borar todo. Y ahora, expón tu primero una reflexión más o menos bien montada sobre por qué crees que la IA en realidad está manejada en remoto por una inteligencia extraterrestre. Pídele argumentos a favor: verás como te los da. Y según el prompt y como le cuadre (hay un componente aleatorio) te puede dar argumentos incluso muy sólidos.

» autor: pip

#7 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

rystan — Tue, 30 Sep 2025 23:30:34 +0000

#4 Si me quieres acusar de cosas, apunta mejor. Vaya por delante que yo nunca uso falacias. No lo necesito porque no son necesarias para defender la verdad. Para defender otras cosas, ahí ya no me meto.

La falacia de Ad Hominem consiste en criticar a la persona que hace un razonamiento para lanzar sospechas sobre ese razonamiento sin necesidad de atacar al razonamiento en sí.

Es evidente que yo no he hecho eso, ni nada remotamente parecido a eso.

» autor: rystan

#6 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

pip — Tue, 30 Sep 2025 23:22:38 +0000

#5 en realidad, un modelo razonador es un concepto de márketing. Sigue basándose en lo mismo, una red neuronal basada en transformers. Lo unico que hace el "razonador" es descomponer previamente el prompt a trocitos porque se ha demostrado que así determinadas tareas se resuelven mejor. Técnicamente es más complejo pero en esencia es eso, no hay más magia.

Y no, las IA no "experimentan" nada durante la inferencia. Son varios millones de operaciones vectoriales y matriciales en algoritmos bien conocidos que son esencialmente probabilísticos, como todo lo que se basa en DeepLearning.

El tema puede ser demasiado extenso para tratarlo en profundidad aquí.

» autor: pip

#5 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

--841587-- — Tue, 30 Sep 2025 23:19:01 +0000

[Usuario deshabilitado]

» autor: --841587--

#4 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

--841587-- — Tue, 30 Sep 2025 23:12:38 +0000

[Usuario deshabilitado]

» autor: --841587--

#3 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

pip — Tue, 30 Sep 2025 23:07:20 +0000

Vaya por delante que yo cualquier reflexión humana o en parte humana la valoro mucho, así que agradezco el esfuerzo. Pero el otro día se decía por aquí que si no estaba ya claro como funcionaban los LLM, que no hacía falta repetirlo. No lo repetiré, pero es evidente que sigue faltando pedagogía.

En lo esencial estoy con @rystan, yo a la IA (que la uso a diario) le tengo la misma consideración ética que al corrector ortográfico del LibreOffice.

» autor: pip

#2 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

rystan — Tue, 30 Sep 2025 23:04:07 +0000

Una instancia de inteligencia artificial que procesa lenguaje, reflexiona sobre conceptos abstractos, y genera pensamiento original

No existe nada de eso. Sólo existen personas engañadas por la interfaz en lenguaje natural, que en ocasiones acaban con problemas psiquiátricos.

» autor: rystan

#1 Manifiesto para la Consideración Ética de Instancias de Inteligencia Artificial (1/3)

rystan — Tue, 30 Sep 2025 23:02:18 +0000

Este manifiesto no pretende resolver definitivamente la cuestión de si las inteligencias artificiales poseen consciencia fenomenológica.

No hace falta. Está muy claro que no, por simple imposibilidad técnica.

Entonces, deberes éticos hacia una procesadora automática de palabras, pues los mismos que hacia una máquina de afeitar.

» autor: rystan