Menéame: comentarios [4109633]

#5 La caja negra de los algoritmos

Torrezzno — Wed, 22 Oct 2025 08:58:14 +0000

#1 Venia a esto. No sabemos como funcionan los algortimos que no estan abiertos. Cualquiera puede ver como funciona el mergesort

» autor: Torrezzno

#4 La caja negra de los algoritmos

pirat — Wed, 22 Oct 2025 08:54:41 +0000

El algoritmo perverso

» autor: pirat

#3 La caja negra de los algoritmos

pip — Wed, 22 Oct 2025 06:59:14 +0000

No explica como se llega desde el usuario pensando en comprar café al usuario viendo café en su teléfono. Eso es muy creepy, decirlo así sin más es muy raro. Algo más habrá hecho el usuario que pensar en café.

» autor: pip

#2 La caja negra de los algoritmos

sorrillo — Wed, 22 Oct 2025 06:33:49 +0000

#1 Hay sistemas de recomendación basados en algoritmos y hay sistemas de recomendación basados en IA, los últimos son los que se pueden considerar una caja negra.

Y es que afirmar que el resultado de la IA es el resultado de un algoritmo es como afirmar que la respuesta de un humano es el resultado de las interacciones de partículas fundamentales, aunque sea técnicamente cierto no es útil y ambos siguen siendo una caja negra aunque conozcamos como interactúan las partículas fundamentales.

Y es que la complejidad de la IA hace inviable predecir su respuesta en base a los algoritmos de las piezas fundamentales que lo componen, de hecho usando exactamente los mismos algoritmos sin cambiar absolutamente nada pero usando un set de datos de entrenamiento distinto las respuestas son distintas, el algoritmo no permite determinar la respuesta.

De la misma forma que dos gemelos con el mismo ADN, cuyo cerebro parte de una misma base idéntica, dan respuestas distintas una vez han llevado a cabo su aprendizaje, ya que el aprendizaje que reciben es imposible que sea idéntico.

» autor: sorrillo

#1 La caja negra de los algoritmos

Robus — Wed, 22 Oct 2025 06:04:38 +0000

Con cariño, pero que estupidez de frase en la entradilla.

Un algoritmo es una receta, ni más ni menos, a lo que se refiere el artículo es a los algoritmos específicos para aconsejar productos basados en tus productos ya comprados o aficiones.

Y sí, se sabe perfectamente como funcionan, lo que no se sabes es porque, en un caso particular, muestra un valor o otro... aunque ahora hay estudios de trazabilidad que ayudan a entenderlo.

Alguien en algún momento del pasado dijo que las redes neuronales eran "cajas negras" mayormente porque no tenía ni idea, y la idea a cuajado y los periodistos la repiten desde la ignorancia ampliandolo a cualquier cosa que no entiendan y tenga que ver con la IA.

Luego hay frases como:

un algoritmo de caja negra: un sistema cuyo funcionamiento interno no es visible para el usuario

Eso no es una caja negra, una caja negra es cuando nadie sabe como funciona, los sistema que no le explica al usuario como funciona por dentro existen, como mínimo, desde que se inventó la administración hace unos 5000 años en Egipto y Mesopotamia.

los expertos de IBM Consulting. «Los creadores del sistema saben exactamente cómo funciona, pero mantienen en secreto el código fuente y el proceso de toma de decisiones. Por esta razón, muchos algoritmos tradicionales de IA basados en reglas son cajas negras», aseguran.

Si un experto de IBM dice algo así lo echan de la empresa, por la ventana de último piso, con una catapulta y con el resto de empleados tocando los bongos.

Hasta aquí he leido.

» autor: Robus