Tecnología, Internet y juegos
10 meneos
141 clics
Nvidia lanza su primer superordenador personal con IA: DGX Spark puede con los modelos de lenguaje más potentes en local

Nvidia lanza su primer superordenador personal con IA: DGX Spark puede con los modelos de lenguaje más potentes en local

Un supercomputador con inteligencia artificial del tamaño de un Mini PC para olvidarse de la nube y usar DeepSeek, Llama, Gemini y cualquier otro modelo de lenguaje que lo permita, en modo local. Así es el nuevo DGX Spark de Nvidia, que se podrá comprar desde mañana mismo... Si tienes 3.999 dólares.

| etiquetas: nvidia , dgx spark , llm , local
Es una pasada 200 mil millones de parámetros a ese precio. Genial para quien quiere un agente en local sin tener que dar tus datos a un tercero
#1 Es esperanzador, pero cuidado que tiene precisión FP4 (4 bits por número de coma flotante).

Los modelos habitualmente están a precisión de 16 bits. Algunos se pueden "comprimir" a 8 bits perdiendo algo de precisión y calidad.
#1 Demasiado caro aún. Mi privacidad vale mucho menos. :shit:
#1 que se quedará outdated en… 15 días?
No entiendo eso del "primero superordenador", NVidia tiene desde hace un tiempo la serie Jetson y su Thor de 3000 leuros es prácticamente esto que están presentando. Tiene un conector de fibra para trabajar en paralelo con otros Thor y aumentar la potencia apilando.

www.nvidia.com/es-es/autonomous-machines/embedded-systems/jetson-thor/
En dos años tendremos de estos de todas las marcas a la mitad de precio
Yo ya tengo mi PC con más parametros que ese y me ha costado menos. Comprando de segunda mano. Pero son 22/44 núcleos/Hilos, 256 gb Ram en Quad Channel, 40 tb de almacenamiento de ellos 5 tb en NVME, 3 TB SSD y el resto HDD. Y la GPU es una RTX 3090 Ti Asus rog Strix LC refrigeración Líquida y la misma memoria que la RTX 4090. Con esto puedo hacer IA local y me he gastado menos de 3.000 euros.
Eso es mucho más compacto, portátil y dedicado a IA. Lo veo bien para lo que dice el artículo, profesionales y estudiantes, es una herramienta.

menéame