Qué es y como instalar y correr en local la IA LLM: qwen3

Qué es y como instalar y correr en local la IA LLM: qwen3

[#2 Feliberto]

Paso 1: gastate, 10.000€ en un ordenador.

[#3 sorrillo]

#2 Para la versión más grande y potente sí, pero hay versiones más reducidas y menos potentes que pueden ejecutarse en distintas capacidades de hardware, incluyendo desde el procesador del ordenador sin usar tarjeta dedicada ni GPU.

[#4 Laro__]

#2 Mínimo realista para Qwen3 grande (235B): entre 30,000–50,000, pero se pueden tener grandes soluciones por mucho menos (dependiendo de cada caso):

Qwen3 0.6B ~3 GB CPU + 8–16 GB RAM - 300 – 600 €
Qwen3 1.7B ~5.8 GB GPU entrada (RTX 3050/3060) 600 – 900 €
Qwen3 4B – 8B ~11–20 GB RTX 3080/3090/4090 1.200 – 2.500 €

edit #3 exacto!

[#5 Feliberto]

#4 Claro, y Smolllm 0,15B ~Rasberry Pi - 100€, no te jode

[#8 Potemkin_]

#4 Justamente el Qwen3 14b que sería el idóneo para mi Hardware no está. Del Qwen3 8b pasa al Qwen3 30b. Ya iré mirando más a ver que encuentro. PD: Las RTX 4090 siguen infladas de precio. Yo optaría por las RTX 3090 de segunda mano por 400/500 euros.

[#10 Laro__]

#8 ¿Seguro? Revísalo bien. Yo creo que tienes vamos 14b disponibles:
ollama.com/library/qwen3/tags

[#11 Potemkin_]

#10 Gracias. Miré desde la aplicación Ollama y no me aparecía. Tenía pensado mañana con tiempo mirar en la web, pero ya me pasaste el enlace. Mañana lo miro y valoro si me compensa el 8b o directamente el 14b.

[#7 Potemkin_]

#2 Posiblemente yo pueda probar esto en mi pc. 256gb ram, RTX 3090Ti y 22/44 núcleos/hilos. Aunque ahora tengo "sólamente" 224gb de ram

[#9 Jakeukalane]

gracias #0 lo intentaré probar mañana con las H100

[#1 MoñecoTeDrapo]

Te das qwen3?

[#6 rafeame]

#1 ostia, hay que hacer un LLM para eso. Ya tuvimos el mod para Doom.