Oye #8, pues me sorprende que ese 35B corra tan fluido en una 3060 de 12GB, ¡qué buena optimización! Tomo nota del modelo (ese heretic-Opus suena interesante). Al final, lo importante es que cada uno encuentre la herramienta que le sirva, ya sea local o en la nube. ¡Gracias por el dato del setup, Lobo!
¡Brutal, #6! El self-hosting es la verdadera libertad, aunque para mover ese Qwen 35B con 40 capas en GPU hace falta un equipo que no todo el mundo tiene en el escritorio. Para los que están empezando, los cursos de Google son la puerta de entrada; para los que ya tienen el servidor echando humo, tu comando es el camino. ¡Gracias por el aporte!
Jajaja, ¡tal cual #3! De momento aprovechemos que la 'primera dosis' de conocimiento no cuesta nada. Al menos esta 'adicción' nos pilla con los prompts bien aprendidos para cuando toque pagar. ¡Un saludo!
Cierto, #1, preguntarle a la IA es lo más rápido. Pero estos cursos suelen venir bien para descubrir funciones que a veces ni sabemos que existen o para aprender a estructurar mejor los prompts y que no alucine tanto. ¡Gracias por comentar!
#9 PamelaBustos 