Menéame: comentarios [4022823]

#84 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

TikisMikiss — Wed, 29 Jan 2025 10:24:11 +0000

#13 Dile a este que no le vas a alimentar porque "es demasiado gasto".

» autor: TikisMikiss

#83 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

empe — Tue, 28 Jan 2025 22:13:17 +0000

#73 Consume menos y me da igual que sean 1000 personas en remoto que 1000 en local.
Si antes tiraban del centro de datos también estaban consumiendo recursos.

» autor: empe

#82 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

sillycon — Tue, 28 Jan 2025 20:02:36 +0000

Pero vamosaver, a qué viene este alboroto. Te puedes instalar el ollama en tu ordenador y meterle modelos que hay por ahí desde hace años, lo único imprescindible es que tengas una Nvidia moderna donde quepan. Y si quieres generar imágenes, el Fooocus va como una tiro. La diferencia es que esto no es un LLM pelao sino un modelo de razonamiento.

» autor: sillycon

#81 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

LaInsistencia — Tue, 28 Jan 2025 19:48:53 +0000

#6 Si genera algo útil para una empresa y el coste de la luz es mas barato que contratar a un becario, tampoco van a flipar mucho...

» autor: LaInsistencia

#80 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Ozono33 — Tue, 28 Jan 2025 17:27:47 +0000

Lo he probado esta tarde y la verdad es que comete muchos errores, ya iremos viendo.

» autor: Ozono33

#79 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

DayOfTheTentacle — Tue, 28 Jan 2025 16:09:39 +0000

y de dónde obtiene la información si no está conectado a internet?

» autor: DayOfTheTentacle

#78 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

tdgwho — Tue, 28 Jan 2025 15:43:19 +0000

#77 Es una aproximación.

Por ejemplo para las de 8B son 4,9gb, para la de 14B son 9gb y la de 70B son 43gb

Y eso es solo para volcar el modelo, luego necesitas espacio para el contexto.

» autor: tdgwho

#77 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

mcfgdbbn3 — Tue, 28 Jan 2025 15:39:48 +0000

#75: O sea que por cada dos billones de parámetros necesito 1 Gb. ¿no? ¿Es lineal la relación?

» autor: mcfgdbbn3

#76 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Feliberto — Tue, 28 Jan 2025 15:37:59 +0000

Funciona de forma local si tienes 256gb de vram minimo, no te jode

» autor: Feliberto

#75 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

tdgwho — Tue, 28 Jan 2025 15:28:46 +0000

#74 No, es que cuando se habla de "7b" son billones de parámetros. No tiene nada que ver con gigas.

» autor: tdgwho

#74 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

mcfgdbbn3 — Tue, 28 Jan 2025 15:27:39 +0000

#18: Si son gigas serían miles de millones. ¿no?
Lo digo porque 1 Tb permite guardar un billón de datos (entero 8 bits), si son gigas es la milésima parte.

» autor: mcfgdbbn3

#73 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

joffer — Tue, 28 Jan 2025 14:54:10 +0000

#43 Pero si se la instalan 1000 de personas en local...

» autor: joffer

#72 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

sauron34_1 — Tue, 28 Jan 2025 13:48:49 +0000

#58 no, no, que esto es positivo para todos no lo he dudado ni un segundo.

» autor: sauron34_1

#71 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

StarlightHunter.com — Tue, 28 Jan 2025 12:58:33 +0000

#47 El modelo más aceptable para trabajar con CPU ocupa 4.7GB. Entiendo que si, que en una RPi estará complicado, pero los hay más pequeños. Eso sí. No va a ser una conversación precisamente fluida ni coherente.

» autor: StarlightHunter.com

#70 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Alexfighter — Tue, 28 Jan 2025 12:57:52 +0000

#69

» autor: Alexfighter

#69 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

StarlightHunter.com — Tue, 28 Jan 2025 12:53:48 +0000

#52 Claramente. ¿Si no que gracia tiene?

También puedes ejecutar "ramalama; beep ; beep" en la consola

» autor: StarlightHunter.com

#68 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

theM — Tue, 28 Jan 2025 12:47:00 +0000

#63 Toda la razón, de 32GB nada

» autor: theM

#67 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

troll_hdlgp — Tue, 28 Jan 2025 12:45:55 +0000

#38 Si el calculo de es correcto, se necesita la mitad de RAM que de numero de parámetros, así que DS-r1 va a necesitar unos 336Gb de RAM... La tope de gama actual tiene 32GB de RAM, la anterior 24GB y lo que no era un lujo 16GB... creo que los mortales no vamos a poder catar localmente la IA decente

» autor: troll_hdlgp

#66 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Segope — Tue, 28 Jan 2025 12:24:46 +0000

Oops! DeepSeek is experiencing high traffic at the moment. Please check back in a little while.

» autor: Segope

#65 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

--670242-- — Tue, 28 Jan 2025 12:24:28 +0000

Guay, corro a instalarlo en mi 386

» autor: --670242--

#64 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

DiThi — Tue, 28 Jan 2025 12:16:44 +0000

#56 Los distills de 8 y 70B están hechos a partir de llama 3.1 y 3.3 respectivamente. Ollama debería haber incluído los nombres originales de los distills en su nombre.

» autor: DiThi

#63 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

DiThi — Tue, 28 Jan 2025 12:14:37 +0000

#50 Para inferencia necesitas mucho más. Son 37B de parámetros activos por token, y en cada token puede ser diferente. Lo de 37B activos permita que funcione muy rápido en comparación con un modelo denso, pero no te libras de tener que alojar todo el modelo en memoria. La versión más cuantizada que existe (y que funcione!) ocupa 131 gb (solo el modelo, sin contar con el contexto).

» autor: DiThi

#62 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

theM — Tue, 28 Jan 2025 12:11:29 +0000

#59 Correctísimo (aunque funcionan bastante bien). El apunte es porque hoy en día 32GB no me parece muchísima RAM, y en GPU es "asequible" (ejem 2x4060Ti16GB ~1000€)

» autor: theM

#61 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

ralph — Tue, 28 Jan 2025 12:07:18 +0000

#54 Da igual la realidad... más erróneo no puede ser el meneo... pero aquí eso no importa...

» autor: ralph

#60 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

ralph — Tue, 28 Jan 2025 12:06:11 +0000

#56 Me refiero a los distills de deepseek-r1 que usan qwen...

» autor: ralph

#59 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

ralph — Tue, 28 Jan 2025 12:05:37 +0000

#50 A ver, estoy diciendo que el único modelo de Deepseek-R1 es de 671b, todos los demás son "distills" de qwen o llama...

» autor: ralph

#58 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Tarod — Tue, 28 Jan 2025 12:02:07 +0000

#39 Es cierto pero olvidas un parametro. Si DeepSeek es codigo abierto y muchisimo mas barato fuerza a chatgpt a abaratarse o quedarse fuera.

» autor: Tarod

#57 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Lerena — Tue, 28 Jan 2025 11:53:52 +0000

#54 Te puedes descargar la versión completa, pero necesitarás 300Gb de VRAM y pesa 404Gb. En cualquier caso si el modelo es más eficiente tendría que funcionar mejor que otros modelos en local. Parece que en GPT4ALL no funciona. Voy a probar de correrlo en Ollama.

» autor: Lerena

#56 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

--670242-- — Tue, 28 Jan 2025 11:49:14 +0000

#37 qwen 2.5 no tiene modelo de 8 ni 70b...

» autor: --670242--

#55 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

--808874-- — Tue, 28 Jan 2025 11:47:07 +0000

#2 Lo primero, hay que saber usarlos, si dejas la temperatura estándar (suele ser 0.8) se ponen a hiper-pensarlo todo, hay que poner la temperatura MUY baja (0.05).
Lo segundo, esos son modelos qwen y Llama destilados con R1, ese es el tamaño de la meada de cara que se ha marcado China: que se han permitido mejorar hasta otros modelos de origen chino y los modelos de los competidores norteamericanos.
Lo tercero, incluso los modelos destilados son la leche, los modelos de 14b y el de 32b (versiones destiladas de quen 2.5) a 0.05 de temperatura están a la altura de o1, que OpenAI te lo cobra a 200$ AL MES... con límites de uso!.
La única pega que se le puede sacar a los modelos destilados es que son finetunning y no se les puede dar system prompt o se vuelven locos...

» autor: --808874--

#54 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Coronavirus — Tue, 28 Jan 2025 11:26:16 +0000

Los modelos destilados en local no tienen nada que ver con el completo, dejemos de soltar tonterías

» autor: Coronavirus

#53 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Jumbo2 — Tue, 28 Jan 2025 11:26:16 +0000

#52 #angryupvote

» autor: Jumbo2

#52 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Alexfighter — Tue, 28 Jan 2025 11:22:51 +0000

#41 Dime que cuanto terminas de usar Ramalama, hace dindón.

» autor: Alexfighter

#51 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

daphoene — Tue, 28 Jan 2025 11:21:54 +0000

#36 Relativo a la IA, hay dos tipos de consumos distintos:

1. El consumo de entrenar una IA : Altísimo, se requieren cientos o miles de GPUs procesando durante meses.
2. El consumo de preguntar a una IA entrenada: Infinitamente menor, del orden de segundos de proceso, aunque con máquinas caras.

El ahorro sobre el punto 2, a gran escala, se puede notar mucho, pero el gasto energético principal, y para el que imagino que querían conectarse a fuentes potentes y constantes de energía, es el 1.

» autor: daphoene

#50 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

theM — Tue, 28 Jan 2025 11:19:54 +0000

#37 Como es un MoE solo tiene 37b de parámetros activos, para inferencia necesita menos de 32GB de RAM

» autor: theM

#49 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

daphoene — Tue, 28 Jan 2025 11:13:20 +0000

#6 Yo creo que para el uso que se le suele dar, no más que un calefactor puesto unos minutos. Hablando de una instalación normal, que suele ir con un ordenador con fuente de 1000W. Mucha gente usa esos ordenadores para jugar, y tienen alto consumo durante horas, el LLM usando el modelo va a tirarse como mucho unos minutos por pregunta, pero igualmente no va a gastar más que lo que permita la fuente de alimentación.

» autor: daphoene

#48 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

DORO.C — Tue, 28 Jan 2025 11:08:36 +0000

Menudo panfleto sensacionalista El enfoque de DeepSeek es bueno para todos.

» autor: DORO.C

#47 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

camperuso — Tue, 28 Jan 2025 11:06:17 +0000

#41 vamos, que en mi rpi4 me olvido ya del tirón

» autor: camperuso

#46 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

--670242-- — Tue, 28 Jan 2025 10:56:43 +0000

#36 seguro que más...

» autor: --670242--

#45 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

--670242-- — Tue, 28 Jan 2025 10:55:11 +0000

#7 las 4 palabras mágicas que lo joden todo. #32

» autor: --670242--

#44 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

fingulod — Tue, 28 Jan 2025 10:52:51 +0000

#40 Bueno, se pueden detectar si lees el código.

Pero me refería lo de lo "primero lo regalan, luego lo venden".

» autor: fingulod

#43 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

empe — Tue, 28 Jan 2025 10:51:15 +0000

#36 Hablaban de que está IA consumía 100 veces menos recursos.

» autor: empe

#42 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

radon2 — Tue, 28 Jan 2025 10:49:20 +0000

#10 En este vídeo tienes un tutorial de instalación.
youtu.be/Fuzzpcog7tQ?si=rwM4ZBSMtzXxfsMp

» autor: radon2

#41 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

StarlightHunter.com — Tue, 28 Jan 2025 10:49:15 +0000

#10 Sin gráfica, solo con la CPU va bastante bien si tienes al menos 8GB de RAM.

Yo he usado ramalama para probarlo: github.com/containers/ramalama. En el README del repositorio explican como instalar ramalama y como ejecutar un modelo. Cambias ese modelo por cualquiera de los deepseek disponibles en Ollama y te va a funcionar perfectamente a la primera.

Lo que si coincido es que en español es algo limitadillo.

» autor: StarlightHunter.com

#40 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Tumbadito — Tue, 28 Jan 2025 10:48:08 +0000

#31 No, lo que se supone es que puedes adaptar y modificar el código, pero nadie dice que no haya líneas que roben datos como ya pasó con otras compañias.

» autor: Tumbadito

#39 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

sauron34_1 — Tue, 28 Jan 2025 10:43:01 +0000

Se está vendiendo la piel del oso antes de cazarlo. Yo no dudo que DeepSeek sea mejor, ya me lo he bajado y lo estoy probando, pero chatGPT fue el primero y el que ha entrado en el imaginario cultural y desbancar eso va a ser muy complicado.
Así que en unos meses veremos si la alternativa china pasa sin pena no gloria o realmente desbanca a chatGPT.

» autor: sauron34_1

#38 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

ralph — Tue, 28 Jan 2025 10:39:33 +0000

#2 Porque ninguno de esos es realmente "deepseek-r1", sino "distills" (otros modelos que toman algo de deepseek-r1).
Deepseek-r1 es 671b... con lo que necesitas muchísima VRAM/RAM...

» autor: ralph

#37 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

ralph — Tue, 28 Jan 2025 10:38:06 +0000

Errónea!

No existe "deepseek-R1:14b" (ni 1.5b, 7b, 8b, 32b o 70b), es un "distill" de qwen2.5 (o algún otro modelo).

Deepseek-R1 es 671b, por lo que se necesita muchísima VRAM/RAM.

La confusión viene por la puta mierda de ollama y la manera errónea de nombrar a los "distills" de deepseek-r1.

» autor: ralph

#36 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

elTieso — Tue, 28 Jan 2025 10:36:45 +0000

#13 pregunta tonta desde el desconocimiento, ¿los millones de PC ejecutando en local que antes tiraban del centro de datos vía conexión no necesitarán más o menos la misma energía eléctrica?

» autor: elTieso

#35 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

aritzg — Tue, 28 Jan 2025 10:33:48 +0000

#29 en el escritorio en 2025

» autor: aritzg

#34 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Bourée — Tue, 28 Jan 2025 10:32:15 +0000

#1 rizpabani.medium.com/how-to-run-deepseek-r1-locally-with-cursor-in-4-m

» autor: Bourée

#33 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

aritzg — Tue, 28 Jan 2025 10:31:02 +0000

#2 Ese no es el modelo R1 sino destilaciones de LlaMa usando R1. Lo que has probado no es un modelo de razonamiento.

Y decir que DeepSeek R1 funciona en un PC es fliparse mucho. Prácticamente nadie puede ejecutar R1 y las versiones que más o menos se ejecutan en local (en un buen equipo) ya las teníamos antes.

» autor: aritzg

#32 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

AMDK6III — Tue, 28 Jan 2025 10:31:00 +0000

#7 ""pero tendrá que ir a cargo del proyecto ""

Como dirían en "Silicon Valley" , "This guy f*cks"
¡Bravo! ¡Mis dieses!

» autor: AMDK6III

#31 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

fingulod — Tue, 28 Jan 2025 10:30:09 +0000

#25 Se supone que la ventaja que sea soft libre es que eso no puede pasar.

» autor: fingulod

#30 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

merinet — Tue, 28 Jan 2025 10:28:15 +0000

#9 De hecho ya puedes hacerlo, coges privateGPT que es opensource cargas deepseek y lo tienes. También está la versión empresarial, se llama Zylon y encima los mantenedores del proyecto son españoles!

» autor: merinet

#29 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

del_dan — Tue, 28 Jan 2025 10:25:38 +0000

ya estaba llama, y no fué el fin de openIA.

es como decir como está Linux es el final de mac o windows.

» autor: del_dan

#28 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

pitercio — Tue, 28 Jan 2025 10:25:06 +0000

La IA en un diskete

» autor: pitercio

#27 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

g3_g3 — Tue, 28 Jan 2025 10:18:03 +0000

#14 El sensacionalismo atrae a la borregada.

» autor: g3_g3

#26 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

NoPracticante — Tue, 28 Jan 2025 10:16:30 +0000

No lo he probado en local por que mi máquina es cortita pero cuando probé Chatgpt y otros vía web me decepcionaron por que no solo se equivocaban en cosas básicas (quizás por el idioma) sino que insistían en que no se equivocaban.

Con este apenas se equivoca y creo que ha sido más por no entender bien a que me refería que por otra cosa. Y cuando le he indicado que un resultado no era el que me interesaba lo ha corregido bien.

Me parece que los demás si no espabilan se van a quedar atrás.

» autor: NoPracticante

#25 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Tumbadito — Tue, 28 Jan 2025 10:13:09 +0000

#9 La pregunta es... Si de una IA hacemos X IA ¿Cómo se entrena y se retroalimenta con conocimientos la principal? ¿Existe la posibilidad de fuga de datos? ¿Necesito obtener nuevos datos de otros lugares para que la mía no se obsoleta?

En lo personal todas estas cosas al principio me producen recelo, ya pasamos muchas veces por eso del "primero te lo regalan el segundo te lo venden"

» autor: Tumbadito

#24 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Or3 — Tue, 28 Jan 2025 10:12:30 +0000

#23 ¿Qué te dicen las voces? Cuéntame.

» autor: Or3

#23 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Dav3n — Tue, 28 Jan 2025 10:09:14 +0000

#19 Compraste NVIDIA hace un mes?

Es que das unos argumentos superconvincentes...

» autor: Dav3n

#22 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

tdgwho — Tue, 28 Jan 2025 10:08:47 +0000

#17 Si, el tema es que al menos yo, con mi hardware ponía un llama 70B y la cosa era horrible, iba a palabra por minuto así.

Esta, en el 70B son 1 o 2 palabras por segundo. Sigue siendo lento, pero es un buen salto.

Y si bajas a 14B o 32B es muy usable.

» autor: tdgwho

#21 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

kumo — Tue, 28 Jan 2025 10:07:34 +0000

No es el primer modelo de IA que se ejecuta en local. Me parece bastante sensacionalista.

» autor: kumo

#20 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

tdgwho — Tue, 28 Jan 2025 10:07:31 +0000

#14 Pues... yo hace mucho tiempo que no uso nada de openai, he usado claude sonnet con github copilot, y ahora estoy usando deepseek en local...

Fin como tal no, pero que les va a costar seguir vendiendo el pro a 20€ o el superpro a 200€ al mes... eso si.

» autor: tdgwho

#19 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Or3 — Tue, 28 Jan 2025 10:06:08 +0000

Joder "Raja Koduri de AMD" cuando salió de allí por la puerta de atrás para fichar por Intel y que finalmente lo largasen también por inútil. Raja Koduri es el mayor vendedor de humo del que nunca has oído hablar.

Nivelaco el de ese pozo de inmundicia llamado elchapuzasinformatico.

» autor: Or3

#18 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

tdgwho — Tue, 28 Jan 2025 10:04:18 +0000

#10 Puedes usar ollama, ollama.com/ o LM Studio lmstudio.ai/

Pero vas a necesitar no solo gráfica si no espacio de disco y ram, calcula aproximadamente y de forma muy burda que el número de parámetros (7billones, 8 billones ...) es el doble de la ram que necesitas, así que para el de 8b necesitas unos 4,5 o 5gb de ram. Para el de 32 son unos 20gb

Y conforme uses modelos con mas parámetros, aunque quepan en ram, dependerá de tu capacidad de cálculo (la cpu si no tienes gráfica, o la propia gpu)

funcionar va a funcionar muy probablemente, y será inteligente lo uses con una 3060 o una 5090, pero los tokens/segundo (las palabras generadas por segundo, para entendernos) van a ser diferentes y según el modelo lo harán inusable

» autor: tdgwho

#17 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

tamat — Tue, 28 Jan 2025 10:03:47 +0000

Pues lo que ya permite LM Studio con multitud de modelos existentes.

» autor: tamat

#16 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Dav3n — Tue, 28 Jan 2025 10:03:07 +0000

#13 Lo de los minireactores nucleares era la enésima ida de olla capitalista y lo peor es que iban en serio...

» autor: Dav3n

#15 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Dav3n — Tue, 28 Jan 2025 10:01:56 +0000

#10 Ayer leí que si preguntas a DeepSeek te dice qué hardware necesitas para cada modelo y te da el tuto para montarlo, prueba a ver si es cierto

» autor: Dav3n

#14 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Anahera — Tue, 28 Jan 2025 10:00:36 +0000

"El fin de chatgpt" Vaya tela...

» autor: Anahera

#13 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

perrico — Tue, 28 Jan 2025 10:00:14 +0000

En cualquiera de los casos es una noticia genial para el medio ambiente.
Las empresas de IA ya estaban pensando en utilizar centrales nucleares para suministrar energía a las IA.
Centrales nucleares o paneles solares me da igual. Seguia siendo una cantidad de derroche inasumible con semejante gasto.

» autor: perrico

#12 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

alexwing — Tue, 28 Jan 2025 09:58:54 +0000

#10 Tengo una 3060, hay una aplicación llamada LM Studio, en el que puedes instalarte de manera totalmente automatica un porrón de modelos, entre ellos los de DeepSeek.

» autor: alexwing

#11 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

tdgwho — Tue, 28 Jan 2025 09:57:41 +0000

#2 No, incluso el modelo 32B no es una maravilla.

Pero hay que verlo de otro modo, y si pones el 8B o incluso el 1,5B en un home assistant al que solo le pides que ponga alarmas y poco mas?

Luego claro, si quieres mas, yo no bajaría del 70B, aunque eso ya son palabras mayores...

» autor: tdgwho

#10 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Hil014 — Tue, 28 Jan 2025 09:56:59 +0000

#2 tienes tuto por ahí? Con que gráfica?

» autor: Hil014

#9 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

angelitoMagno — Tue, 28 Jan 2025 09:51:43 +0000

Mas que en un PC de escritorio, yo la posibilidad que le veo a esto es instalarlo en un servidor empresarial, entrenarla con todos los datos de la empresa y que los trabajadores la usen como clientes.

Quizás de momento sigue sin funcionar muy bien, pero esta posibilidad tiene unas ventajas de privacidad y control que son bastante potentes.

» autor: angelitoMagno

#8 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Dav3n — Tue, 28 Jan 2025 09:47:37 +0000

#6 Sabes lo relativo que es eso en algunos lugares, verdad?

Conozco a más de uno que en su día tuvo los racks de minería enchufados a la farola más cercana...

Picaresca que le llaman. Aparte hay que tener en cuenta lo que te dé, si la usas para algo laboral y genera beneficios s tu empresa no creo que la factura sea un problema sino un gasto de empresa.

Vamos, que los costes son muy relativos.

» autor: Dav3n

#7 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Magog — Tue, 28 Jan 2025 09:46:17 +0000

#5 no os preocupes, para eso nos tenéis a los de IT respondiendo que vuestros equipos no lo soportan y que si quieren un equipo que lo soporte no hay problema, pero tendrá que ir a cargo del proyecto

» autor: Magog

#6 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

lonnegan — Tue, 28 Jan 2025 09:45:13 +0000

Funciona en local y tira de GPU? algunos van a flipar con el recibo de la luz

» autor: lonnegan

#5 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

ctrl_alt_del — Tue, 28 Jan 2025 09:42:51 +0000

Ahora a aguantar a los gerentes y middle managers dando la chapa para implementar IA en producción porque "en mi portátil funciona"

» autor: ctrl_alt_del

#4 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

pedrobotero — Tue, 28 Jan 2025 09:41:01 +0000

En breve veremos un modelo mas delgado, no es ahora mismo el cuerpo normativo pero...

x.com/DotCSV/status/1883919899170402799

» autor: pedrobotero

#3 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

manbobi — Tue, 28 Jan 2025 09:37:25 +0000

Hay muchos modelos que funcionan en local. Yo tengo varios pero no hago carrera con ellos.

» autor: manbobi

#2 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

alexwing — Tue, 28 Jan 2025 09:35:22 +0000

He probado en local el 8b y 7b y no me ha convencido demasiado, como sustituto digo. En español al menos deja bastante que desear mete palabras de vez en cuando en una especie de spanglish inventado y alucina bastante si le preguntas temas locales.

» autor: alexwing

#1 La IA DeepSeek funciona de forma local en PC, el fin de ChatGPT

Dav3n — Tue, 28 Jan 2025 09:30:49 +0000

"Seems like we are just about to stop giving data to anybody.. Deepseek seems to work great with few handful of PC GPUs at home.. we are excited about what we can do with a quality model that we can control for our daily automation needs.."

x.com/RajaXg/status/1883727718614974933

» autor: Dav3n