Qué tamaño de modelo elegir
El más grande que quepa por completo en la memoria de vídeo es el que debes elegir. Si cabe en la memoria de vídeo, corre más rápido; si no cabe, también puede correr, pero una parte se pasa a la memoria RAM y se calcula con la CPU, mucho más lento.
Prueba primero con tu memoria de vídeo:
$ ollama psNAME SIZE PROCESSORdeepseek-r1:8b 5.7 GB 100% GPUdeepseek-r1:8b Se puede poner entero en 8 GB de VRAM, la opción más rápida.
Qué podrás hacer al terminar
- Decir el tamaño de archivo de cada tamaño de DeepSeek-R1
- Elegir un tamaño según tu memoria de vídeo
- Confirmar con
ollama pssi la elección es correcta
Cuánto pesa cada tamaño
Tamaños de deepseek-r1 en la biblioteca de modelos de Ollama (ollama run deepseek-r1:<尺寸>):
| Tamaño | Tamaño de archivo | Longitud de contexto |
|---|---|---|
| 1.5b | 1.1 GB | 128K |
| 7b | 4.7 GB | 128K |
| 8b | 5.2 GB | 128K |
| 14b | 9.0 GB | 128K |
| 32b | 20 GB | 128K |
| 70b | 43 GB | 128K |
| 671b | 404 GB | 160K |
Si ejecutas ollama run deepseek-r1 sin indicar el tamaño, lo que obtienes es latest, cuyo tamaño de archivo es el mismo que el de 8b, es decir 5.2 GB.
La "b" significa mil millones de parámetros. Cuanto mayor el tamaño, en general mejores las respuestas, y también consume más memoria de vídeo.
- Sé cuánto pesa el archivo del tamaño que quiero probar
Cómo saber si cabe
Una vez cargado, el modelo ocupa un poco más de memoria de vídeo que el archivo. Probamos el 8b: el archivo pesa 5.2 GB y ollama ps muestra 5.6 GB. Así que, en términos aproximados, la memoria de vídeo debe ser bastante mayor que el archivo. La pequeña herramienta de arriba calcula según esta aproximación.
La respuesta real está en la columna PROCESSOR de ollama ps:
| Lo que muestra | Significado |
|---|---|
100% GPU | Todo en la tarjeta gráfica, lo más rápido |
48%/52% CPU/GPU Así | una parte está en la memoria RAM y otra en la tarjeta gráfica, será más lento |
100% CPU | Todo en la memoria RAM, calculado con la CPU, lo más lento |
Si no es 100% GPU, prueba con un tamaño más pequeño.
BuscarMi tarjeta gráfica es…
Toca uno para ver.
- Ya elegí un tamaño y lo comprobé con
ollama ps
Puntos de control
- Sé el tamaño de archivo de cada tamaño
- Sé que la memoria de vídeo debe ser bastante mayor que el archivo
- Sé mirar la columna
PROCESSORpara saber si está todo en la tarjeta gráfica
Malentendidos frecuentes
Pensar que cuanto mayor el tamaño, mejor. Un modelo grande que no cabe en la memoria de vídeo será mucho más lento. Empieza con el tamaño más grande que quepa.
Podría pensarse que la R1 de esta página es el modelo más reciente de DeepSeek. Los más recientes son las series V4 / V4.1, pero un ordenador doméstico no puede albergarlas, y en Ollama solo existe la versión en la nube; véase¿Se puede ejecutar DeepSeek V4 en local?. Lo que sí se puede ejecutar en local sigue siendo estos tamaños de R1 indicados arriba.
Pensar que latest es la versión más grande. En este modelo, latest pesa lo mismo que 8b, es decir 5.2 GB.