Skip to content

Qué tamaño de modelo elegir ​

El más grande que quepa por completo en la memoria de vídeo es el que debes elegir. Si cabe en la memoria de vídeo, corre más rápido; si no cabe, también puede correr, pero una parte se pasa a la memoria RAM y se calcula con la CPU, mucho más lento.

Prueba primero con tu memoria de vídeo:

Elige¿Qué tan grande es el DeepSeek que puede ejecutar tu tarjeta gráfica?Estimación aproximada, ollama ps es la referencia
Memoria de vídeo
Modelo
Memoria de vídeo 8 GBEl máximo que cabe entero:8b
deepseek-r1:8b ≈ 5.7 GB
$ ollama psNAME SIZE PROCESSORdeepseek-r1:8b 5.7 GB 100% GPU

deepseek-r1:8b Se puede poner entero en 8 GB de VRAM, la opción más rápida.

Qué podrás hacer al terminar ​

  • Decir el tamaño de archivo de cada tamaño de DeepSeek-R1
  • Elegir un tamaño según tu memoria de vídeo
  • Confirmar con ollama ps si la elección es correcta

Cuánto pesa cada tamaño ​

Tamaños de deepseek-r1 en la biblioteca de modelos de Ollama (ollama run deepseek-r1:<尺寸>):

TamañoTamaño de archivoLongitud de contexto
1.5b1.1 GB128K
7b4.7 GB128K
8b5.2 GB128K
14b9.0 GB128K
32b20 GB128K
70b43 GB128K
671b404 GB160K

Si ejecutas ollama run deepseek-r1 sin indicar el tamaño, lo que obtienes es latest, cuyo tamaño de archivo es el mismo que el de 8b, es decir 5.2 GB.

La "b" significa mil millones de parámetros. Cuanto mayor el tamaño, en general mejores las respuestas, y también consume más memoria de vídeo.

  • Sé cuánto pesa el archivo del tamaño que quiero probar

Cómo saber si cabe ​

Una vez cargado, el modelo ocupa un poco más de memoria de vídeo que el archivo. Probamos el 8b: el archivo pesa 5.2 GB y ollama ps muestra 5.6 GB. Así que, en términos aproximados, la memoria de vídeo debe ser bastante mayor que el archivo. La pequeña herramienta de arriba calcula según esta aproximación.

La respuesta real está en la columna PROCESSOR de ollama ps:

Lo que muestraSignificado
100% GPUTodo en la tarjeta gráfica, lo más rápido
48%/52% CPU/GPU Asíuna parte está en la memoria RAM y otra en la tarjeta gráfica, será más lento
100% CPUTodo en la memoria RAM, calculado con la CPU, lo más lento

Si no es 100% GPU, prueba con un tamaño más pequeño.

BuscarMi tarjeta gráfica es…

Toca uno para ver.

  • Ya elegí un tamaño y lo comprobé con ollama ps

Puntos de control ​

  • Sé el tamaño de archivo de cada tamaño
  • Sé que la memoria de vídeo debe ser bastante mayor que el archivo
  • Sé mirar la columna PROCESSOR para saber si está todo en la tarjeta gráfica

Malentendidos frecuentes ​

Pensar que cuanto mayor el tamaño, mejor. Un modelo grande que no cabe en la memoria de vídeo será mucho más lento. Empieza con el tamaño más grande que quepa.

Podría pensarse que la R1 de esta página es el modelo más reciente de DeepSeek. Los más recientes son las series V4 / V4.1, pero un ordenador doméstico no puede albergarlas, y en Ollama solo existe la versión en la nube; véase¿Se puede ejecutar DeepSeek V4 en local?. Lo que sí se puede ejecutar en local sigue siendo estos tamaños de R1 indicados arriba.

Pensar que latest es la versión más grande. En este modelo, latest pesa lo mismo que 8b, es decir 5.2 GB.

Siguiente sección ​

Llamar a un modelo local mediante una interfaz.

gaodong.aiAboutPrivacyContact

Independent tutorials, not affiliated with any product mentioned. Product names and trademarks belong to their owners. Check official pages for prices and policies.