क्या DeepSeek V4 अपने कंप्यूटर पर चलाया जा सकता है
शियाओलिन ने इस कोर्स का पालन करते हुए अपने 16 GB ग्राफ़िक्स कार्ड पर deepseek-r1:8b चला लिया। कुछ दिनों बाद उसने खबर देखी कि DeepSeek V4.1 तक आ चुका है, और ऑनलाइन कुछ लेखों में लिखा था कि "8 GB ग्राफ़िक्स कार्ड से ही V4.1 चल सकता है"। उसने Ollama खोलकर deepseek सर्च किया और deepseek-v4.1-flash मिला, लेकिन उसका टैग cloud था।
पहले आँकलन करें:
आपकी परीक्षाशियाओ लिन ollama run deepseek-v4.1-flash:cloud चलाता है, उसका सवाल कहाँ प्रोसेस होता है?
DeepSeek V4 और V4.1 के वेट ओपन-सोर्स हैं, लेकिन मॉडल बहुत बड़े हैं, जिन्हें घरेलू कंप्यूटर पर फ़िट नहीं किया जा सकता। LM Studio ने आधिकारिक रूप से कहा है कि V4-Flash के लिए कम से कम 156 GB RAM चाहिए; Ollama पर V4 सीरीज़ केवल क्लाउड संस्करण में उपलब्ध है। DeepSeek को अपने कंप्यूटर पर लोकली चलाना चाहते हैं, तो फ़िलहाल उपयोग करने योग्य विकल्प अभी भी deepseek-r1 का छोटा साइज़ ही है।
कोर्स पूरा करने के बाद आप क्या कर सकेंगे
- समझा सकें कि DeepSeek V4 सीरीज़ में कौन-कौन से मॉडल हैं और हर एक कितना बड़ा है
- Ollama पर
:cloudमॉडल और लोकल मॉडल के अंतर को पहचान सकें - तय कर सकें कि आपका कंप्यूटर क्या चलाना चाहिए
DeepSeek अभी कहाँ तक पहुँचा है
DeepSeek की आधिकारिक News की टाइमलाइन के अनुसार (R2 शामिल नहीं है):
| तारीख़ | रिलीज़ | आधिकारिक रूप से बताया गया साइज़ |
|---|---|---|
| 2026-04-24 | V4 प्रीव्यू संस्करण, ओपन-सोर्स | V4-Pro कुल पैरामीटर 1.6T, एक्टिवेटेड 49B; V4-Flash कुल पैरामीटर 284B, एक्टिवेटेड 13B |
| 2026-08-13 | V4-Pro आधिकारिक संस्करण | रीज़निंग इंटेंसिटी low / high / max में विभाजित |
| 2026-09-10 | V4.1-Flash, नेटिव इमेज व्यूइंग | 552B पैरामीटर वाला MoE; इनपुट एक्टिवेशन 8B, आउटपुट एक्टिवेशन 16B |
| 2026-10-17 | V4.1-Flash-1017, Hugging Face और ModelScope पर ओपन-सोर्स, MIT लाइसेंस | ऊपर के समान |
V4.1-Flash के रिलीज़ होने पर, आधिकारिक API पर V4-Flash पहले ही बंद हो चुका था। और जिस deepseek-r1 का इस कोर्स में लगातार उपयोग हो रहा था, वह Ollama मॉडल लाइब्रेरी में "1 year ago" दिखा रहा है।
V4.1-Flash के पैरामीटर संख्या को लेकर दो मत हैं, ध्यान रखें: DeepSeek की खबर में 552B लिखा है, Hugging Face पर V4.1-Flash-1017 की वेट फ़ाइलों के आँकड़े के अनुसार 763,205,315,794 पैरामीटर (लगभग 763B) हैं, और Ollama पेज पर भी 763B लिखा है। यह अंतर कहाँ से आया, आधिकारिक रूप से कुछ नहीं बताया गया है।
- मुझे पता है कि DeepSeek का नवीनतम V4 / V4.1 सीरीज़ है, R2 नहीं
Ollama पर V4 क्यों केवल क्लाउड संस्करण हैं
Ollama पर deepseek खोजने पर, V4 सीरीज़ के दोनों मॉडलों पर केवल cloud टैग किया गया है:
| मॉडल | उपलब्ध टैग | विवरण |
|---|---|---|
deepseek-v4.1-flash | :cloud, :1017-cloud | 1M संदर्भ, टेक्स्ट और इमेज इनपुट |
deepseek-v4-pro | केवल क्लाउड संस्करण | 1M संदर्भ |
चलाने का तरीका है:
ollama run deepseek-v4.1-flash:cloudआपको यह देखना चाहिए: कई सौ GB की फ़ाइलें डाउनलोड नहीं होंगी, क्योंकि Ollama की आधिकारिक डॉक्युमेंटेशन के अनुसार क्लाउड मॉडल डाउनलोड की ज़रूरत नहीं रखते। शर्त यह है कि पहले Ollama खाते में लॉगिन करें (ollama signin, या Mac, Windows ऐप के सेटिंग्स पेज पर लॉगिन करें); मॉडल पेज पर प्रति मिलियन token के अनुसार कीमत लगती है, जितना उपयोग उतना भुगतान।
क्लाउड संस्करण और लोकल संस्करण में सबसे बड़ा अंतर निजता में है:
deepseek-r1:8b (लोकल) | deepseek-v4.1-flash:cloud (क्लाउड) | |
|---|---|---|
| इन्फ़ेरेंस कहाँ होता है | आपका GPU | Ollama की क्लाउड सेवा |
| आपका प्रश्न | आपके कंप्यूटर पर ही रहता है | Ollama की सेवा से होकर गुजरता है |
| किस हार्डवेयर की ज़रूरत है | VRAM में 5.2 GB की फ़ाइल समा जाए | अच्छी ग्राफ़िक्स कार्ड की ज़रूरत नहीं |
| क्या खाता चाहिए | नहीं | Ollama खाते में लॉगिन करना पड़ता है |
Ollama आधिकारिक रूप से कहता है कि वह परिणाम देने के लिए क्लाउड पर भेजे गए प्रश्नों और उत्तरों को प्रोसेस करता है, लेकिन उन्हें मॉडल ट्रेनिंग में इस्तेमाल नहीं करता। अगर आप लोकल डिप्लॉयमेंट इसीलिए कर रहे हैं कि डेटा कंप्यूटर से बाहर न जाए, तो :cloud मॉडल का इस्तेमाल न करें; अक्सर पूछे जाने वाले सवाल में दिए तरीके से क्लाउड फ़ीचर बंद करने पर :cloud मॉडल भी इस्तेमाल नहीं हो पाएगा।
- मैं पहचान सकता/सकती हूँ कि जब किसी मॉडल के नाम में
:cloudहोता है, तो वह मेरे कंप्यूटर पर नहीं चलता
अगर सच में V4 को लोकल चलाना है, तो किस हार्डवेयर की ज़रूरत है
आधिकारिक सामग्री में मिलने वाले आँकड़े सिर्फ़ इतने ही हैं:
खोजेंमैं लोकली चलाना चाहता/चाहती हूँ……
एक पर क्लिक करके देखें।
इंटरनेट पर "8 GB ग्राफ़िक्स कार्ड से V4.1 चलाना" जैसे दावे ऊपर दी गई किसी भी आधिकारिक सामग्री में आधार नहीं रखते। पैरामीटर और भी कम रखने वाले V4-Flash (284B) के लिए भी LM Studio आधिकारिक रूप से कम से कम 156 GB RAM बताता है।
- मैं जानता/जानती हूँ कि V4-Flash को लोकल चलाने के लिए कम से कम 156 GB RAM चाहिए
घरेलू कंप्यूटर के लिए कैसे चुनें
पिछली बातों को जोड़कर:
डेटा ज़रूरी रूप से कंप्यूटर पर ही रहे: deepseek-r1 का छोटा साइज़ इस्तेमाल करें, और कितने बड़ा मॉडल चुनें के हिसाब से वह चुनें जो पूरा VRAM में समा जाए।
नए V4.1 का इस्तेमाल करना चाहते हैं और प्रश्नों का क्लाउड पर जाना मंज़ूर है:
deepseek-v4.1-flash:cloudइस्तेमाल करें, या सीधे DeepSeek की आधिकारिक वेबसाइट और API का इस्तेमाल करें।आपके पास 156 GB RAM से ज़्यादा वाली मशीन है: LM Studio के ब्लॉग के मुताबिक V4-Flash को लोकल चलाने की कोशिश कर सकते हैं। इस पाठ में इसका परीक्षण नहीं किया गया है।
मैंने अपनी परिस्थिति के हिसाब से एक रास्ता चुन लिया है
चेकपॉइंट
- मैं बता सकता/सकती हूँ कि V4-Flash और V4-Pro के कुल पैरामीटर कितने हैं (284B, 1.6T)
- मैं जानता/जानती हूँ कि Ollama पर V4 सीरीज़ का सिर्फ़
:cloudवर्शन है, जिसमें खाते में लॉगिन करना पड़ता है और token के हिसाब से बिलिंग होती है - मैं जानता/जानती हूँ कि
:cloudमॉडल इस्तेमाल करते समय प्रश्न Ollama की सेवा से होकर गुजरता है - मैं जानता/जानती हूँ कि 16 GB ग्राफ़िक्स कार्ड पर लोकल चलाने लायक मॉडल deepseek-r1 का छोटा साइज़ है
आम गलतफहमियाँ
सोचना कि "ओपन-सोर्स" का मतलब ही यह है कि "मैं इसे अपने कंप्यूटर पर चला सकता हूँ"। V4 और V4.1 के वेट वाकई ओपन-सोर्स हैं, कोई भी डाउनलोड कर सकता है, लेकिन V4-Flash को लोकल चलाने के लिए कम से कम 156 GB मेमोरी चाहिए। ओपन-सोर्स का मतलब है कि वेट मिल जाते हैं, यह नहीं कि हार्डवेयर की माँग कम हो।
सोचना कि Ollama में जो भी चलता है वह सब लोकल मॉडल है। नाम :cloud से खत्म होने वाले मॉडल Ollama के क्लाउड पर चलते हैं, वे आपकी मशीन पर डाउनलोड नहीं होते। कोर्स में पहले कही गई बात कि "लोकल चलाने पर वे आपके प्रॉम्प्ट नहीं देख सकते", सिर्फ लोकल मॉडलों के लिए सही है।
सोचना कि एक्टिवेटेड पैरामीटर छोटे हैं तो VRAM काफी होगी। V4-Flash की आधिकारिक स्पेसिफिकेशन में कुल पैरामीटर 284B और एक्टिवेटेड 13B लिखा है। LM Studio इस मॉडल के लिए कम से कम 156 GB सिस्टम मेमोरी की बात करता है, यह 13B के आधार पर आँका गया नंबर नहीं है।
अगला सेक्शन
लोकल चलाने लायक मॉडल चुन लिया, अब उससे अपना खुद का नॉलेज बेस बनाएँ: अपना खुद का नॉलेज बेस बनाएँ।