Skip to content

DeepSeek को अपने कंप्यूटर में इंस्टॉल करें ​

कंपनी की रीइम्बर्समेंट पॉलिसी, कॉन्ट्रैक्ट, इंटरनल दस्तावेज़ — आप चाहते हैं कि AI आपके लिए उन्हें खोजे, लेकिन उन्हें वेबपेज पर पेस्ट करने में आपको भरोसा नहीं है।

इसका उपाय है कि मॉडल आपके अपने कंप्यूटर पर चले। Ollama की आधिकारिक डॉक्युमेंटेशन इसे सीधे-सीधे लिखती है: लोकल रूप से चलाने पर वे आपके प्रॉम्प्ट्स और डेटा नहीं देख सकते।

पहले देखें कि आपका कंप्यूटर कितना बड़ा मॉडल चला सकता है:

चुनिएआपका ग्राफ़िक्स कार्ड, कितना बड़ा DeepSeek चला सकता है?अनुमानित जानकारी, सटीक के लिए ollama ps देखें
VRAM
मॉडल
VRAM 8 GBअधिकतम पूरा समा सकता है:8b
deepseek-r1:8b ≈ 5.7 GB
$ ollama psNAME SIZE PROCESSORdeepseek-r1:8b 5.7 GB 100% GPU

deepseek-r1:8b पूरा इसमें डाल सकते हैं 8 GB VRAM, सबसे तेज़ चलता है।

सीखने के बाद आपके पास क्या होगा ​

आपके कंप्यूटर पर चलने वाला एक DeepSeek, और आपकी अपनी फ़ाइलों से बना एक नॉलेज बेस: इससे पूछें “क्या बिज़नेस ट्रिप में टैक्सी का खर्च रीइम्बर्स होता है”, तो यह आपकी पॉलिसी फ़ाइलों में से वह वाक्य ढूंढेगा और फिर जवाब देगा; जो फ़ाइल में लिखा नहीं है, वह कहेगा कि लिखा नहीं है।

इस कोर्स की हर कमांड, हर आउटपुट एक असली मशीन पर चलाया गया है: Ubuntu, RTX 4080 SUPER 16 GB, Ollama 0.40.16।

इस कोर्स का रोडमैप ​

चरणपाठआप यह कर पाएंगे
शुरुआतलोकल डिप्लॉयमेंट क्या हैपता होगा कि कौन सी कॉन्फ़िगरेशन चाहिए और वेब संस्करण से क्या अंतर है
Ollama इंस्टॉल करेंटर्मिनल में ollama -v से वर्ज़न नंबर प्रिंट करें
DeepSeek-R1 चलाएंलोकल DeepSeek से बातचीत करें
इसे अच्छे से इस्तेमाल करेंकितना बड़ा मॉडल चुनेंVRAM के अनुसार साइज़ चुनें
API से कॉल करेंcurl और OpenAI-संगत API से लोकल मॉडल को कॉल करें
आम समस्याएंमॉडल कहां सेव होता है, जगह बदलें, LAN एक्सेस
DeepSeek V4 क्या लोकली चल सकता हैV4 / V4.1 को कितनी मेमोरी चाहिए, और Ollama पर केवल क्लाउड संस्करण ही क्यों है
नॉलेज बेसअपना खुद का नॉलेज बेस बनाएंअपनी फ़ाइलों से प्रश्नोत्तर करें

शुरू करने से पहले ​

  • एक कंप्यूटर: Windows 10 22H2 या उससे नया, या macOS Sonoma (14) या उससे नया, या Linux
  • एक अलग GPU होना सबसे अच्छा है; न हो तो भी छोटे मॉडल चलाए जा सकते हैं, बस धीमे चलेंगे
  • हार्ड ड्राइव पर कम से कम दस-बीस GB खाली रखें: Ollama खुद और एक 8b मॉडल (5.2 GB)

अगला कदम ​

लोकल डिप्लॉयमेंट क्या है से शुरू करें।

gaodong.aiAboutPrivacyContact

Independent tutorials, not affiliated with any product mentioned. Product names and trademarks belong to their owners. Check official pages for prices and policies.