DeepSeek को अपने कंप्यूटर में इंस्टॉल करें
कंपनी की रीइम्बर्समेंट पॉलिसी, कॉन्ट्रैक्ट, इंटरनल दस्तावेज़ — आप चाहते हैं कि AI आपके लिए उन्हें खोजे, लेकिन उन्हें वेबपेज पर पेस्ट करने में आपको भरोसा नहीं है।
इसका उपाय है कि मॉडल आपके अपने कंप्यूटर पर चले। Ollama की आधिकारिक डॉक्युमेंटेशन इसे सीधे-सीधे लिखती है: लोकल रूप से चलाने पर वे आपके प्रॉम्प्ट्स और डेटा नहीं देख सकते।
पहले देखें कि आपका कंप्यूटर कितना बड़ा मॉडल चला सकता है:
$ ollama psNAME SIZE PROCESSORdeepseek-r1:8b 5.7 GB 100% GPUdeepseek-r1:8b पूरा इसमें डाल सकते हैं 8 GB VRAM, सबसे तेज़ चलता है।
सीखने के बाद आपके पास क्या होगा
आपके कंप्यूटर पर चलने वाला एक DeepSeek, और आपकी अपनी फ़ाइलों से बना एक नॉलेज बेस: इससे पूछें “क्या बिज़नेस ट्रिप में टैक्सी का खर्च रीइम्बर्स होता है”, तो यह आपकी पॉलिसी फ़ाइलों में से वह वाक्य ढूंढेगा और फिर जवाब देगा; जो फ़ाइल में लिखा नहीं है, वह कहेगा कि लिखा नहीं है।
इस कोर्स की हर कमांड, हर आउटपुट एक असली मशीन पर चलाया गया है: Ubuntu, RTX 4080 SUPER 16 GB, Ollama 0.40.16।
इस कोर्स का रोडमैप
| चरण | पाठ | आप यह कर पाएंगे |
|---|---|---|
| शुरुआत | लोकल डिप्लॉयमेंट क्या है | पता होगा कि कौन सी कॉन्फ़िगरेशन चाहिए और वेब संस्करण से क्या अंतर है |
| Ollama इंस्टॉल करें | टर्मिनल में ollama -v से वर्ज़न नंबर प्रिंट करें | |
| DeepSeek-R1 चलाएं | लोकल DeepSeek से बातचीत करें | |
| इसे अच्छे से इस्तेमाल करें | कितना बड़ा मॉडल चुनें | VRAM के अनुसार साइज़ चुनें |
| API से कॉल करें | curl और OpenAI-संगत API से लोकल मॉडल को कॉल करें | |
| आम समस्याएं | मॉडल कहां सेव होता है, जगह बदलें, LAN एक्सेस | |
| DeepSeek V4 क्या लोकली चल सकता है | V4 / V4.1 को कितनी मेमोरी चाहिए, और Ollama पर केवल क्लाउड संस्करण ही क्यों है | |
| नॉलेज बेस | अपना खुद का नॉलेज बेस बनाएं | अपनी फ़ाइलों से प्रश्नोत्तर करें |
शुरू करने से पहले
- एक कंप्यूटर: Windows 10 22H2 या उससे नया, या macOS Sonoma (14) या उससे नया, या Linux
- एक अलग GPU होना सबसे अच्छा है; न हो तो भी छोटे मॉडल चलाए जा सकते हैं, बस धीमे चलेंगे
- हार्ड ड्राइव पर कम से कम दस-बीस GB खाली रखें: Ollama खुद और एक 8b मॉडल (5.2 GB)
अगला कदम
लोकल डिप्लॉयमेंट क्या है से शुरू करें।