ما هو تشغيل النماذج الكبيرة محليًا
التشغيل المحلي يعني تنزيل النموذج الكبير إلى حاسوبك أنت وتشغيله عليه. كل ما تقوله له والملفات التي تعطيها له تُعالج داخل حاسوبك، دون إرسالها إلى خوادم الآخرين.
لا نثبّت أي شيء في هذا القسم.
ماذا ستستطيع أن تفعل بعد التعلم
- أن تشرح الفرق بين التشغيل المحلي ونسخة الويب
- أن تعرف ما وظيفة Ollama
- أن تحدد ما إذا كان حاسوبك كافيًا
ما الفرق عن نسخة الويب
| ذكاء اصطناعي نسخة الويب | تشغيل محلي | |
|---|---|---|
| أين يعمل النموذج | خوادم مزود الخدمة | حاسوبك |
| أوامرك (prompts) والملفات | تُرسل إلى مزود الخدمة | تبقى على جهازك |
| تعتمد السرعة على | الشبكة ومزود الخدمة | كرت الشاشة لديك |
| ما حجم النموذج الذي يمكنك استخدامه | أفضل ما لدى مزود الخدمة | ما يتسع في ذاكرة كرتك |
ما تكسبه من التشغيل المحلي هو بقاء البيانات في يدك، والثمن هو أن حجم النموذج محدود بكرت الشاشة.
ما هو Ollama
Ollama هو أداة لتنزيل النماذج الكبيرة وتشغيلها على حاسوبك. بعد تثبيته، يكفي أمر واحد لتنزيل نموذج وبدء الحوار، كما يفتح واجهة على جهازك المحلي (http://localhost:11434) تمكّن البرامج الأخرى من استدعائه أيضًا.
بخصوص الخصوصية، النص الحرفي في الأسئلة الشائعة الرسمية لـ Ollama هو: يعمل Ollama محليًا، وعند التشغيل المحلي لا يمكنهم رؤية أوامرك (prompts) وبياناتك. لكن انتبه: يوفر Ollama أيضًا نماذج سحابية، وعند استخدامها تمر أوامرك (prompts) عبر خدمتهم. إذا استخدمت النماذج المحلية فقط، يمكنك إيقاف ميزة السحابة من الإعدادات، انظر الأسئلة الشائعة.
اختبر معرفتكتشغّل deepseek-r1:8b محليًا باستخدام Ollama، وطرحت سؤالًا عن نظام داخلي. هل سيُرسل هذا النظام إلى خوادم Ollama؟
- أستطيع أن أذكر أكبر فرق بين التشغيل المحلي ونسخة الويب
هل حاسوبي كافٍ
متطلبات النظام الرسمية:
| النظام | المتطلبات |
|---|---|
| Windows | Windows 10 22H2 أو أحدث، الإصدار المنزلي أو الاحترافي؛ تعريف كرت شاشة NVIDIA 551.61 أو أحدث |
| macOS | Sonoma (14) أو أحدث؛ مع رقائق Apple من سلسلة M يمكن استخدام CPU و GPU معًا، أما رقائق Intel فتستخدم CPU فقط |
| كرت الشاشة | تتطلب كروت NVIDIA قدرة حسابية 5.0 فأعلى وتعريفًا 550 أو أحدث؛ كما تُدعم بعض كروت AMD Radeon |
ما يحدد فعلًا حجم النموذج الذي يمكنك تشغيله هو ذاكرة كرت الشاشة. يكون التشغيل أسرع عندما يتسع النموذج كاملًا في ذاكرة الكرت؛ وإذا لم يتسع، ينقل Ollama جزءًا منه إلى الذاكرة العشوائية ويحسب بواسطة CPU، ويعمل أيضًا لكن أبطأ بكثير. الأداة الصغيرة في صفحة الدرس الرئيسية تتيح تقديرًا تقريبيًا حسب ذاكرة كرتك، ويُشرح ذلك بالتفصيل في قسم اختيار حجم النموذج.
- أعرف كم تبلغ ذاكرة كرت الشاشة لدي
نقاط التحقق
- أستطيع أن أشرح التشغيل المحلي في جملة واحدة: النموذج يعمل على حاسوبي، والبيانات تبقى على جهازي
- أعرف أن Ollama يستخدم لتنزيل النماذج وتشغيلها، وأنه يفتح واجهة محلية أيضًا
- أعرف أن ذاكرة كرت الشاشة تحدد حجم النموذج القابل للتشغيل
مفاهيم خاطئة شائعة
الظن بأن التشغيل المحلي يمكنه تشغيل نسخة DeepSeek الكاملة. نموذج deepseek-r1 على Ollama متوفر بأحجام متعددة من 1.5b إلى 671b، وملف نسخة 671b يبلغ 404 GB، وهو أكبر من أن يتسع في حاسوب عادي. الكروت المنزلية تشغّل النسخ ذات الأحجام الصغيرة.
أحدث نماذج DeepSeek أصبحت بالفعل من سلسلة V4 / V4.1، بينما deepseek-r1 على Ollama هو نموذج عمره سنة. لكن سلسلة V4 على Ollama تتوفر فقط بنسخة سحابية (يحتوي اسمها على :cloud)، وعند استخدامها تُرسل التعليمات إلى السحابة؛ ويقول LM Studio إن تشغيل V4-Flash محليًا يتطلب ذاكرة بسعة 156 GB على الأقل. لذلك ما يمكن تشغيله محليًا على أجهزة الكمبيوتر المنزلية لا يزال هو الأحجام الصغيرة من deepseek-r1، وللتفاصيل راجع هل يمكن تشغيل DeepSeek V4 محليًا.
الاعتقاد بأن استخدام Ollama يعني بالضرورة عدم الاتصال بالإنترنت. تنزيل النماذج يتطلب اتصالًا بالإنترنت؛ كما توفر Ollama نماذج سحابية. فقط عند استخدام النماذج المحلية حصريًا وتعطيل ميزات السحابة تبقى البيانات بالكامل على جهازك.