Skip to content

परिवेश और मॉडल तैयार करें ​

यह सेक्शन पूरा करने पर, आपके कंप्यूटर पर डिपेंडेंसियों के साथ एक Python एनवायरनमेंट, एक टूल कॉल करने में सक्षम मॉडल होगा, और आप जानेंगे कि तीन एनवायरनमेंट वेरिएबल से अलग-अलग मॉडलों के बीच कैसे स्विच करें।

1. Python एनवायरनमेंट ​

Python 3.10 या उससे ऊपर चाहिए। एक वर्चुअल एनवायरनमेंट बनाएँ और दो लाइब्रेरियाँ इंस्टॉल करें:

bash
python3 -m venv .venv
source .venv/bin/activate        # Windows:.venv\Scripts\activate
pip install openai mcp
  • openai: मॉडल कॉल करने के लिए। इसका नाम openai है, लेकिन यह किसी भी "OpenAI-संगत" इंटरफ़ेस से जुड़ सकता है, और घरेलू अधिकांश मॉडल सेवाएँ संगत हैं।
  • mcp: तीसरे चरण में MCP सर्वर और क्लाइंट लिखने के लिए।

हम जो वर्शन उपयोग करते हैं: openai 3.57.0, mcp 2.3.0।

2. एक मॉडल चुनें ​

Agent के लिए ज़रूरी है कि मॉडल टूल कॉलिंग (tool calling / function calling) को सपोर्ट करता हो। दो रास्ते हैं, एक चुनें:

खोजेंमैं …… उपयोग करना चाहता/चाहती हूँ

एक पर क्लिक करके देखें।

इस कोर्स का सारा कोड तीन एनवायरनमेंट वेरिएबल से कॉन्फ़िगरेशन पढ़ता है, और डिफ़ॉल्ट मान स्थानीय Ollama ही है:

एनवायरनमेंट वेरिएबलस्थानीय Ollamaक्लाउड
AGENT_BASE_URLhttp://localhost:11434/v1 (डिफ़ॉल्ट)सेवा प्रदाता द्वारा दिया गया इंटरफ़ेस पता
AGENT_API_KEYollama (डिफ़ॉल्ट, कुछ भी भरें)आपकी API Key
AGENT_MODELqwen3:8b (डिफ़ॉल्ट)सेवा प्रदाता का मॉडल नाम

क्लाउड मॉडल उपयोग करते समय, टर्मिनल में पहले सेट कर लें (macOS / Linux):

bash
export AGENT_BASE_URL="服务商给的地址"
export AGENT_API_KEY="你的 key"
export AGENT_MODEL="模型名"

API Key को कोड में न लिखें, और Git में कभी कमिट न करें।

3. पहले पुष्टि करें कि कनेक्शन चल रहा है ​

नीचे दिए कोड को hello.py के रूप में सेव करके चलाएँ:

python
import os
from openai import OpenAI

client = OpenAI(base_url=os.environ.get("AGENT_BASE_URL", "http://localhost:11434/v1"),
                api_key=os.environ.get("AGENT_API_KEY", "ollama"))
resp = client.chat.completions.create(
    model=os.environ.get("AGENT_MODEL", "qwen3:8b"),
    messages=[{"role": "user", "content": "用一句话介绍你自己"}])
print(resp.choices[0].message.content)

आपको मॉडल का एक परिचय वाक्य जवाब में दिखना चाहिए।

एरर Using SOCKS proxy, but the 'socksio' package is not installed

आपके टर्मिनल में SOCKS प्रॉक्सी सेट है (एनवायरनमेंट वेरिएबल ALL_PROXY जैसे), तो openai लाइब्रेरी प्रॉक्सी से जाने की कोशिश करेगी। दो तरीके: घरेलू सेवा या अपने मशीन के Ollama से जुड़ने के लिए प्रॉक्सी ज़रूरी नहीं, तो चलाने से पहले उसे हटा दें, जैसे env -u ALL_PROXY -u all_proxy python hello.py; अगर सच में प्रॉक्सी चाहिए, तो pip install "httpx[socks]"। इस कोर्स लिखते समय हमें भी यही एरर मिला था।

आपकी परीक्षाopenai लाइब्रेरी का उपयोग करते हुए भी DeepSeek, टोंगई क़ियानवेन (Qwen) या लोकल Ollama को कैसे कॉल कर सकते हैं?

जाँच लें ​

  • pip list में openai और mcp हैं
  • मैंने मॉडल चुन लिया है, और मुझे पता है कि तीन environment variables कैसे भरने हैं
  • hello.py ने मॉडल का उत्तर प्रिंट किया

अगले सेक्शन में हाथ से करें: मॉडल को एक function call करवाएं।

gaodong.aiAboutPrivacyContact

Independent tutorials, not affiliated with any product mentioned. Product names and trademarks belong to their owners. Check official pages for prices and policies.