परिवेश और मॉडल तैयार करें
यह सेक्शन पूरा करने पर, आपके कंप्यूटर पर डिपेंडेंसियों के साथ एक Python एनवायरनमेंट, एक टूल कॉल करने में सक्षम मॉडल होगा, और आप जानेंगे कि तीन एनवायरनमेंट वेरिएबल से अलग-अलग मॉडलों के बीच कैसे स्विच करें।
1. Python एनवायरनमेंट
Python 3.10 या उससे ऊपर चाहिए। एक वर्चुअल एनवायरनमेंट बनाएँ और दो लाइब्रेरियाँ इंस्टॉल करें:
python3 -m venv .venv
source .venv/bin/activate # Windows:.venv\Scripts\activate
pip install openai mcpopenai: मॉडल कॉल करने के लिए। इसका नाम openai है, लेकिन यह किसी भी "OpenAI-संगत" इंटरफ़ेस से जुड़ सकता है, और घरेलू अधिकांश मॉडल सेवाएँ संगत हैं।mcp: तीसरे चरण में MCP सर्वर और क्लाइंट लिखने के लिए।
हम जो वर्शन उपयोग करते हैं: openai 3.57.0, mcp 2.3.0।
2. एक मॉडल चुनें
Agent के लिए ज़रूरी है कि मॉडल टूल कॉलिंग (tool calling / function calling) को सपोर्ट करता हो। दो रास्ते हैं, एक चुनें:
खोजेंमैं …… उपयोग करना चाहता/चाहती हूँ
एक पर क्लिक करके देखें।
इस कोर्स का सारा कोड तीन एनवायरनमेंट वेरिएबल से कॉन्फ़िगरेशन पढ़ता है, और डिफ़ॉल्ट मान स्थानीय Ollama ही है:
| एनवायरनमेंट वेरिएबल | स्थानीय Ollama | क्लाउड |
|---|---|---|
AGENT_BASE_URL | http://localhost:11434/v1 (डिफ़ॉल्ट) | सेवा प्रदाता द्वारा दिया गया इंटरफ़ेस पता |
AGENT_API_KEY | ollama (डिफ़ॉल्ट, कुछ भी भरें) | आपकी API Key |
AGENT_MODEL | qwen3:8b (डिफ़ॉल्ट) | सेवा प्रदाता का मॉडल नाम |
क्लाउड मॉडल उपयोग करते समय, टर्मिनल में पहले सेट कर लें (macOS / Linux):
export AGENT_BASE_URL="服务商给的地址"
export AGENT_API_KEY="你的 key"
export AGENT_MODEL="模型名"API Key को कोड में न लिखें, और Git में कभी कमिट न करें।
3. पहले पुष्टि करें कि कनेक्शन चल रहा है
नीचे दिए कोड को hello.py के रूप में सेव करके चलाएँ:
import os
from openai import OpenAI
client = OpenAI(base_url=os.environ.get("AGENT_BASE_URL", "http://localhost:11434/v1"),
api_key=os.environ.get("AGENT_API_KEY", "ollama"))
resp = client.chat.completions.create(
model=os.environ.get("AGENT_MODEL", "qwen3:8b"),
messages=[{"role": "user", "content": "用一句话介绍你自己"}])
print(resp.choices[0].message.content)आपको मॉडल का एक परिचय वाक्य जवाब में दिखना चाहिए।
एरर Using SOCKS proxy, but the 'socksio' package is not installed
आपके टर्मिनल में SOCKS प्रॉक्सी सेट है (एनवायरनमेंट वेरिएबल ALL_PROXY जैसे), तो openai लाइब्रेरी प्रॉक्सी से जाने की कोशिश करेगी। दो तरीके: घरेलू सेवा या अपने मशीन के Ollama से जुड़ने के लिए प्रॉक्सी ज़रूरी नहीं, तो चलाने से पहले उसे हटा दें, जैसे env -u ALL_PROXY -u all_proxy python hello.py; अगर सच में प्रॉक्सी चाहिए, तो pip install "httpx[socks]"। इस कोर्स लिखते समय हमें भी यही एरर मिला था।
आपकी परीक्षाopenai लाइब्रेरी का उपयोग करते हुए भी DeepSeek, टोंगई क़ियानवेन (Qwen) या लोकल Ollama को कैसे कॉल कर सकते हैं?
जाँच लें
pip listमें openai और mcp हैं- मैंने मॉडल चुन लिया है, और मुझे पता है कि तीन environment variables कैसे भरने हैं
hello.pyने मॉडल का उत्तर प्रिंट किया
अगले सेक्शन में हाथ से करें: मॉडल को एक function call करवाएं।