मॉडल को एक फ़ंक्शन कॉल करवाना
इस सेक्शन में सिर्फ़ एक ही काम करेंगे: मॉडल को एक "जोड़" फ़ंक्शन की जानकारी देना, उससे एक जोड़ का सवाल पूछना, और देखना कि वह कैसे जवाब देता है। यह करने के बाद आप Agent का सबसे निचला बिल्डिंग ब्लॉक समझ जाएँगे।
पहले एक उपमा सोचें
आप बॉस हैं, और आपके पास एक असिस्टेंट है जो बात करने में बहुत अच्छा है, लेकिन उसके हाथ में कैलकुलेटर नहीं है। आप उसे एक कागज़ की पर्ची देते हैं: "जब जोड़ करना हो, तो 'कृपया a और b को जोड़ें' लिखकर एक पर्ची मुझे दे देना, मैं आपके लिए कैलकुलेटर दबा दूँगा।"
तब वह खुद जवाब का अंदाज़ा नहीं लगाता, बल्कि आपको एक पर्ची थमाता है: "कृपया 3829 और 9471 को जोड़ दें।"
मॉडल यही असिस्टेंट है, और फ़ंक्शन कॉल वही पर्ची है। मॉडल खुद कोई फ़ंक्शन निष्पादित नहीं करता, वह बस आपके दिए फ़ॉर्मैट के अनुसार कहता है कि "मैं कौन सा फ़ंक्शन कॉल करना चाहता हूँ और पैरामीटर क्या हैं"। असल में निष्पादित करने वाला आपका लिखा हुआ प्रोग्राम है।
कोड
step1_call.py डाउनलोड करें, या खुद टाइप करें:
import json, os
from openai import OpenAI
client = OpenAI(base_url=os.environ.get("AGENT_BASE_URL", "http://localhost:11434/v1"),
api_key=os.environ.get("AGENT_API_KEY", "ollama"))
MODEL = os.environ.get("AGENT_MODEL", "qwen3:8b")
tools = [{
"type": "function",
"function": {
"name": "add",
"description": "计算两个数的和",
"parameters": {
"type": "object",
"properties": {"a": {"type": "number"}, "b": {"type": "number"}},
"required": ["a", "b"],
},
},
}]
resp = client.chat.completions.create(
model=MODEL,
messages=[{"role": "user", "content": "3829 加 9471 等于多少?"}],
tools=tools,
)
msg = resp.choices[0].message
print("finish_reason:", resp.choices[0].finish_reason)
print("content:", msg.content)
for call in msg.tool_calls or []:
print("tool_call:", call.function.name, call.function.arguments)चलाएँ:
python step1_call.pyआपको यह दिखना चाहिए (इस मशीन पर qwen3:8b, 3.7 सेकंड):
finish_reason: tool_calls
content:
tool_call: add {"a":3829,"b":9471}इन तीन लाइनों को समझें
finish_reason: tool_calls: मॉडल इस राउंड में इसलिए रुका क्योंकि वह टूल कॉल करना चाहता है, न कि इसलिए कि उसकी बात ख़त्म हो गई।contentखाली है: उसने सीधे जवाब 13300 नहीं दिया, बल्कि "पर्ची" थमाई।tool_call: add {"a":3829,"b":9471}: उसनेaddफ़ंक्शन चुना, और पैरामीटर एक JSON स्ट्रिंग है। ध्यान दें किargumentsएक स्ट्रिंग है, इस्तेमाल करने से पहले इस परjson.loadsकरना होगा।
हमने उसी कोड को क्लाउड के GLM मॉडल पर चलाया, आउटपुट वही है, बस JSON में स्पेस ज़्यादा हैं: add {"a": 3829, "b": 9471}।
फ़ंक्शन की जानकारी कैसे लिखें
tools में हर आइटम मॉडल को एक फ़ंक्शन बताता है:
| फ़ील्ड | काम |
|---|---|
name | फ़ंक्शन का नाम। मॉडल कॉल करते समय इसी नाम का इस्तेमाल करता है |
description | यह फ़ंक्शन क्या करता है। मॉडल इसी से तय करता है कि कब इस्तेमाल करना है |
parameters | पैरामीटर का JSON Schema: कौन से पैरामीटर हैं, किस टाइप के हैं, कौन से ज़रूरी हैं |
description का विवरण अच्छा लिखा गया है या नहीं, यह सीधे तय करता है कि मॉडल इसे सही समय पर इस्तेमाल करेगा या नहीं। इसे "दो संख्याओं का योग निकालें" के रूप में लिखना, "टूल 1" के रूप में लिखने से कहीं बेहतर है।
- 1?
- 2?
- 3?
- 4?
क्रम के अनुसार, एक-एक करके क्लिक करें।
आपकी परीक्षामॉडल tool_calls लौटाए तो क्या फ़ंक्शन निष्पादित हो गया?
एक बार जाँच करें
- मैंने
finish_reason: tool_callsऔर एकtool_callप्राप्त किया - मैं बता सकता हूँ कि
name,description,parametersप्रत्येक किसका काम संभालता है - मुझे पता है कि
argumentsएक स्ट्रिंग है, मॉडल खुद फ़ंक्शन निष्पादित नहीं करता
अगला भाग: Agent लूप लिखें।