Agent लूप लिखें
पिछले सेक्शन में मॉडल ने "कृपया 3829 और 9471 जोड़ दें" का एक पर्चा पकड़ाया था। इस सेक्शन में उस पर्चे को निष्पादित करें, परिणाम वापस सौंपें, और यह काम को काम पूरा होने तक अपने आप दोहराते रहने दें। यही Agent है।
लूप में केवल चार कदम हैं
- 1?
- 2?
- 3?
- 4?
क्रम के अनुसार, एक-एक करके क्लिक करें।
कोड
step2_loop.py डाउनलोड करें। कोर है run यह फंक्शन:
def run(question, max_steps=8):
messages = [{"role": "user", "content": question}]
for step in range(1, max_steps + 1):
resp = client.chat.completions.create(model=MODEL, messages=messages, tools=tools)
msg = resp.choices[0].message
messages.append(msg.model_dump(exclude_none=True)) # 模型这一轮说的话也要放回对话
if not msg.tool_calls: # 不再调工具:这就是最终回答
return msg.content
for call in msg.tool_calls:
try:
args = json.loads(call.function.arguments)
result = FUNCTIONS[call.function.name](**args)
except Exception as e: # 出错也要告诉模型,让它自己改
result = f"出错了:{e}"
print(f"[第 {step} 步] {call.function.name}({args}) = {result}")
messages.append({"role": "tool", "tool_call_id": call.id, "content": str(result)})
return "超过最大步数,停下。"टूल दो साधारण Python फंक्शन हैं add और multiply, जिन्हें एक डिक्शनरी FUNCTIONS से नाम से खोजा जाता है।
इससे दो कदम वाला एक सवाल पूछें:
python step2_loop.pyआपको यह दिखना चाहिए (इस मशीन पर qwen3:8b, 4 सेकंड):
[कदम 1] multiply({'a': 24, 'b': 17}) = 408
[कदम 1] add({'a': 408, 'b': 9}) = 417
कुल 417 सेब हैं। गणना के कदम इस प्रकार हैं:
...
अंतिम उत्तर: 417चार बारीकियां जो आसानी से छूट जाती हैं
1. मॉडल का अपना वह राउंड भी messages में वापस डालना होगा। लाइन 6 पर messages.append(msg...) को नहीं हटाना चाहिए। अगले राउंड में मॉडल को यह देखना होगा कि "मैंने पिछली बार क्या रिक्वेस्ट किया था", तभी वह आगे के tool मैसेज से मिलान कर पाएगा।
2. tool_call_id मेल खाना चाहिए। हर tool मैसेज के साथ संबंधित कॉल का id होना चाहिए, तभी मॉडल को पता चलेगा कि कौन सा परिणाम किस रिक्वेस्ट का है।
3. अधिकतम स्टेप संख्या जरूर होनी चाहिए। मॉडल बार-बार टूल कॉल करने वाले अनंत लूप में फंस सकता है। max_steps फ्यूज की तरह है, उस सीमा पर पहुंचते ही रुक जाएं।
4. एरर होने पर प्रोग्राम को क्रैश न करने दें, एरर को मॉडल को दे दें। पैरामीटर गलत, फाइल मौजूद नहीं…… सब एक वाक्य "एरर हुआ: ……" बनकर वापस जाए, और मॉडल अक्सर खुद सुधार लेता है। कोर्स होमपेज पर उस असली रन में मॉडल ने पाथ गलत लिखा, एरर मिलने पर पहले डायरेक्टरी लिस्ट की, फिर सही पाथ से दोबारा पढ़ा—यही इसी लाइन की वजह से हुआ।
एक दिलचस्प बात: एक कदम में दो टूल कॉल हुए
ध्यान दें कि ऊपर दोनों पंक्तियाँ "1 चरण" हैं: qwen3:8b ने एक ही राउंड में एक साथ multiply और add का अनुरोध किया, और add का पैरामीटर 408 उसने पहले ही स्वयं गणना कर लिया था, गुणा का परिणाम लौटने का इंतज़ार नहीं किया।
इसे समानांतर टूल कॉल कहा जाता है: एक ही राउंड में कई tool_calls लौटाए जाते हैं। हमारा लूप for call in msg.tool_calls से एक-एक करके निष्पादित करता है, इसलिए यह स्वाभाविक रूप से समर्थित है।
इसी प्रश्न पर, क्लाउड GLM मॉडल ने सीधे अपने उत्तर में 24 × 17 = 408, 408 + 9 = 417 दे दिया। अलग-अलग मॉडल टूल का उपयोग करने में अलग-अलग सक्रियता दिखाते हैं। अगर आप चाहते हैं कि यह ज़रूर टूल का उपयोग करे, तो प्रॉम्प्ट में स्पष्ट रूप से माँग कर सकते हैं, या इंटरफ़ेस में tool_choice सेट कर सकते हैं (ध्यान दें: Ollama का OpenAI-संगत इंटरफ़ेस इस पैरामीटर का समर्थन नहीं करता, स्थानीय मॉडल केवल प्रॉम्प्ट पर निर्भर हैं)।
आपकी परीक्षाअगर max_steps हटा दें, तो क्या हो सकता है?
एक बार जाँच लें
- मैंने
step2_loop.pyसफलतापूर्वक चलाया, टूल कॉल और अंतिम उत्तर देखा - मैं लूप के चार चरण बता सकता/सकती हूँ
- मुझे पता है कि मॉडल का अपना संदेश क्यों वापस डालना है, tool_call_id से मिलाना है, अधिकतम चरण सेट करने हैं, और त्रुटियाँ वापस सौंपनी हैं
अगला अनुभाग: इसे असली टूल देना।