写出 Agent 循环
上一节,模型递来了一张“请算 3829 加 9471”的单子。这一节把单子执行掉、把结果交回去,并且让这件事自动重复,直到任务完成。这就是 Agent。
循环只有四步
- 1?
- 2?
- 3?
- 4?
按先后顺序,一个一个点。
代码
下载 step2_loop.py。核心是 run 这个函数:
def run(question, max_steps=8):
messages = [{"role": "user", "content": question}]
for step in range(1, max_steps + 1):
resp = client.chat.completions.create(model=MODEL, messages=messages, tools=tools)
msg = resp.choices[0].message
messages.append(msg.model_dump(exclude_none=True)) # 模型这一轮说的话也要放回对话
if not msg.tool_calls: # 不再调工具:这就是最终回答
return msg.content
for call in msg.tool_calls:
try:
args = json.loads(call.function.arguments)
result = FUNCTIONS[call.function.name](**args)
except Exception as e: # 出错也要告诉模型,让它自己改
result = f"出错了:{e}"
print(f"[第 {step} 步] {call.function.name}({args}) = {result}")
messages.append({"role": "tool", "tool_call_id": call.id, "content": str(result)})
return "超过最大步数,停下。"工具是两个普通的 Python 函数 add 和 multiply,用一个字典 FUNCTIONS 按名字找到它们。
问它一道两步的题:
python step2_loop.py你应该看到(本机 qwen3:8b,4 秒):
[第 1 步] multiply({'a': 24, 'b': 17}) = 408
[第 1 步] add({'a': 408, 'b': 9}) = 417
总共有417个苹果。计算步骤如下:
...
最终答案:417个四个容易漏掉的细节
1. 模型自己的那一轮也要放回 messages。 第 6 行 messages.append(msg...) 不能省。下一轮模型要看到“我上次请求了什么”,才能把后面的 tool 消息对上号。
2. tool_call_id 要对上。 每个 tool 消息都要带上对应调用的 id,模型才知道哪个结果属于哪个请求。
3. 一定要有最大步数。 模型可能陷入反复调工具的死循环。max_steps 是保险丝,到了就停。
4. 出错不要让程序崩溃,把错误交给模型。 参数不对、文件不存在……都变成一句“出错了:……”交回去,模型经常能自己改正。课程首页那段真实运行里,模型把路径写错了,拿到报错后先列了目录、再用对的路径重读,就是靠这一行。
一个有意思的现象:一步调了两个工具
注意上面两行都是“第 1 步”:qwen3:8b 在同一轮里同时请求了 multiply 和 add,而且 add 的参数 408 是它自己先算好的,没有等乘法结果回来。
这叫并行工具调用:一轮里返回多个 tool_calls。我们的循环用 for call in msg.tool_calls 逐个执行,所以天然支持。
同一道题,云端 GLM 模型直接在回答里给出了 24 × 17 = 408、408 + 9 = 417。不同模型使用工具的积极程度不一样。想让它一定用工具,可以在提示里明确要求,或者在接口里设置 tool_choice(注意:Ollama 的 OpenAI 兼容接口不支持这个参数,本地模型只能靠提示)。
考考你如果去掉 max_steps,可能会发生什么?
检查一下
- 我跑通了
step2_loop.py,看到了工具调用和最终答案 - 我能说出循环的四步
- 我知道为什么要放回模型自己的消息、对上 tool_call_id、设最大步数、把错误交回去
下一节:给它真正的工具。