Skip to content
从零手写第 2 / 5 节

写出 Agent 循环 ​

上一节,模型递来了一张“请算 3829 加 9471”的单子。这一节把单子执行掉、把结果交回去,并且让这件事自动重复,直到任务完成。这就是 Agent。

循环只有四步 ​

排一排Agent 循环,按顺序点
  1. 1?
  2. 2?
  3. 3?
  4. 4?

按先后顺序,一个一个点。

代码 ​

下载 step2_loop.py。核心是 run 这个函数:

python
def run(question, max_steps=8):
    messages = [{"role": "user", "content": question}]
    for step in range(1, max_steps + 1):
        resp = client.chat.completions.create(model=MODEL, messages=messages, tools=tools)
        msg = resp.choices[0].message
        messages.append(msg.model_dump(exclude_none=True))      # 模型这一轮说的话也要放回对话
        if not msg.tool_calls:                                   # 不再调工具:这就是最终回答
            return msg.content
        for call in msg.tool_calls:
            try:
                args = json.loads(call.function.arguments)
                result = FUNCTIONS[call.function.name](**args)
            except Exception as e:                               # 出错也要告诉模型,让它自己改
                result = f"出错了:{e}"
            print(f"[第 {step} 步] {call.function.name}({args}) = {result}")
            messages.append({"role": "tool", "tool_call_id": call.id, "content": str(result)})
    return "超过最大步数,停下。"

工具是两个普通的 Python 函数 add 和 multiply,用一个字典 FUNCTIONS 按名字找到它们。

问它一道两步的题:

bash
python step2_loop.py

你应该看到(本机 qwen3:8b,4 秒):

text
[第 1 步] multiply({'a': 24, 'b': 17}) = 408
[第 1 步] add({'a': 408, 'b': 9}) = 417
总共有417个苹果。计算步骤如下:
...
最终答案:417个

四个容易漏掉的细节 ​

1. 模型自己的那一轮也要放回 messages。 第 6 行 messages.append(msg...) 不能省。下一轮模型要看到“我上次请求了什么”,才能把后面的 tool 消息对上号。

2. tool_call_id 要对上。 每个 tool 消息都要带上对应调用的 id,模型才知道哪个结果属于哪个请求。

3. 一定要有最大步数。 模型可能陷入反复调工具的死循环。max_steps 是保险丝,到了就停。

4. 出错不要让程序崩溃,把错误交给模型。 参数不对、文件不存在……都变成一句“出错了:……”交回去,模型经常能自己改正。课程首页那段真实运行里,模型把路径写错了,拿到报错后先列了目录、再用对的路径重读,就是靠这一行。

一个有意思的现象:一步调了两个工具 ​

注意上面两行都是“第 1 步”:qwen3:8b 在同一轮里同时请求了 multiply 和 add,而且 add 的参数 408 是它自己先算好的,没有等乘法结果回来。

这叫并行工具调用:一轮里返回多个 tool_calls。我们的循环用 for call in msg.tool_calls 逐个执行,所以天然支持。

同一道题,云端 GLM 模型直接在回答里给出了 24 × 17 = 408、408 + 9 = 417。不同模型使用工具的积极程度不一样。想让它一定用工具,可以在提示里明确要求,或者在接口里设置 tool_choice(注意:Ollama 的 OpenAI 兼容接口不支持这个参数,本地模型只能靠提示)。

考考你如果去掉 max_steps,可能会发生什么?

检查一下 ​

  • 我跑通了 step2_loop.py,看到了工具调用和最终答案
  • 我能说出循环的四步
  • 我知道为什么要放回模型自己的消息、对上 tool_call_id、设最大步数、把错误交回去

下一节:给它真正的工具。

搞懂AI关于我们怎么写隐私说明联系我们

独立的第三方教程,与文中提到的任何产品及其公司没有隶属或合作关系;产品名称和商标归各自所有者。价格和政策以官方页面为准。