Skip to content
从零手写第 4 / 5 节

记忆:让它记住上下文 ​

读完这一节,你的 Agent 关掉再打开也记得之前做过什么;对话很长时也不会撑爆。

模型本身什么都不记得 ​

每次调用模型,它都是“第一次见你”。我们之所以觉得它记得前面的对话,是因为每次都把整段对话(messages 列表)重新发给它。上一节的循环就是这样做的。

所以 Agent 的记忆,说穿了就是管理这个列表:

  • 存下来:程序退出前写进文件,下次启动读回来;
  • 别太长:模型能看的长度有限,太长还更慢、更贵。

存盘:跨会话记忆 ​

python
MEMORY = HERE / ".agent" / "history.json"          # 对话记忆存在这里,下次启动接着聊

def load_memory():
    return json.loads(MEMORY.read_text(encoding="utf-8")) if MEMORY.exists() else []

def save_memory(messages):
    MEMORY.parent.mkdir(exist_ok=True)
    MEMORY.write_text(json.dumps(messages, ensure_ascii=False, indent=1), encoding="utf-8")

每轮对话结束就存一次。我们是这样验证的:先运行一次,让它整理周报(它按技能要求,写文件前先把全文给用户看,然后程序结束);再启动一个新进程,只说一句:

bash
python agent.py "确认,就按这个写入文件"

你应该看到:

text
  [1] write_file({"path": "./周报.md", "content": "# 周报\n## 本周完成\n- 周一:修复登录页在 Safari 上的样式错位\n- ……"})

⚠️  写入文件 ./周报.md(175 字)? [y/N] y
Agent:已生成周报.md 文件,包含本周工作汇总和计划。

新进程里它从没读过那些记录文件,但它知道“这个”指什么、周报内容是什么,因为记忆从 history.json 读回来了。

太长了怎么办:压缩成摘要 ​

python
def compact(messages):
    if len(json.dumps(messages, ensure_ascii=False)) < KEEP_CHARS:
        return messages
    old, recent = messages[:-8], messages[-8:]
    while recent and recent[0]["role"] == "tool":        # 别把工具结果和它对应的调用拆开
        old, recent = old + recent[:1], recent[1:]
    summary = client.chat.completions.create(model=MODEL, messages=[
        {"role": "user", "content": "把下面的对话压缩成要点(事实、决定、未完成的事),不超过 300 字:\n"
         + json.dumps(old, ensure_ascii=False)[:20000]}]).choices[0].message.content
    return [{"role": "user", "content": "【之前对话的摘要】" + summary},
            {"role": "assistant", "content": "好的,我记住了。"}] + recent

思路:保留最近 8 条原文,更早的交给模型自己压成一段摘要,放在最前面。

那个 while 很重要:如果切分点正好落在一条 tool 消息上,它对应的工具调用就被压进摘要了,留下一条“孤儿”工具结果,很多接口会直接报错。所以要往后挪,直到不从 tool 消息开始。

默认超过 24000 字才压缩。为了演示,我们用环境变量把门槛临时调到 1500 字:

bash
AGENT_KEEP_CHARS=1500 python agent.py "worklog 里周三做了什么?"

你应该看到它先回答问题,然后提示:

text
(记忆太长,已把较早的对话压成摘要)

打开 .agent/history.json,第一条变成了这样(我们这次的真实结果):

text
【之前对话的摘要】**事实**:
- worklog文件夹含11-16.txt、11-18.txt、11-20.txt。
- 周报整理后包含:本周完成(5项)、进行中(1项)、下周计划(1项)、需要协助(无)。
……

查一查记忆还可以怎么做

点一个看看。

考考你压缩记忆时,为什么不能让保留部分从一条 tool 消息开始?

检查一下 ​

  • 我理解“记忆就是每次带上的对话记录”
  • 我关掉再启动 agent,它还记得上一次的内容
  • 我用小门槛触发过一次摘要压缩

下一节:技能:SKILL.md。

搞懂AI关于我们怎么写隐私说明联系我们

独立的第三方教程,与文中提到的任何产品及其公司没有隶属或合作关系;产品名称和商标归各自所有者。价格和政策以官方页面为准。