记忆:让它记住上下文
读完这一节,你的 Agent 关掉再打开也记得之前做过什么;对话很长时也不会撑爆。
模型本身什么都不记得
每次调用模型,它都是“第一次见你”。我们之所以觉得它记得前面的对话,是因为每次都把整段对话(messages 列表)重新发给它。上一节的循环就是这样做的。
所以 Agent 的记忆,说穿了就是管理这个列表:
- 存下来:程序退出前写进文件,下次启动读回来;
- 别太长:模型能看的长度有限,太长还更慢、更贵。
存盘:跨会话记忆
python
MEMORY = HERE / ".agent" / "history.json" # 对话记忆存在这里,下次启动接着聊
def load_memory():
return json.loads(MEMORY.read_text(encoding="utf-8")) if MEMORY.exists() else []
def save_memory(messages):
MEMORY.parent.mkdir(exist_ok=True)
MEMORY.write_text(json.dumps(messages, ensure_ascii=False, indent=1), encoding="utf-8")每轮对话结束就存一次。我们是这样验证的:先运行一次,让它整理周报(它按技能要求,写文件前先把全文给用户看,然后程序结束);再启动一个新进程,只说一句:
bash
python agent.py "确认,就按这个写入文件"你应该看到:
text
[1] write_file({"path": "./周报.md", "content": "# 周报\n## 本周完成\n- 周一:修复登录页在 Safari 上的样式错位\n- ……"})
⚠️ 写入文件 ./周报.md(175 字)? [y/N] y
Agent:已生成周报.md 文件,包含本周工作汇总和计划。新进程里它从没读过那些记录文件,但它知道“这个”指什么、周报内容是什么,因为记忆从 history.json 读回来了。
太长了怎么办:压缩成摘要
python
def compact(messages):
if len(json.dumps(messages, ensure_ascii=False)) < KEEP_CHARS:
return messages
old, recent = messages[:-8], messages[-8:]
while recent and recent[0]["role"] == "tool": # 别把工具结果和它对应的调用拆开
old, recent = old + recent[:1], recent[1:]
summary = client.chat.completions.create(model=MODEL, messages=[
{"role": "user", "content": "把下面的对话压缩成要点(事实、决定、未完成的事),不超过 300 字:\n"
+ json.dumps(old, ensure_ascii=False)[:20000]}]).choices[0].message.content
return [{"role": "user", "content": "【之前对话的摘要】" + summary},
{"role": "assistant", "content": "好的,我记住了。"}] + recent思路:保留最近 8 条原文,更早的交给模型自己压成一段摘要,放在最前面。
那个 while 很重要:如果切分点正好落在一条 tool 消息上,它对应的工具调用就被压进摘要了,留下一条“孤儿”工具结果,很多接口会直接报错。所以要往后挪,直到不从 tool 消息开始。
默认超过 24000 字才压缩。为了演示,我们用环境变量把门槛临时调到 1500 字:
bash
AGENT_KEEP_CHARS=1500 python agent.py "worklog 里周三做了什么?"你应该看到它先回答问题,然后提示:
text
(记忆太长,已把较早的对话压成摘要)打开 .agent/history.json,第一条变成了这样(我们这次的真实结果):
text
【之前对话的摘要】**事实**:
- worklog文件夹含11-16.txt、11-18.txt、11-20.txt。
- 周报整理后包含:本周完成(5项)、进行中(1项)、下周计划(1项)、需要协助(无)。
……查一查记忆还可以怎么做
点一个看看。
考考你压缩记忆时,为什么不能让保留部分从一条 tool 消息开始?
检查一下
- 我理解“记忆就是每次带上的对话记录”
- 我关掉再启动 agent,它还记得上一次的内容
- 我用小门槛触发过一次摘要压缩
下一节:技能:SKILL.md。