मेमोरी: इसे संदर्भ याद रखने दें
यह सेक्शन पढ़ने के बाद, आपका Agent बंद करके दोबारा खोलने पर भी याद रखेगा कि पहले क्या किया था; और वार्तालाप बहुत लंबा होने पर भी नहीं फटेगा।
मॉडल अपने आप कुछ भी याद नहीं रखता
हर बार मॉडल को कॉल करने पर, वह आपको "पहली बार" देखता है। हमें ऐसा लगता है कि वह पिछला वार्तालाप याद रखता है, क्योंकि हर बार पूरा वार्तालाप (messages सूची) उसे दोबारा भेजा जाता है। पिछले सेक्शन का लूप यही करता है।
इसलिए Agent की मेमोरी, सीधे कहें तो, इस सूची को प्रबंधित करना ही है:
- सेव करें: प्रोग्राम बंद होने से पहले फ़ाइल में लिखें, अगली बार शुरू होने पर वापस पढ़ें;
- बहुत लंबा न हो: मॉडल जितना देख सकता है उसकी लंबाई सीमित है, और बहुत लंबा होने पर यह और धीमा और महंगा भी होता है।
डिस्क पर सेव: सेशन-पार मेमोरी
MEMORY = HERE / ".agent" / "history.json" # 对话记忆存在这里,下次启动接着聊
def load_memory():
return json.loads(MEMORY.read_text(encoding="utf-8")) if MEMORY.exists() else []
def save_memory(messages):
MEMORY.parent.mkdir(exist_ok=True)
MEMORY.write_text(json.dumps(messages, ensure_ascii=False, indent=1), encoding="utf-8")हर राउंड के वार्तालाप खत्म होने पर एक बार सेव करें। हमने इसे इस तरह सत्यापित किया: पहले एक बार चलाएं, इसे साप्ताहिक रिपोर्ट तैयार करने दें (यह स्किल की आवश्यकता के अनुसार, फ़ाइल लिखने से पहले पूरा टेक्स्ट उपयोगकर्ता को दिखाता है, फिर प्रोग्राम समाप्त होता है); फिर एक नया प्रोसेस शुरू करें, और केवल एक वाक्य कहें:
python agent.py "确认,就按这个写入文件"आपको यह दिखना चाहिए:
[1] write_file({"path": "./周报.md", "content": "# 周报\n## 本周完成\n- 周一:修复登录页在 Safari 上的样式错位\n- ……"})
⚠️ फ़ाइल ./周报.md में लिखें (175 अक्षर)? [y/N] y
Agent: 周报.md फ़ाइल जनरेट हो गई है, जिसमें इस सप्ताह के काम का सारांश और योजना शामिल है।नए प्रोसेस में उसने कभी वे रिकॉर्ड फ़ाइलें नहीं पढ़ीं, लेकिन उसे पता है कि "यह" किस चीज़ की ओर संकेत करता है और साप्ताहिक रिपोर्ट की सामग्री क्या है, क्योंकि मेमोरी history.json से वापस पढ़ी गई है।
बहुत लंबा हो जाए तो क्या करें: सारांश में संकुचित करें
def compact(messages):
if len(json.dumps(messages, ensure_ascii=False)) < KEEP_CHARS:
return messages
old, recent = messages[:-8], messages[-8:]
while recent and recent[0]["role"] == "tool": # 别把工具结果和它对应的调用拆开
old, recent = old + recent[:1], recent[1:]
summary = client.chat.completions.create(model=MODEL, messages=[
{"role": "user", "content": "把下面的对话压缩成要点(事实、决定、未完成的事),不超过 300 字:\n"
+ json.dumps(old, ensure_ascii=False)[:20000]}]).choices[0].message.content
return [{"role": "user", "content": "【之前对话的摘要】" + summary},
{"role": "assistant", "content": "好的,我记住了。"}] + recentविचार: हाल की 8 संदेशों का मूल पाठ रखें, उससे पुराने संदेश मॉडल से ही एक सारांश में संकुचित करवाएं, और उसे सबसे आगे रखें।
वह while बहुत महत्वपूर्ण है: अगर कटाव का बिंदु ठीक किसी tool संदेश पर पड़ता है, तो उससे संबंधित टूल कॉल सारांश में संकुचित हो जाती है, और एक "अनाथ" टूल परिणाम रह जाता है, जिससे कई इंटरफ़ेस सीधे त्रुटि दे देते हैं। इसलिए इसे तब तक पीछे-आगे करें जब तक कि शुरुआत किसी tool संदेश से न हो।
डिफ़ॉल्ट रूप से 24000 अक्षरों से अधिक होने पर ही संकुचित होता है। डेमो के लिए, हमने environment variable से दहलीज़ को अस्थायी रूप से 1500 अक्षर कर दिया:
AGENT_KEEP_CHARS=1500 python agent.py "worklog 里周三做了什么?"आपको दिखना चाहिए कि वह पहले सवाल का जवाब देता है, फिर संकेत देता है:
(मेमोरी बहुत लंबी थी, पुराने वार्तालाप को सारांश में संकुचित कर दिया गया है).agent/history.json खोलें, पहली प्रविष्टि ऐसी हो गई है (हमारा इस बार का वास्तविक परिणाम):
【पिछले वार्तालाप का सारांश】**तथ्य**:
- worklog फ़ोल्डर में 11-16.txt, 11-18.txt, 11-20.txt शामिल हैं।
- साप्ताहिक रिपोर्ट तैयार होने के बाद इसमें शामिल हैं: इस सप्ताह पूर्ण (5 मद), जारी (1 मद), अगले सप्ताह की योजना (1 मद), सहायता आवश्यक (कोई नहीं)।
……खोजेंमेमोरी और कैसे बना सकते हैं
एक पर क्लिक करके देखें।
आपकी परीक्षामेमोरी कंप्रेस करते समय, रखे गए हिस्से को tool मैसेज से शुरू क्यों नहीं होना चाहिए?
एक बार जांच करें
- मैं समझता/समझती हूँ कि "मेमोरी असल में हर बार साथ भेजा गया वार्तालाप रिकॉर्ड है"
- मैं agent को बंद करके दोबारा शुरू करने पर भी वह पिछली बार की सामग्री याद रखता है
- मैंने छोटी दहलीज़ से एक बार सारांश संकुचन को ट्रिगर किया है
अगला अनुभाग: कौशल: SKILL.md।