Memoria: haz que recuerde el contexto
Al terminar esta sección, tu Agent recordará lo que hizo antes incluso después de cerrarse y volverse a abrir; y las conversaciones largas tampoco lo desbordarán.
El modelo en sí no recuerda nada
Cada vez que llamas al modelo, es "la primera vez que te ve". La razón por la que parece recordar la conversación anterior es que cada vez se le reenvía la conversación completa (la lista messages). El bucle de la sección anterior funciona exactamente así.
Así que la memoria de un Agent, en el fondo, consiste en gestionar esta lista:
- Guardarla: escribirla en un archivo antes de que el programa salga y leerla de vuelta al iniciarse la próxima vez;
- Que no sea demasiado larga: el modelo tiene una longitud limitada de lo que puede ver, y si es demasiado larga además es más lenta y más cara.
Guardar en disco: memoria entre sesiones
MEMORY = HERE / ".agent" / "history.json" # 对话记忆存在这里,下次启动接着聊
def load_memory():
return json.loads(MEMORY.read_text(encoding="utf-8")) if MEMORY.exists() else []
def save_memory(messages):
MEMORY.parent.mkdir(exist_ok=True)
MEMORY.write_text(json.dumps(messages, ensure_ascii=False, indent=1), encoding="utf-8")Se guarda una vez al final de cada ronda de conversación. Lo verificamos así: primero ejecutamos una vez, pidiéndole que organizara el informe semanal (siguiendo los requisitos de la habilidad, antes de escribir el archivo muestra el texto completo al usuario, y luego el programa termina); después iniciamos un proceso nuevo y solo decimos una frase:
python agent.py "确认,就按这个写入文件"Deberías ver:
[1] write_file({"path": "./周报.md", "content": "# 周报\n## 本周完成\n- 周一:修复登录页在 Safari 上的样式错位\n- ……"})
⚠️ ¿Escribir en el archivo ./周报.md (175 caracteres)? [y/N] y
Agent: se ha generado el archivo 周报.md, con el resumen del trabajo de esta semana y los planes.En el proceso nuevo nunca leyó esos archivos de registro, pero sabe a qué se refiere "esto" y cuál es el contenido del informe semanal, porque la memoria se leyó de vuelta desde history.json.
¿Qué hacer si es demasiado larga: comprimir en un resumen
def compact(messages):
if len(json.dumps(messages, ensure_ascii=False)) < KEEP_CHARS:
return messages
old, recent = messages[:-8], messages[-8:]
while recent and recent[0]["role"] == "tool": # 别把工具结果和它对应的调用拆开
old, recent = old + recent[:1], recent[1:]
summary = client.chat.completions.create(model=MODEL, messages=[
{"role": "user", "content": "把下面的对话压缩成要点(事实、决定、未完成的事),不超过 300 字:\n"
+ json.dumps(old, ensure_ascii=False)[:20000]}]).choices[0].message.content
return [{"role": "user", "content": "【之前对话的摘要】" + summary},
{"role": "assistant", "content": "好的,我记住了。"}] + recentLa idea: conservar las últimas 8 entradas en texto original y dejar que el modelo comprima por sí mismo lo más antiguo en un resumen, colocado al principio.
Ese while es muy importante: si el punto de corte cae justo sobre un mensaje tool, su llamada a herramienta correspondiente queda comprimida en el resumen, dejando un resultado de herramienta "huérfano", y muchas interfaces darán error directamente. Por eso hay que desplazarlo hacia adelante hasta que no empiece por un mensaje tool.
Por defecto solo se comprime al superar 24000 caracteres. Para la demostración, usamos una variable de entorno para bajar temporalmente el umbral a 1500 caracteres:
AGENT_KEEP_CHARS=1500 python agent.py "worklog 里周三做了什么?"Deberías ver que primero responde la pregunta y luego muestra el aviso:
(La memoria era demasiado larga; la conversación anterior ha sido comprimida en un resumen)Abre .agent/history.json y la primera entrada habrá quedado así (nuestro resultado real de esta vez):
【Resumen de la conversación anterior】**Hechos**:
- La carpeta worklog contiene 11-16.txt, 11-18.txt, 11-20.txt.
- Tras organizar el informe semanal, contiene: completado esta semana (5 elementos), en curso (1 elemento), plan para la próxima semana (1 elemento), necesita ayuda (no).
……BuscarOtras formas de lograr la memoria
Toca uno para ver.
Pon a prueba tus conocimientosAl comprimir la memoria, ¿por qué la parte conservada no puede empezar con un mensaje de tool?
Comprueba
- Entiendo que "la memoria es el historial de conversación que se incluye cada vez"
- Cierro y vuelvo a iniciar el agent y todavía recuerda el contenido de la vez anterior
- He provocado una compresión de resumen usando un umbral pequeño
Siguiente sección: Habilidades: SKILL.md.