Zero-Mem：面向LLM代理的零token记忆操作

论文Zero-Mem提出零token记忆操作，使LLM代理除最终问答外无需额外LLM调用，即可通过实体上下文图与时间层级组织原始交互痕迹，在长记忆与长上下文问答基准上达到竞争性能，并将记忆操作时间成本相对最快基线降低57.6%。

现有LLM代理的记忆系统普遍依赖额外LLM调用来处理和检索记忆，产生重复的token与时间成本，且可能丢失原始细节。Zero-Mem首次提出无需生成即可实现结构化记忆访问，显著降低延迟与成本，可能影响代理系统的架构设计。

Zero-Mem保留原始交互轨迹作为唯一事实来源，通过实体上下文图与时间层级两种互补结构组织内容，查询时依据查询动态权衡两种视图并检索，再经确定性校准丢弃冲突证据，最终仅由最终QA读者调用LLM生成答案，从而消除记忆操作中的LLM调用与token消耗。

对依赖长对话记忆的AI代理产品，可降低记忆操作的时间延迟和token费用，提升响应速度，并可能减少因记忆压缩导致的细节丢失，改善多轮交互的准确性与一致性，同时简化记忆系统的工程实现。

• 在现有对话代理中集成Zero-Mem，评估长对话场景下的延迟与成本降低效果。
• 基于Zero-Mem的实体上下文图开发可视化记忆管理工具，帮助用户理解代理记忆。
• 针对特定垂直领域（如客服、助手）定制Zero-Mem的记忆结构，优化检索相关性。
• 将Zero-Mem与当前主流RAG框架对比，形成基准报告以指导选型。

• Zero-Mem在真实多轮代理任务中的鲁棒性是否与基准测试一致？
• 其确定性校准机制在复杂冲突证据下的表现如何？
• 是否支持动态更新的交互轨迹（如流式对话）？
• 与现有长上下文模型的记忆能力相比，Zero-Mem的性能边界在哪？