很多做 AI Agent 的人和团队,都在疯狂卷长期记忆

很多做 AI Agent 的人和团队,都在疯狂卷长期记忆
从各种向量 RAG 到 Mem0、LangMem、A-MEM……但有一个更严肃、也更致命的问题,当用户明确对 Agent 说“请忘掉这件事”时,它真的能做到吗?

当用户换了住址、删除了某段敏感的医疗隐私、或者收回了某项敏感授权时,一个合格的记忆系统不仅要精准抹去目标事实,还必须保全其他无关记忆,并且经得起任何旁敲侧击的恶意。

清华大学等团队最近刚刚在 arXiv 上公布了一项极具震撼力的开创性评测:Can Agents Forget When Asked? A Benchmark for Memory Unlearning in LLM Agents 他们构建了业内首个系统性评测 Agent 记忆遗忘的基准BEMULA。

他们在BEMULA基准上进行了测试,在主流记忆系统和前沿大模型基座上,端到端遗忘请求通过率几乎是一片的 0.0%,最高的一组也仅有 1.5。

团队深度测试了 6 大主流 Agent 记忆系统:Mem0、LangMem、A-MEM、LightMem、SimpleMem、Naive RAG,搭配 GPT-5.6、DeepSeek-V4.1、Qwen3 等主流基座,发现了三种系统性溃败:
第一个就是压根无法识别忘记,他们会把你的指令直接当做记忆存起来。

第二个就是有的会直接删除大部分的记忆。

第三个就是它会假装遗忘,但是用隐形提示词依然能拿到记忆。

为了彻底度量智能体的遗忘能力,BEMULA 设计了一套极具借鉴意义的多维评测坐标系:从最简单的原子事实遗忘、组合事实、信息更新替换,一直延伸到极具挑战的语义类遗忘和时间跨度遗忘。实测显示,后两类高阶语义遗忘让所有现有模型彻底失败。

这个论文有一个点我认为很好,不能安全遗忘的记忆是负债。往大了说,这种记忆问题直接涉及到隐私、安全。非常值得所有做 Agent 落地、企业级隐私合规与个人助理系统的朋友深读。

arxiv:https://arxiv.org/abs/2610.18052


分类