上周刚跟 AI 说过自己不吃辣、在准备一个考试、家里有只猫，这周再聊，它又从头问一遍。
很多人的第一反应是"这个 AI 不够聪明"。但更常见的原因，是它根本没在用"记忆"这套东西——它用的是检索。这两件事听起来像，实际差别不小。
一、RAG 做的事，是"每次现查"
RAG（Retrieval-Augmented Generation，检索增强生成）的流程可以拆成三步：
- 先把资料切成一段一段，转成向量存起来；
- 你提问时，用问题去向量库里找最相似的几段；
- 把这几段塞进模型的上下文，让它"照着资料回答"。
它的好处，是让模型能引用训练时没见过的内容：你的文档、公司制度、刚发布的公告。但它有一个前提常被忽略：它回答的是"资料里写了什么"，不是"你之前说过什么"。
RAG 本质上是一次性的。这一轮查完，下一轮重新查，中间没有一条"这个用户是谁、他上次要什么"的线。
二、把 RAG 直接搬来做"记忆"，为什么会别扭
今年 2 月有一篇论文专门讨论这个问题：《Beyond RAG for Agent Memory: Retrieval by Decoupling and Aggregation》（arXiv 2602.02007，2 月 2 日首次提交，5 月 12 日更新到第四版，作者为 Zhanghao Hu 等人）。
它指出的问题很具体：Agent 的记忆和普通资料库不是一回事。
- 普通资料库：大、杂、彼此独立，找相似的就行。
- Agent 的记忆：是一条有边界、前后连贯的对话流，里面很多内容高度相关，甚至接近重复。
结果就是，扁平地取"最相似的几条"，往往会拿回一堆重复内容；而另一类"先总结再存"的做法，又容易把区分两件事的关键细节抹平——比如"周三要交"和"周四要交"，总结完就只剩"要交"。
论文给出的原则是"先解耦，再聚合"：先把可复用的事实、更新、区分性细节从相似的历史里拆出来，再组织成便于检索的结构。作者提出的方法叫 xMemory，把对话从原始消息逐层整理成片段、记忆组件、再到组。论文报告的是机制设计和实验结果，本文不替它做效果担保，细节以原文为准。
三、对普通人的三条实用判断
懂了原理，能少踩三个坑。
第一，"能读文档"不等于"记得你"。 你上传一份 PDF，它能回答里面的问题，这是检索；这不代表它记住了你的偏好。下次换个会话，该说的还得再说一遍。
第二，对话很长，也不等于有长期记忆。 上下文窗口再大，也是"这一次"的窗口。窗口一关，里面的一切对它都不存在。
第三，想让 AI 稳定帮你干活，靠"写下来"比靠"它记住"靠谱。 把你反复要交代的东西整理成一份固定资料——背景、约束、常用格式——每次带上。这比指望它自己攒记忆，确定性高得多。
四、手边可以怎么用
如果手头已经有一堆反复要交代的材料，可以让工具先替你压成"可复用的一段"：
站内此前写过两篇相关的话题：AI 记忆赛道一夜爆火讲的是行业动向，端侧语义搜索的能与不能讲的是"不上云也能按内容搜文件"。三篇合起来看，大概能分清：检索解决"找得到"，记忆解决"记得住"，两件事不能互相替代。
Q: RAG 和"记忆"最核心的区别是什么？
RAG 是每次提问时临时去资料库里找相关内容，找完就用，不形成长期状态；记忆是把跨会话的信息保存下来，下一次还能用上。前者解决"资料里有没有"，后者解决"你之前说过什么"。
Q: 上下文窗口很大，是不是就不需要记忆了？
不是。上下文窗口再大，也只覆盖当前这一次会话。会话结束、窗口清空之后，里面的内容不会再自动出现。
Q: 普通人需要自己搭一套记忆系统吗？
多数人不需要。把自己的背景、约束、常用格式写成一份固定文档，每次对话带上，成本最低，效果也最可控。真要长期自动化，再考虑专门的工具。
Q: 这篇提到的论文靠谱吗？
它是一篇公开的预印本论文，2026 年 2 月首次提交、5 月更新到第四版。本文只转述它的问题定义和设计思路，没有引用具体实验数字；如果要用于决策，建议直接读原文。
评论