上班以后我悟出一个道理:最靠谱的同事,往往不是记性最好的那个,而是笔记做得最好的那个。
这个道理,现在轮到AI学了。今天知乎热榜上挂着一个问题:怎么看OpenAI的Codex将取消上下文压缩,换成「硬切窗口」和「外部记忆」?讨论很热闹,但评论区的黑话太多,普通人看一眼就划走了。我把这两天凤凰、36氪、IT之家的相关报道翻了一遍,发现这事跟每一个用AI的人都有关——因为它要解决的,正是你最熟悉的那个毛病:AI聊着聊着就忘了你说过什么。
先搞懂:被废掉的"速记本"是什么
AI一次能"看"的内容是有上限的,行话叫上下文窗口。聊得久了,旧内容装不下,系统的老办法是让AI自己把前面的对话总结成一段摘要,腾出地方继续干——这就是上下文压缩,相当于AI的"速记本"。
问题出在哪?一份报道把AI的失忆拆成了三个层面:换新对话,背景要重新解释;换一个AI,踩过的坑要再讲一遍;而最隐蔽的,就是发生在压缩这一步的失忆——长对话触发压缩后,像"必须兼容旧版本数据库"这类早期约定,很可能在总结里被悄悄弱化。(来源:凤凰网,8月29日)
说白了:速记本是AI自己记的,记什么、丢什么,它自己说了算。你觉得要命的约束,在它眼里可能只是一句可有可无的废话。
而且这个速记本还挺贵。36氪8月30日的报道里,OpenAI一口气列了8类已修复的"偷烧额度"问题,排第一的就是上下文压缩——此前Codex压缩时会把旧图片继续留在上下文里,为了省空间的压缩,反而消耗了更多空间;修掉这个Bug,重度用图用户的相关使用量直接降了约10%。(来源:36氪)
全行业都在换"记法"
把目光从Codex挪开,你会发现这不是OpenAI一家的动作,而是整个行业在集体换记法。
火山引擎开源了一个叫OpenViking的项目,定位很直白:面向AI智能体的"上下文数据库"。它把记忆、资料、技能组织成一个个可以浏览的"文件夹",AI像翻目录一样查自己的记忆;每条内容拆成三层——L0摘要、L1概览、L2详情,任务需要多深就读多深,而不是整篇塞进脑子里。(来源:WPSAI交流平台,8月27日)
Anthropic在8月26日把Claude聊天与智能体工作区Cowork的记忆系统打通合并,记忆从"对话结束后统一总结"改成"边聊边实时写入",还开放给用户查看、编辑、删除。(来源:IT之家、腾讯新闻)
Codex负责人Tibo说得更直白:再过两三个月,今天的Codex会显得很原始。现在有人同时开10到15个AI任务,开到这个数量以后,最先不够用的已经不是显卡,而是人自己的注意力。(来源:36氪)
把这些动作放在一起,方向就清楚了:从"把所有东西塞进脑子",变成"把东西存在外面,用的时候再取"。速记本是记在脑子里,写得多、丢得快、还没法回查;建档是存在外面,窗口里只放正在干的活,其余的归档,随用随取。
为什么行业集体转向?因为大家终于承认了一件事:记忆不该靠"背",该靠"查"。
你不用等新版本,这招今天就能用
外部记忆听起来是工程师的事,其实它是个普通人今天就能上手的技巧。方法一句话:给你的AI建一份"协作备忘"。
背景写一次。 你是谁、在做什么事、有什么固定要求、它以前犯过什么错——整理成一段固定的文字,存好。每次开新对话、交新任务,先把它放上去。AI"记得",不是因为它记性好,是因为你每次都递了纸条。
只写边界,不写流水账。 一位开发者总结了自己的实践:模型越来越强之后,他开始反过来删规则,全局指令文件里只保留一样东西——边界。目标跟着任务走,边界才写进长期规则。(来源:博客园,8月30日)还有人往指令文件里加了两条规矩:删除文件先移进回收站,批量删除先列清单确认再执行——就这两句话,能拦住AI误删文件的大祸。(来源:腾讯新闻,8月28日)
备忘写不顺,先找人帮你捋。 如果你的想法还是散的,可以先用spark1(AI家园)的写作助手(spark1.cn/ai-writer)把零散的念头整理成几句清楚的话,再写进备忘——递过去的纸条越干净,AI接得越准。
AI的记忆,正在从"天赋"变成"文档"。以后比的不是谁的AI更聪明,而是谁更会留笔记。笔记写得好的人,AI就记得住——这一点,你从容就能做到。
💬 评论