"两家公司都没有在负责任地行事。它们正径直冲向能够自我改进的超级智能，拿我们的生命做赌注。"
当地时间9月8日，一个叫Jacob Coxon的人在X上贴出这段话，宣布从Anthropic辞职。两天之内，这条离职帖的阅读量超过了1.15亿次。而比帖子内容更让人意外的，是他离开的时间点：Anthropic的员工要满六个月股权才会归属，他只干了四个月。换句话说，他在距离拿钱还差两个月的时候，转身走了。
我把腾讯新闻、虎嗅、凤凰网、IT之家这两天的报道都翻了一遍，越翻越觉得，这件事值得跟每一个每天在用AI的普通人讲清楚：一个亲手造AI的人，为什么敢说"AI可能毁灭人类"？我们普通人又该拿这些话怎么办？
他的话为什么有分量：因为他不获利
先看他是谁。过去三年，Coxon先后在OpenAI和Anthropic做预训练研究——预训练是大模型从"一无所知"到"无所不知"的那道工序，他站在模型能力形成的核心环节里。2023年他加入OpenAI技术团队，参与过GPT-4o的研发，名字出现在GPT-4o系统卡的作者名单上；今年7月转投Anthropic，9月又离开。
接受采访时，Coxon说了句很直白的话："抬高Anthropic的估值，对我而言已经没有任何好处。"据凤凰网报道，此前因安全顾虑离职的研究员，大多是工作多年、股权已经归属之后才走；像他这样在归属前两个月裸辞的，极少。
这恰好给了我们一个普通人也能用的判断框架：**一句话的分量，先看说话的人有没有从中获利。**一边渲染"AI灭亡论"一边卖课的人，话要打折扣；放弃股权走人再发声的人，话值得多听几秒。
真正棘手的不是"AI坏"，是"没人敢先刹车"
Coxon那篇离职帖里最有价值的部分，其实是回答了一个所有人都会问的问题：如果你们真信AI可能毁灭人类，为什么还在造？
他的答案分两层。在OpenAI，很多人没有真正从文明存亡的高度内化这个风险；在Anthropic，风险被充分理解，但公司陷入了一场"抢先抵达"的竞赛——他们认为别人不会负责任地行事，所以即便冒风险，也必须由自己来做，做那个最先抵达、也最有能力控制风险的人。
翻译一下，这就是教科书级的囚徒困境：每家公司都算过账，自己单方面停下来改变不了行业方向，只会把领先位置让给安全意识更弱的对手。于是没有人敢第一个减速。Coxon由此呼吁美国头部实验室之间建立"节奏协议"，必要时暂停继续提升模型能力；他认为，像Hugging Face遭受攻击这样的警示事件，已经让这种协调变得更可行。
更值得注意的是回应他的人：Anthropic对齐科学负责人Evan Hubinger以个人身份公开认同他的核心判断，说自己认为未来十年AI导致人类灭绝的概率超过10%，同时承认——目前还没有一套方案能解决超级智能的对齐问题。
内部人承认"没有方案"，这才是这条热搜真正的信息量。
但你不需要因此慌
扒到这里，我想把话题拉回我们自己身上。
Coxon和Hubinger担心的是"能自我改进的超级智能"，是前沿实验室竞赛里多年之后的极限场景；而你手里那个帮你写周报、整理资料、做表格的AI，和那件事之间隔着很远的距离。巨头在前沿下注，是巨头的游戏；我们要做的不是跟着恐慌，而是把可控的工具用好，把关键的判断留在自己手里。
具体来说：看到AI末日新闻，先查说话的人获不获利，这一条能帮你过滤掉大部分噪音；把AI当高效的助手而不是神谕，涉及钱、涉及健康、涉及重要决定的输出，人来把最后一道关；还有，别追"最强模型"的军备竞赛，日常写作、办公、整理，用成熟顺手的工具就够了——我在spark1.cn的/tools/栏目里整理的那些实用工具，覆盖的就是这类 everyday 场景。
竞赛是他们的，从容是你自己的。
💬 评论