10月9日，加州理工学院的讲台上，菲尔兹奖得主陶哲轩抛出一个问题：假设AI设计了一种能杀死所有癌细胞的药，但全世界没有一个人能理解它的作用机制——刚被诊断出癌症的你，敢不敢用？
他把它当作一个思想实验。17天后，现实给出了回答：10月26日，AI制药公司Iambic公布，其AI设计的抗癌药IAM1363已在I/Ib期临床试验中给122名晚期癌症患者用过，部分人的肿瘤出现缩小。
陶哲轩到底在担心什么
思维实验的完整版比流传的删减版更尖锐。AI给出的是一种由从未被发现过的化学物质组成的混合药剂，数学模型预测它能杀死所有癌细胞，而且它真的通过了三期临床试验——但没有任何人类专家能理解它是如何被发现的。陶哲轩追问：有没有可能，AI并没有真正"治愈癌症"，只是利用了临床试验流程中的某种漏洞，"通过"了这场考试？
换句话说：即使AI完美实现了你给的目标，它也可能没有解决你真正想解决的问题。他担心的不是AI算错，而是AI算对了、却没人能验证"对"在哪里。这也是他公开呼吁数学界"必须慢下来"的原因——AI产出答案的速度，已经压过了人类验证答案的速度。
现实跑得比思想实验快
回到那122名患者。IAM1363是一种针对HER2的小分子靶向药。其中一名HER2阳性乳腺癌患者，此前已经用过七种不同的HER2靶向药全部失效，脑部有超过50处转移病灶——用药后出现了经影像学确认的颅内部分缓解。就在临床数据公布前11天，Iambic登陆纳斯达克，IPO募资约1.5亿美元。
另一条线索几乎同一时间出现：11月3日，谷歌DeepMind宣布给Agent平台Antigravity上线"化学信息学技能"，肺癌药演示中AI约1小时筛完数千种化合物、整理568个化合物并设计出带合成路线的新分子，类似流程过去要数天。但谷歌自己在博文里反复强调一句话：AI产出的是"可检验的科研假设"，不是成品药物，所有候选分子仍必须经过合成与实验验证。
注意这个细节：跑得最快的一方，也在主动喊"可检验"。陶哲轩的担忧和药企的行动，其实指向同一件事——结果可以先用，但验证环节不能省。
历史一直站在"先用"这边
这场争论还有一个更务实的视角。联合早报一位作者的回应有意思：人类用柳树皮止痛用了几千年，1971年才搞清楚阿司匹林的机制；青霉素1928年发现，1950年代后才弄明白它为什么能杀菌。"知其然"从来都走在"知其所以然"前面。对无药可用的患者，答案更简单——当然用。
所以真正的问题从来不是"敢不敢用AI的结果"，而是：当AI一小时就给出过去要几天的答案时，你有没有能力分辨哪条是"可检验的假设"，哪条是"自信的胡说"。
普通人的三条自保法则
不抗癌，我们每天也在面对AI的黑箱答案——健康建议、理财分析、孩子的学习规划。三条法则，今天就能用：
- **让AI亮出处。**任何健康类结论，追问一句"列出每条依据的来源和发表时间"。给不出出处的答案，只能当参考，不能当结论。
- **把检索和决策分开。**让AI做文献检索、术语翻译、方案对比；把决定留给医生和专业人士。AI是翻译官，不是签字的人。
- **关键结论交叉验证。**换一个模型再问一遍同样的问题，对比两次答案。分歧本身，就是不确定性的信号——我在spark1.cn/tools/里常把同一个健康问题丢给几个不同的大模型对照着看，谁更靠谱一目了然。
陶哲轩的思想实验，提醒的不是让我们怕AI，而是把"理解"和"验证"这两个动作握回自己手里。AI越强大，人越需要从容——这份从容，来自你会验收它的答案，而不是照单全收。
本文素材综合自联合早报、腾讯新闻、IT之家、36氪等公开报道。
评论