1834微秒、593微秒、472微秒。
这不是论文里的实验表格,是一场直播画面上的数字实时跳动。10月30日上午,一个名叫ForgeKernel的Agent在一张英伟达B200上,把DeepSeek的FlashMLA Prefill算子从零写到472微秒——比原版的518微秒快了9.8%。整场直播22.5小时,42轮迭代,留下32个版本,消耗22个GPU小时。而人类为这个算子写的代码是:0行。
我翻出量子位的直播实录和几家媒体的背景报道对了一遍,想回答一个更实际的问题:这件听起来离普通人很远的"打铁活",跟你我到底有什么关系?
先说清楚"算子"是什么
算子是大模型里最小的干活单元。模型读的每一个字、算的每一次注意力,最后都落到一段段跑在GPU上的底层代码。FlashMLA是DeepSeek开源的注意力核心算子库,10月20日刚开源的推理框架DeepInfer也把它集成在内;它出自业内公认Infra最强的团队之手,被称为人类手写算子的巅峰。
关键在于,ForgeKernel拿到的只有算子的数学定义和目标硬件约束——没有源码,没有论文,0帧起手,靠自进化一轮轮改。不到4小时,耗时从1834微秒压到593微秒,降幅约67.6%;第7小时前后一次核心结构突破,首次超过FlashMLA。直播结束后,智能进化实验室随即联合OpenBMB社区宣布开源。
这不是孤例。10月底,这套出自面壁智能的算子生成系统还登顶了华为CANNBench的950DT、950PR、A3三大硬件榜单和英伟达SOL-ExecBench——同榜的还有SF Tensor、Databricks、Qwen、Cursor等海内外团队。在950PR榜单上,它的基准加速比达到1.886×,约为第二名的1.6倍。
为什么这对你是好消息
传导链条其实很短:算子变快 → 同一张GPU单位时间产出更多Token → 推理成本下降 → 你用的API价格、开的会员费用有了下调空间。950PR榜单报道里的原话是:同等硬件投入下可用算力接近翻倍,企业的算力采购与部署成本可相应降低约一半。
前两年的Token降价靠的是"拧毛巾"——厂商贴利润换市场。这一次,是毛巾里真的又多出了水:最贵的那道人工——底层优化——开始变成自动化流水线。
为什么AI能赢下这局?因为内核优化本质上是高频试错加量化反馈:改一版、跑一次分、看数字、再改。人类专家输的不是智力,是时间成本——几个月的打磨,Agent用22.5小时42轮迭代完成。这类"不知疲倦跑流程"的活,恰恰是Agent最擅长的。
看到这类新闻,怎么判断真假
送你一张三问速查卡,以后刷到"AI超越人类XX领域"的标题,先过这三关:
- 可复现吗? 这次是全程直播,每轮迭代有计时有跑分,比事后放结果可信得多。
- 有官方榜单吗? CANNBench、SOL-ExecBench分别是华为和英伟达的官方评测榜,第三方榜单比自家通稿硬。
- 开源了吗? ForgeKernel直播结束即宣布开源,敢让人检查,就是底气。
三个都是,大概率是真进步,值得认真看;有一个不是,先当宣传素材处理。
AI去打铁,人就可以回来决定造什么。如果你也想把手头的工作流交给AI跑一跑,spark1.cn(AI家园)的 /tools/ 和 /toolchains 里整理了现成的工具目录和工具链,可以直接抄作业,不用自己从零摸索。
评论