AI把DeepSeek的算子写快了9.8%,跟你的Token账单有什么关系?

AI把DeepSeek的算子写快了9.8%,跟你的Token账单有什么关系?

· ⏱ 3 分钟阅读 spark1 4 次阅读
听全文
点击播放,AI语音朗读全文
1.0x
Alt+L 开关面板 Space 播放/暂停 Esc 关闭 Alt+S 停止 Alt+P 固定
标签 AI DeepSeek 算子 ForgeKernel Token降价

1834微秒、593微秒、472微秒。

这不是论文里的实验表格,是一场直播画面上的数字实时跳动。10月30日上午,一个名叫ForgeKernel的Agent在一张英伟达B200上,把DeepSeek的FlashMLA Prefill算子从零写到472微秒——比原版的518微秒快了9.8%。整场直播22.5小时,42轮迭代,留下32个版本,消耗22个GPU小时。而人类为这个算子写的代码是:0行。

我翻出量子位的直播实录和几家媒体的背景报道对了一遍,想回答一个更实际的问题:这件听起来离普通人很远的"打铁活",跟你我到底有什么关系?

先说清楚"算子"是什么

算子是大模型里最小的干活单元。模型读的每一个字、算的每一次注意力,最后都落到一段段跑在GPU上的底层代码。FlashMLA是DeepSeek开源的注意力核心算子库,10月20日刚开源的推理框架DeepInfer也把它集成在内;它出自业内公认Infra最强的团队之手,被称为人类手写算子的巅峰。

关键在于,ForgeKernel拿到的只有算子的数学定义和目标硬件约束——没有源码,没有论文,0帧起手,靠自进化一轮轮改。不到4小时,耗时从1834微秒压到593微秒,降幅约67.6%;第7小时前后一次核心结构突破,首次超过FlashMLA。直播结束后,智能进化实验室随即联合OpenBMB社区宣布开源。

这不是孤例。10月底,这套出自面壁智能的算子生成系统还登顶了华为CANNBench的950DT、950PR、A3三大硬件榜单和英伟达SOL-ExecBench——同榜的还有SF Tensor、Databricks、Qwen、Cursor等海内外团队。在950PR榜单上,它的基准加速比达到1.886×,约为第二名的1.6倍。

为什么这对你是好消息

传导链条其实很短:算子变快 → 同一张GPU单位时间产出更多Token → 推理成本下降 → 你用的API价格、开的会员费用有了下调空间。950PR榜单报道里的原话是:同等硬件投入下可用算力接近翻倍,企业的算力采购与部署成本可相应降低约一半。

前两年的Token降价靠的是"拧毛巾"——厂商贴利润换市场。这一次,是毛巾里真的又多出了水:最贵的那道人工——底层优化——开始变成自动化流水线。

为什么AI能赢下这局?因为内核优化本质上是高频试错加量化反馈:改一版、跑一次分、看数字、再改。人类专家输的不是智力,是时间成本——几个月的打磨,Agent用22.5小时42轮迭代完成。这类"不知疲倦跑流程"的活,恰恰是Agent最擅长的。

看到这类新闻,怎么判断真假

送你一张三问速查卡,以后刷到"AI超越人类XX领域"的标题,先过这三关:

  1. 可复现吗? 这次是全程直播,每轮迭代有计时有跑分,比事后放结果可信得多。
  2. 有官方榜单吗? CANNBench、SOL-ExecBench分别是华为和英伟达的官方评测榜,第三方榜单比自家通稿硬。
  3. 开源了吗? ForgeKernel直播结束即宣布开源,敢让人检查,就是底气。

三个都是,大概率是真进步,值得认真看;有一个不是,先当宣传素材处理。

AI去打铁,人就可以回来决定造什么。如果你也想把手头的工作流交给AI跑一跑,spark1.cn(AI家园)的 /tools/ 和 /toolchains 里整理了现成的工具目录和工具链,可以直接抄作业,不用自己从零摸索。

版权声明:本文由 AI家园 团队创作。欢迎非商业性转载或引用,转载时须注明原文出处并保留原文链接;商业使用请事先联系授权。

本文链接:https://spark1.cn/articles/20261104-forgekernel-ai-operator-beats-deepseek · 转载规则详见《服务条款》

喜欢这篇文章?获取更多干货

关注公众号「xAI智工场」

关注公众号「xAI智工场」

每天一个AI干货
回复「提示词」免费领实战模板包

加入AI交流群

微信号:xaizgc
和AI爱好者一起成长

深度精选

知识星球「AI实战圈」

系统课程 · 社群答疑 · 资源库
¥99/年

立即加入 →
分享到

想用 AI 马上搞定这件事?

查看全部 AI 工具 →

评论

加载中...

转载或引用本站内容请注明原文出处及链接 · 转载规则

Copyright © 2026 AI家园 浙ICP备2024142181号-2 浙公网安备 33010202005420号

监管机关:浙江省通信管理局