这两天国产模型这边节奏很密:MiniMax 放出 M3.1 Flash,蚂蚁百灵开源 Ling-3.1-flash,面壁智能更新端侧的 MiniCPM-V 4.7。三家的标题一个比一个响——「速度提升近 3 倍」「成本降低 70%」「总参数 560B」「35B 跑到手机上」。
数字是真的。但数字背后的口径,才是决定你要不要动手的那部分。这篇不推荐你装任何东西,也不评价谁强谁弱,只把这三个数字拆开,讲清楚它们各自管什么、不管什么。
一、MiniMax M3.1 Flash:快 3 倍和便宜 70%,其实是两件事
公开信息显示,这次更新的两个核心指标是「推理速度提升近 3 倍」和「Agent 任务成本降低约 70%」。
这两个数字不能混着读。速度说的是单位时间能产出多少内容,成本说的是同样一件事做完要付多少钱。它们之间没有必然关系:一个模型可以很快但很贵,也可以很慢但很便宜。
更值得注意的是第二个指标的口径——它限定在「Agent 任务」里。Agent 类任务和你平时的一问一答不是一种东西:问一句答一句只调一次模型,而一个 Agent 任务往往要循环调用几次、十几次甚至更多。单价降下来以后,这个折扣会被调用次数放大,所以「降 70%」在 Agent 场景里的实际体感,通常比你按单次价格算出来的更明显。
反过来也成立:如果你只用它做单轮问答,那个 70% 在你这儿会缩水。
还有一点要写明白:上游发新版本,对本站用户没有直接影响——AI家园 用的是自己的模型网关,上游换一版,你手上的工具不会跟着变一次。真正跟你有关的,是价格与计费口径怎么变,这一层我们此前在讲搜索开始单独收费时已经写过一次(AI替你上网搜资料,要开始收钱了)。
二、蚂蚁 Ling-3.1-flash:560B 的总参数,只激活 25B
这一条最容易误读的地方,是把「总参数」当成「每次都跑这么多」。
公开口径里,Ling-3.1-flash 总参数 560B、每次激活约 25B,上下文窗口 1M。这是典型的稀疏专家结构:可以把它想成一个很大的仓库和一个很挑的拣货员——仓库里货很多(知识容量大),但这一单只取出用得上的那几件(真正参与计算的参数)。
所以「560B」说明的是它能装下多少东西,「激活 25B」说明的是它跑一次要花多大劲。两个数字要一起看,只报一个都不完整。
那 1M 上下文呢?它解决的是「一次能塞进多少材料」的问题——长文档、长代码库、整本书这类场景确实受益。但上下文不是免费的自助餐:塞得越多,响应越慢、单价越高,而且中间部分的信息被注意力稀释是这类长窗口模型的通病。真要用,还是分块处理更稳。
三、面壁 MiniCPM-V 4.7:35B 跑上手机,「无损」说的是什么
公开报道里这一条的说法是「35B 开源模型首次无损流畅跑上手机」。
这里的「无损」需要打个问号再理解。端侧跑大模型,几乎必然经过量化压缩,业界说的「无损」一般指压缩后在基准测试上的精度损失控制在可接受范围内,不是「和云端旗舰完全同水平」。你要是把它理解成「手机上装了个 560B 的云端大模型」,后面一定会失望。
第二个要分清的是「跑得动」和「该在手机上跑」。手机上跑得动,意味着模型体积、内存占用、发热和耗电都被压到了可用区间;但可用不等于好用——长时间对话的手机发热、切后台被系统回收、模型文件占掉十几 G 存储,这些都是真实代价。想认真评估要不要本地跑,先看这两篇:本地部署到底要多少显存,我们做过一张对照表(本地部署大模型自查清单);手机上现在能跑哪些 AI 能力,也单独盘过(手机 AI 时刻:哪些 AI 工具已经能在手机上跑)。
端侧真正的价值不在省钱,而在于隐私和离线:数据不出设备、断网也能用。省下来的那点调用费,通常抵不上你为此花的时间与设备成本。
四、把三个数字放在一起:三条能立刻用上的判据
看完热闹,落到你自己身上,其实只需要问三个问题。
第一,这个数字的单位是什么。 速度是按每秒多少 token 算,还是按首次响应时间算?成本是按输入算、按输出算,还是算上缓存命中后的折扣?单位不同,同一句话的结论可以完全相反。
第二,我的用法会把差价放大还是抹平。 单轮问答看的是单次价格,多轮 Agent 看的是调用次数乘单价。你的用法决定了哪个数字跟你有关。
第三,换模型的迁移成本是多少。 模型可以换,提示词不一定能照搬。去年调好的那一套写法,换个模型可能需要重新磨一遍——这部分成本从来不写在价目表上。
顺带说一个观察:这一轮「降价提速」和「搜索能力开始单独计费」几乎同时发生。单看任何一条都容易得出片面结论,把总账放在一起看更接近事实——便宜的部分可能被新开的口子抵掉一部分。这也是我们一直建议的读法:先算总账,再看单价。
Q: MiniMax M3.1 Flash 提速 3 倍,我用起来会快 3 倍吗?
不一定。官方口径的速度提升通常指模型侧的推理吞吐,而你实际感受到的快慢,还包括网络往返、工具调用、前端渲染这些环节。只做一次简单问答时,这些环节占的比例更大,体感差异会被摊薄;调用密集的长任务里,差异会更明显。
Q: 560B 总参数、25B 激活,到底算大模型还是中等模型?
两个数字回答的是两个问题。560B 总参数代表知识容量和表达能力的上限,25B 激活代表每次计算的实际开销。按计算量看它接近中等规模模型的成本,按容量看它是大模型级别的骨架。判断效果还得看具体任务,不能只看参数。
Q: 手机上跑 35B 大模型,是不是以后不用联网也能用 AI 了?
可以,但要接受几个前提:模型要占掉可观的存储和内存、连续使用会明显发热、后台被系统回收是常态、能力上通常弱于云端旗舰。它适合隐私敏感和断网场景,不适合替代日常的云端助手。
Q: 这些新模型,AI家园 会跟进上线吗?
本站工具走的是自家模型网关,是否切换由成本、稳定性与效果实测共同决定,不会因为上游发版就跟着换。对普通用户来说,更实际的做法是先用现成工具把需求跑通,等新版本在真实任务上稳定下来再考虑。
评论