11 月 21 日凌晨,北京时间刚过零点,腾讯首席 AI 科学家、混元大模型负责人姚顺雨带着混元团队出现在 Reddit 的 r/LocalLLaMA 社区,做了一场两小时的 AMA(公开问答)。据钛媒体报道,这是混元团队首次在开发者社区公开答问,共收到三百多条留言,话题从架构取舍一路覆盖到安全评测。
有一句话值得单独拎出来。被问到"后训练阶段最难改变的行为是什么",团队给出的回答是:过度思考。
他们承认了三件不那么"发布会"的事
第一件就是上面那条。模型想太多、说太多,不是偶尔发作,而是后训练阶段最难改掉的行为之一。
第二件是关于参数规模。据每日经济新闻报道,有开发者直接问:字节跳动和 Kimi 等似乎都在往 3T 甚至 5T 推,你们为什么停在 700B?混元团队的回应是:"Hy3 和 Hy4 已经证明,较小的模型也能超越较大的模型,而且更便宜。"同一段采访里他们也留了余地:Hy4 仍有很大改进空间,尤其是后训练,并且计划训练更大规模的模型。
第三件是承认过程里押了注。据钛媒体报道,被问到开发中最难的时刻,团队成员说从 Hy3 扩展到 Hy4 最困难,数据消融实验没做那么细,"训练刚开始时,我相当紧张",最后的感受是"感觉就像把筹码全押上,结果真的赢了"。同一场问答里,他们还给自家模型定位了一个数字:按 Levels of AGI 分级,团队自评 Hy4 是 2.5 级——注意这是团队自评,不是任何机构给出的评定。
另外还有一句容易被标题吃掉的话:他们也注意到模型输出"普遍退化",认为可能与训练目标有关,希望模型写出来"更像人类,少一些套路化表达"。
"过度思考"为什么跟你有关系
厂商说的是训练侧的难题,但同一件事在普通人这边有个一模一样的对应物:你问一句简单的话,它先给你八百字铺垫——复述一遍你的问题、列三条你根本不需要的前提、末尾再补一段"需要注意的是"。你想要的是答案,它交付的是一篇小作文。
两件事是同一个根:这是被训练出来的行为,不是模型的脾气。既然是训练目标的产物,那它就不该被理解成"这家的模型就这样",而应该被理解成一个可以被调的东西。混元团队给的解法在后训练那一侧,你够不着;你这侧的旋钮叫提示词和输出预算。
本站早前写过思考预算这件事,结论可以直接抄:大模型的「思考」也在花钱:Thinking Budget 是什么、怎么调不翻车——日常易事把思考调低或关掉,难题给它留够余量,遇到空白或截断先查预算再怪模型。这里只补一条我们在自己站上踩过的坑:早期对话功能接推理型模型时,出于成本把输出上限设得太紧,结果模型在"想"的阶段就把额度用光,用户端看到一个空白回复框。后来我们把对话场景的上限统一放宽,空白回复基本消失——上限是天花板,不是每次都要写满,抠太紧省不了多少钱,赔掉的是整次调用。
至于"套路化表达"那一头,它和 AI 内容塑料感是同一件事的两个说法。张朝阳嫌AI短剧是"化肥西红柿" 那篇里写过:AI 擅长生产平均值,而人味儿长在偏差里。混元团队这次等于从研发侧承认了这个平均值的存在,并且把它列为要改的目标。落到你自己身上,最省事的办法不是换个模型,而是把"别复述我的问题、别写注意事项、直接给结论"这类要求写进指令里,具体怎么搭可以翻 提示词五要素框架。
"小模型也能赢",这句话该这么读
团队的原话值得记,但它是自述:说的是自家 Hy3、Hy4 的取舍,不是一条普适定律。据钛媒体报道,11 月 4 日发布的 Hy4 在第三方评测机构 Artificial Analysis 的智能指数榜单上位列中国模型第二,在 Agent Arena 榜单上居开源模型首位;一周多之后发布的 Hy4 flash 定位日常任务,单任务成本只有 Hy4 的二十分之一。这些数字来自报道转述,我们没有在服务器上自行复测。
对普通人的翻译只有一句:参数规模不是"这个工具能不能用"的证据。选模型和选工具一样,看它能不能把你手上那件具体的事做完、做完要不要反复返工、以及一次要花掉多少。榜单名次会变,你那份材料重跑的返工次数不会骗人。
如果你正好被"AI 话太多"困扰,站里两个入口是干这件事的:写作润色负责把一坨啰嗦输出改紧凑、也可以顺带去掉那股套路味;AI说人话负责把看不懂的术语、政策、合同翻成大白话。都在 AI百宝箱里,多数首次免费。
Q:「过度思考」到底指什么?
指模型在不需要长推理的任务上,也先生成一长串铺垫、复述和"需要注意的是",把简单问题写成小作文。混元团队把它列为后训练阶段最难改的行为之一,说的是训练侧的顽固性,不是说用户没有办法——你这侧的抓手是提示词约束和输出预算。
Q:混元自评的「2.5 级」是什么意思,可信吗?
Levels of AGI 是研究界用来讨论的分级框架,不是权威认证。据钛媒体报道,这个 2.5 级是混元团队在 AMA 上给自家 Hy4 的自评,出自被评估的一方。看这类数字,记住"谁给的分级"比记住分级本身更重要。
Q:我该把模型的思考功能关掉吗?
分场景。数学、代码、多步规划这类任务,思考确实换来了正确率,关掉是亏的;翻译、提取、改写这类易事,思考基本是纯支出。判断口径和具体调法在这篇里:大模型的「思考」也在花钱。
Q:本文的数字有第三方验证吗?
没有。文中所有关于 AMA 的内容出自钛媒体与每日经济新闻 11 月 21 日的报道,榜位与成本倍数均为报道转述,本站未在服务器上复测,也不据此推荐任何厂商。
评论