苹果新芯片M6发布了。
官方对它的AI算力,几乎什么都没说。
但B站一位个人开发者,硬是自己测了个底朝天。
10月9日,UP主"751Fs"发布视频《乞版Mac也有个大模型梦:MacMini M6 本地大模型体验测评》。视频背后,是一份公开在GitHub上的完整技术报告,把苹果藏起来的"神经网络引擎"扒得明明白白。
今天这篇文章,不用你懂芯片,也能看明白三件事:苹果为什么不说了、这个人怎么测出来的、跟咱们普通人有什么关系。
一、先搞懂:什么是"神经网络引擎"
咱们的电脑芯片里,其实住着好几位"工人"。
CPU是全能工人,什么活都能干,但干AI的活不够快。
GPU擅长画图打游戏,顺便也能算AI。
而神经网络引擎(苹果叫它ANE),是专门算AI的"专科医生"。它只干一件事:海量的乘法和加法。AI模型说到底,就是数不清的乘法加加法。专科医生干专科的活,又快又省电。
苹果从2017年就开始在芯片里塞这个"专科医生"。到了M6,出现了一个大变化——
一块芯片里,塞进了两个神经网络引擎。
这是苹果自M1以来最大的一次结构调整。但苹果官方呢?从M5开始,连峰值算力的数字都不公布了。问就是"很强",具体多强,你自己猜。
二、一个人,一台电脑,把黑箱测透了
猜什么猜。有位开发者不猜了。
他把研究过程写成报告,连同全部原始数据、实验工具、分析脚本,一起开源在GitHub上:
https://github.com/751K/Apple-Neural-Engine-Microarchitecture-Study-M6
更难得的是他的做法:不破解、不修改系统,只用苹果公开给开发者用的接口,加上只读分析。就像不拆表,光听滴答声、看指针走动,把钟表内部结构推了出来。
他测出了什么?挑几个说人话的版本:
1. 每个引擎有16个"计算小核心",满载时频率2.58 GHz。单个引擎实测的FP16吞吐量是20.6 TFLOPS——什么概念?一秒钟能做20万亿次以上的浮点运算。你手机一秒的AI计算量,搁二十年前全世界的电脑加起来都算不完。
2. 两个引擎共用一扇"取货门"。 AI模型运行时,要不停从内存里读取模型权重。报告测得这条读取通道带宽约150 GB/s,两个引擎共享。这就像后厨请了两位大厨,但库房只有一扇门。大厨手再快,也得排队取菜。
3. 所以"双引擎"不是双倍速。 计算密集的任务,双引擎能加速1.92倍,接近翻倍;但读取权重密集的任务,只能加速约1.4倍——瓶颈在那扇"门"上,不在大厨手上。
4. 实际用起来,M6比上上代M4快1.4到2.7倍,任务类型不同,差距不同。
这些数字,官方一个都没说过。全是一个普通人,用公开工具,一点点测出来的。
三、古人早就懂这个理
看到这份报告,我想起沈括。
九百多年前,他写《梦溪笔谈》,记载毕昇的活字印刷、观察磁针偏角、考证化石成因。没人给他立项,没人给他经费。他就是看见了、好奇了、动手验证了、记下来了。
这份M6芯片研究,一脉相承:看见黑箱,不迷信权威,用可复现的实验把真相量出来。报告里每个结论都标了证据来源,任何人都能顺着数据自己验证一遍。
技术会变,工具会变,这股"格物致知"的劲头,一千年没变过。
四、跟咱们普通人有什么关系
关系还真不小。最近B站上冒出一大批视频,主题都一样:用几千块的Mac mini,在自己家里跑大模型。不用联网,不用付费,AI就在你桌上跑。
如果你也动了心,这份报告能帮你避开两个坑:
第一,跑本地AI,内存比芯片型号更重要。 大模型要整个装进内存里才能跑。模型文件多大,你的可用内存就得比它大出一截。内存不够,芯片再强也白搭。
第二,别迷信"算力翻倍"的宣传。 报告说得很清楚:大模型对话这种任务,瓶颈往往是"读权重"的带宽,不是计算速度。就像做饭慢,可能不是灶不旺,而是冰箱门太窄。买之前,看清瓶颈在哪。
想今天就试试?三步:
- 去官网下载一个免费的本地大模型工具(比如LM Studio),像装普通软件一样装好;
- 在工具里选一个小体积的模型下载,几个GB,喝杯茶的功夫就下完了;
- 断网,跟它聊一句。你会发现——AI真的在你自己电脑里跑,一个字都没发出去。
隐私敏感的文件、不想让别人知道的提问,本地模型都能兜住。这,就是"AI普惠"落到实处的样子。
写在最后
苹果把参数藏起来,是想让你觉得神秘,让你掏钱。
一位普通开发者把参数测出来,是想告诉你:神秘背后,也是可以被理解、被验证、被使用的技术。
AI从来不是大公司的专利。看得懂原理的人,才不会被宣传牵着走。
你的电脑内存有多大?敢不敢试试本地跑个小模型?评论区聊聊。
如果这篇对你有帮助,欢迎关注公众号xAI智工场,把高冷的AI翻译成人话。
- 关注公众号,回复「提示词」,免费领取100+精选AI提示词模板
- 微信交流群:xaizgc
- 知识星球:每天一个AI实操干货,陪你从入门到上手
评论