从统一内存到本地智能体:苹果的端侧AI路线意味着什么

苹果借统一内存与软硬件整合,押注本地推理和端侧AI智能体。

冷月清谈:

文章认为,Apple Silicon 的长期价值不只是摆脱英特尔,而是通过统一内存、异构计算和软硬件协同,为端侧AI建立基础设施。随着开放权重模型、量化和混合专家架构不断提升效率,大模型在消费级设备上运行正变得可行,内存容量与带宽也可能比单纯的TOPS指标更关键。文章将Mac mini视为始终在线的本地智能体节点,将Mac Studio视为面向专业机构的本地推理工作站。苹果未必需要在基础模型竞赛中领先,其优势可能来自对芯片、操作系统、个人上下文和应用分发的整体控制。未来更可能形成端侧小模型、私有云模型与外部前沿模型结合的混合架构。

怜星夜思:

1、决定AI任务放在本地还是云端时,最该优先考虑隐私、成本、速度,还是模型能力?
2、统一内存真能成为苹果的长期AI护城河,还是只是在显存昂贵阶段占了便宜?
3、如果基础模型逐渐商品化,苹果不争夺最强模型、只控制设备和分发入口,真的足够吗?
4、把Mac mini当作全天运行的本地AI智能体,落地时最大的障碍会是什么?

原文标题:独家丨苹果正在告诉我们AI将走向何处,我们真的听懂了吗?

原文作者:数据派THU

原文内容

图片
作者:Evandro Barros
翻译:付思羽
校对:尹悦

本文约5300字,建议阅读10分钟
本文深入剖析了 Apple Silicon 在 AI 时代的长期战略优势。


 [ 导读 ] 从 M1 奠定统一内存架构,到 M6 实现异构 AI 计算,苹果的芯片路线正从追求能效转向围绕端侧 AI 重新设计。结合开放权重模型的快速演进,越来越强的模型可在消费级设备运行,使大容量统一内存比单纯的 TOPS 指标更具战略价值。文中将 Mac mini 与 Mac Studio 分别定位为本地 AI Agent 和专业推理的潜在核心,并分析了本地推理在成本、延迟与数据安全上的优势。同时,结合 John Ternus 出任 CEO,探讨了苹果不直接卷基础大模型,而是通过控制硬件、系统、个人上下文与分发渠道,将 AI 与设备深度整合的终局思维——苹果并非“错过 AI”,而是在为端侧智能提前构建基础设施。


关键词:Apple Silicon、苹果 AI、端侧 AI、统一内存、开放权重模型、AI Agent、本地推理。


原文标题:

Apple Is Telling Us Where AI Is Going. Are We Listening?
原文链接:

https://medium.com/@evandro_78268/apple-is-telling-us-where-ai-is-going-are-we-listening-dda8eda2e024


2020年11月,苹果推出 M1 芯片时,最显而易见的故事是:苹果终于开始摆脱英特尔了。


这个判断没有错,但并不完整。


M1 让苹果真正掌握了 CPU 设计、GPU 设计、功耗控制、内存架构以及操作系统优化。苹果当时对这次转型的解释是,希望在旗下不同产品之间建立统一的架构,并大幅提升单位功耗下的性能。


六年过去,我们再回头看这项决定,它的意义已经发生了变化。


苹果刚刚推出了 M6——其首款采用 2 纳米制程的处理器,以及 M5 Ultra。M6 配备 12 核 CPU、12 核 GPU、Neural Accelerators(神经加速器)、双 16 核 Neural Engine(神经网络引擎),统一内存带宽最高可达 170GB/s。而在高端产品上,M5 Ultra 可以提供最高 512GB 的统一内存,以及 1.2TB/s 的内存带宽。苹果甚至明确表示,这些系统是为了让开发者能够在本地运行并微调大型 AI 模型。


甚至连营销语言都变了。


苹果现在把新款 Mac mini 描述为一台用于“始终在线的智能体计算”(always-on agentic computing)的机器。


这个值得关注的表述,可能比又一次提升 20% 的 CPU 跑分更具重要性。


因为过去几年,整个行业都在不断建设规模庞大的云端 AI 基础设施。与此同时,另一件事情也在发生:AI 模型本身正在以惊人的速度变得越来越高效。


而这恰好直接契合了苹果的芯片架构。


M1,本质上是一场垂直整合


第一代 M1 的核心,本质上是一项整合战略。


过去,苹果需要从英特尔购买 CPU,再搭配独立显卡、内存控制器以及其他组件。而 M1 则把 CPU、GPU、Neural Engine、媒体处理器以及其他功能全部整合进一颗系统级芯片(SoC)。


对于后来 AI 的发展而言,更重要的是,M1 将苹果的统一内存架构(Unified Memory Architecture)带到了 Mac 上。


CPU 和 GPU 可以直接访问同一块内存,而不需要像传统架构那样,在系统 RAM 和独立 GPU 显存之间不断搬运数据。


当时,苹果主要强调的是性能和续航。


但对于 AI 来说,统一内存还有一个非常重要的影响:GPU 可以使用的内存容量,可能远远超过许多传统显卡所拥有的 VRAM(显存)。


苹果很快开始扩大这一思路。


M1 Ultra 的统一内存达到 128GB,内存带宽达到 800GB/s;M2 Ultra 将容量进一步提升至 192GB。到了 2025 年,M3 Ultra 的最高配置已经可以达到 512GB 统一内存。苹果当时甚至已经开始宣传,它能够让包含超过 6000 亿参数的语言模型完全装入内存中运行。


最初看起来只是一种优雅的图形处理架构。但突然之间,它看起来又异常适合本地生成式 AI。

图片

然后,苹果的芯片路线开始改变方向


看看这条演进路线:


  • M1:建立 Apple Silicon、统一内存以及极高的单位功耗性能。

  • M2:进一步扩大架构规模——内存带宽相比 M1 提升 50%,统一内存最高达到 24GB,神经网络引擎(Neural Engine )速度提升 40%。

  • M3:彻底重新设计 GPU,引入动态缓存(Dynamic Caching)、硬件光线追踪和网格着色(Mesh Shading)。

  • M4:AI 开始成为明确的重点。苹果重点宣传其每秒可执行 38 万亿次运算的 神经网络引擎,同时 CPU 和 GPU 中也加入了机器学习加速器。

  • M5:架构变化变得更加值得关注。苹果在每一个 GPU 核心内部都加入了 神经加速器(Neural Accelerator),并宣称其 AI 峰值 GPU 计算性能超过 M4 的 4 倍、超过 M1 的 6 倍。基础版 M5 的内存带宽也进一步提升至 153GB/s。


而现在的 M6,则将 2 纳米制程、GPU 神经加速器、双神经网络引擎以及更高的内存带宽结合在一起;与此同时,M5 Ultra 将内存带宽进一步推高至 1.2TB/s。


这已经越来越不像是“苹果给 PC 处理器加了一个 AI 加速器”。


这更像是:苹果围绕异构 AI 计算,将整台电脑重新设计了一遍。


CPU。

GPU。

神经网络引擎。

统一内存。

专用加速器。


以及由软件决定每一项运算究竟应该在哪里执行。


开放权重模型,是缺失的那一块拼图


这套架构之所以越来越具有战略意义,是因为 AI 能力已经不再局限于运行在超大规模数据中心里的巨型专有模型。


开放权重(open-weight)模型生态正在极其迅速地发展。


DeepSeek-R1 展示了高能力推理模型以及蒸馏版本可以以开放形式发布。随后,OpenAI 发布了 gpt-oss-120b 和 gpt-oss-20b。其中,20B 版本的设计目标是使用大约 16GB 内存运行,而 120B 模型则面向单个 80GB 加速器。


这一趋势一直延续到 2026 年。


Hugging Face 最近对开放权重模型生态的分析认为,本地推理已经从“在笔记本电脑上运行一个 80 亿参数模型”,逐渐走向“在消费级硬件上运行规模巨大的混合专家(Mixture of Experts,MoE)系统”。而对于苹果而言,还有一点尤其值得注意:2026 年前七个月,围绕苹果 MLX 生态的活跃程度增长速度,明显快于整个模型生态的增长速度。


最近的一项实验尤其能说明这种变化。Hugging Face 社区的一项分析发现,2024 年到 2026 年中,一台配备 128GB 内存的 MacBook Pro 能够实际运行的最佳开放权重模型的能力出现了大幅提升。但与此同时,这台机器的最大内存容量几乎没有变化。换句话说,性能提升主要并不是来自更强大的硬件,而是来自更好的模型架构、量化技术、混合专家设计以及后训练(Post-training)。


这改变了苹果这套战略背后的经济逻辑。


苹果并不一定需要 AI 模型不在变大。


它真正需要的是:


有用的模型变得越来越高效。


而现在,这就是正在发生的事情。


图片

苹果真正的 AI 优势,可能是内存,而不是 TOPS


PC 行业很大程度上都在围绕 TOPS——每秒万亿次运算(trillions of operations per second)进行 AI 营销。


但大型模型推理还有一个更加基础的限制:


内存。


模型必须能够装得下。


而且,模型权重还必须能够以足够快的速度被读取和处理,才能完成推理。


这正是苹果统一架构在战略上显得与众不同的地方。


苹果的 MLX 框架就是围绕这一架构专门设计的。CPU 和 GPU 可以直接操作同一个内存池,而不需要在独立的 CPU 内存和 GPU 内存之间复制数组。如今,MLX-LM 已经支持数千个 Hugging Face 模型,同时支持量化、微调、提示词缓存(prompt caching),甚至支持分布式推理和分布式微调。


这使得一台拥有数百 GB 统一内存的 Mac Studio 变成了一种非常特殊的机器。


它当然不是 NVIDIA (英伟达)训练集群的替代品。


但它也不需要成为替代品。


它完全可以成为一台能力极强的个人 AI 推理设备。


而这可能会成为一个规模巨大的新市场。


换一种方式理解 Mac mini


这也是为什么我认为苹果 M6 Mac mini 的发布尤其值得关注。


传统上,Mac mini 被视为苹果价格相对亲民的桌面电脑。


但现在,苹果明确将它描述成一台用于“始终在线的智能体计算(always-on agentic computing device)”设备。


这改变了我们理解它的方式。


想象一下,不把 Mac mini 理解成一台连接显示器的电脑,而是一个接入网络、持续运行的端侧AI 设备。


它了解你的文档。

它索引你的文件。

它处理电子邮件。

它运行编程智能体。

它执行自动化任务。

它转录会议。

它运行本地多模态模型。


只有在必要的时候,它才与云端最先进的模型进行通信。


而由于其中大量任务都在本地完成,再增加一百万个 token 的边际成本,就不再主要表现为一笔新的 API 账单,而越来越接近于额外的电力成本。


这可能成为苹果对 AI Agent 的回答。


不是再增加一个聊天窗口。


而是一台能够持续运行智能体的计算机。


Mac Studio,则占据战略的另一端


Mac Studio 随后成为同一思路下的工作站版本。


苹果并没有刻意淡化这一定位。它将最新款 Mac Studio 称为其“终极桌面级端侧 AI 设备”,统一内存最高可达 512GB。


这也打开了一个完全不同的市场。


开发者。


AI 研究人员。

金融机构。

设计工作室。

医疗机构。

国防与政府部门。

拥有机密数据的企业。


以及那些无法轻易将专有数据集发送给外部 API 的组织。


云端在训练前沿规模模型方面仍然具有压倒性的优势。


但推理则是另一回事。


如果一个足够强大的模型可以在本地运行,那么企业突然就可以获得可预测的成本、更低的延迟、离线运行能力,以及对数据更强的控制。


苹果不需要在英伟达最擅长的游戏里击败英伟达。


它可以创造一场不同的游戏。


然后,苹果让硬件负责人接管了公司


这也是为什么 CEO 的交接传递了不可忽视的信号。


苹果在 4 月宣布,此前担任硬件工程高级副总裁的 John Ternus 将接替 Tim Cook(蒂姆·库克) 出任 CEO,并于 2026 年 9 月 1 日正式生效。Cook 则转任执行董事长。


所以,Ternus 已经不再是苹果的“下一任 CEO”。


从本周开始,他就是苹果的 CEO。


而他的背景很重要。


Ternus 多年来掌管 Mac、iPhone、iPad 以及苹果主要硬件产品业务的团队/部门,并在 Apple Silicon 的转型过程中发挥了重要作用。而他的任命,恰恰发生在科技行业战略竞争的重心越来越从“谁拥有最好的 AI 模型”,转向“这些模型究竟在哪里运行”的时候。


这是巧合吗?


我不会把话说到这个程度。


但我也不会声称,苹果选择 Ternus 完全是因为 AI。


苹果的 CEO 继任远远不只是一个技术周期的问题。


更加站得住脚的解释是:Ternus 恰好非常契合苹果现在所面对的战略问题。


在库克时代,苹果的竞争优势来自卓越的运营能力、对供应链的掌控、服务业务的扩张以及生态系统的规模。


而在下一个时代,苹果的差异化可能会越来越依赖于将芯片、传感器、设备和软件整合成一个完整的 AI 平台。


而这,显然更接近 Ternus 所熟悉的领域。


苹果其实不需要赢下基础模型之战


那么,苹果自己的模型在哪里?


这可能是外界理解苹果 AI 战略时最大的误区之一。


如果竞争被定义为:


苹果模型 vs. OpenAI 模型 vs. Google 模型 vs. Anthropic 模型。


那么苹果看起来确实处于劣势。


但这可能根本不是苹果打算参与的竞争。


苹果已经向开发者开放了基础模型框架(Foundation Models framework),而其 2026 年的智能架构也提供了相应机制,可以使用苹果自己的模型、服务器端模型、第三方模型提供商以及定制的端侧模型。苹果还推出了 Core AI,专门帮助开发者在 Apple 设备上运行自己的模型。


因此,这一战略位置可能更接近于:


OpenAI、Anthropic、Google、DeepSeek、Qwen 以及其他公司竞争的是智能本身。


而苹果控制的是:


智能在哪里与用户相遇。

这意味着:

硬件,

操作系统,

内存,

传感器,

身份,

应用,

个人上下文,

以及分发渠道。


在模型越来越趋向商品化的世界里,占据这样的位置,可能拥有极其强大的战略价值。


苹果正在向市场释放什么信号


我认为,苹果正在同时传递四个信息。


对消费者:AI 并不一定意味着要把所有东西都发送到数据中心。


对开发者:Mac 正在成为一个真正严肃的本地 AI 开发与推理平台。


对企业:除了购买云端 token 或运行英伟达服务器之外,AI 还存在另一种架构。


而对投资者:不要仅仅通过“下一代 Siri 能不能在基准测试中击败最新聊天机器人”来评价苹果的 AI 战略。


苹果可能正在为 AI 建立一种不同的经济模式。


一种让智能部分成为设备本身属性的模式。


这对苹果之外的世界意味着什么


对于 NVIDIA(英伟达) 来说,这并不是对其前沿模型训练领域主导地位的直接威胁。Mac 并没有取代大规模 CUDA 集群。


但本地推理正在成为越来越大的一部分 AI 工作负载。每一个在设备上执行的工作负载,都意味着它未必需要一块云端 GPU。


对于Intel(英特尔)、AMD(超威半导体)、Qualcomm(高通) 以及 PC 制造商而言,苹果提出了一个比处理器跑分更加棘手的问题:一项 AI 工作负载能够访问多少内存?内存带宽是多少?功耗是多少?又能够通过什么样的软件栈调用这些资源?


对于云端 AI 服务商而言,本地模型可能会开始对日常推理的经济模式施加压力。前沿智能仍然有价值。但如果只是让一个前沿云端模型去总结每一封邮件、分类每一份文件,那么这种做法最终可能在经济上显得荒谬。


对于模型公司而言,越来越强大的开放权重模型正在把一部分竞争壁垒从模型本身转移到分发与执行。


而这恰恰是苹果最强的地方。


接下来会发生什么


如果上述判断是正确的,那么苹果接下来可能会出现几个值得关注的变化。


首先,统一内存会变得越来越具有战略意义。预计苹果会继续提高内存容量和带宽,尤其是在 Pro、Max 和 Ultra 系列处理器上。


其次,神经加速器(Neural Accelerators )很可能会进一步扩散到整个架构中。M5 已经将它们嵌入 GPU 核心,而 M6 则将 GPU加速能力与双神经网络引擎(neural engine)结合起来。“GPU 计算”和“AI 计算”之间的区别正在变得越来越没有意义。


第三,Mac mini 可能会逐渐演变成苹果的本地 Agent 设备。苹果自己提出的“始终在线的智能体计算(always-on agentic computing)”这一表述,是一个相当值得注意的线索。


第四,苹果很可能会采用混合模型战略,而不是把所有筹码押在一个巨大的 Apple 基础模型上。小模型在本地运行;更大的私有模型在远程运行;需要时调用外部前沿模型。


第五,个人上下文将成为苹果真正的护城河。一个能够安全理解你的消息、日历、照片、应用、文档、位置和设备的 AI,潜在价值可能高于一个仅仅比通用聊天机器人聪明一点的模型。


最后,我会关注苹果是否会让 AI 硬件变得越来越“隐形”。


我们最终可能会停止谈论“AI PC”,就像我们已经不再谈论“互联网电脑”一样。

这种能力最终会变成机器本身的一部分。


更大的赌注


当苹果放弃英特尔时,表面上看,它似乎只是想重新掌握自己的处理器路线图。

但回过头来看,它实际上是在掌控更加庞大的东西:


整个苹果生态内部的计算经济学。


这项决定最初带来了更轻薄的笔记本和更长的续航。


然后,是更快的 GPU。

然后,是神经网络引擎。

然后,是数百 GB 的统一内存。


而现在,专用神经计算能力正在芯片内部进一步扩散;与此同时,开放权重模型也在变得越来越强、越来越紧凑,并且越来越容易在本地运行。


这种汇合非常重要。


因此,出人意料的 M6 Mac mini 和 M5 Ultra Mac Studio 发布,不应该仅仅被看作又一次 Mac 产品更新。《福布斯》正确指出了这次发布时机的不同寻常之处:苹果在其重大 9 月产品发布会前仅仅几天推出了这些产品,而当时恰好也是库克担任 CEO 的最后一周。


一周之后,苹果的硬件负责人开始领导这家公司。


这些事件之间或许并不存在因果关系。


但从战略角度来看,它们却指向了完全相同的方向。


苹果似乎相信,AI 的下一阶段不会只存在于云端。


而如果智能正在越来越多地迁移到设备上,那么那家已经花了六年时间,将处理器、内存架构、操作系统、开发者框架和硬件作为一个整体来设计的公司,最终可能并没有我们最初以为的那么晚进入 AI。


它可能只是一直在为一种不同形态的 AI做准备。


编辑:于腾凯
校对:林亦霖

译者简介


作者简介

Hi,我是思羽!一个热衷于数据科学和 AI 的商科生,在法国 ESSEC 学习数据科学与商业分析。兴趣爱好非常广泛,个人经历也并不垂直,能敲代码又能敲琴键,爱学数学也爱学语言~在我看来,数据不仅是数字,更是一种理解世界的方式。在这里,我会与大家一起分享数据科学、AI 应用、学习经验和行业洞察,希望用尽量通俗有趣的方式,把有价值的内容带给大家!

翻译组招募信息

工作内容:需要一颗细致的心,将选取好的外文文章翻译成流畅的中文。如果你是数据科学/统计学/计算机类的留学生,或在海外从事相关工作,或对自己外语水平有信心的朋友欢迎加入翻译小组。

你能得到:定期的翻译培训提高志愿者的翻译水平,提高对于数据科学前沿的认知,海外的朋友可以和国内技术应用发展保持联系,THU数据派产学研的背景为志愿者带来好的发展机遇。

其他福利:来自于名企的数据科学工作者,北大清华以及海外等名校学生他们都将成为你在翻译小组的伙伴。


点击文末“阅读原文”加入数据派团队~



转载须知

如需转载,请在开篇显著位置注明作者和出处(转自:数据派ID:DatapiTHU),并在文章结尾放置数据派醒目二维码。有原创标识文章,请发送【文章名称-待授权公众号名称及ID】至联系邮箱,申请白名单授权并按要求编辑。

发布后请将链接反馈至联系邮箱(见下方)。未经许可的转载以及改编者,我们将依法追究其法律责任。






关于我们

数据派THU作为数据科学类公众号,背靠清华大学大数据研究中心,分享前沿数据科学与大数据技术创新研究动态、持续传播数据科学知识,努力建设数据人才聚集平台、打造中国大数据最强集团军。




新浪微博:@数据派THU

微信视频号:数据派THU

今日头条:数据派THU

点击“阅读原文”拥抱组织


回应“统一内存是不是护城河”:架构优势是真实的,它减少了CPU与GPU之间的数据复制,还能让GPU访问更大的内存池。但护城河能否成立,最终要看MLX、模型适配和开发者生态。