从量化性能、GPU到TPU，理解AI算力为何离不开计算机体系结构。
冷月清谈：
怜星夜思：
2、Roofline模型真能指导日常性能优化，还是只适合写论文？
3、AI芯片会越来越专用化，还是通用GPU仍会长期占主导？
原文标题：豆瓣评分 9.6，这本书凭什么得到黄仁勋力荐？
原文作者：图灵编辑部
原文内容
9 月 23 日，《纽约时报》播客 The Ezra Klein Show 播出了对英伟达 CEO 黄仁勋的长篇访谈。
这期节目火药味十足。将近两个小时里，黄仁勋和主持人 Ezra Klein 围绕 AI 安全、就业、监管和算力投资反复交锋。黄仁勋的立场很鲜明：AI 末日论吓到了太多人，行业并不需要新的监管。节目播出后在科技圈迅速刷屏。
不过，有个细节很多人没注意到。
按照节目惯例，Klein 会在结尾请嘉宾推荐三本书。刚刚还在争论 AI 会不会毁灭人类的黄仁勋，推荐的第一本书既不是商业书，也不是传记，而是一本厚重的计算机专业教科书：图灵奖得主 John L. Hennessy 和 David A. Patterson 合著的 《计算机体系结构：量化研究方法（第 6 版）》。另外两本是《创新者的窘境》和《定位》。
他给的理由也很工程师：这本书把计算机体系结构这个抽象的东西，一步步落到了工程层面。他喜欢有人把复杂的概念化繁为简，变成真正能着手去做的事。
这句话其实也概括了他在整场访谈里的思路：不谈空泛的愿景，先把问题拆成能度量、能权衡、能迭代的工程问题。
而这种思维方式，正是这本书讲了几十年的东西。
量化到底是什么意思？
图书副标题里的量化研究方法（A Quantitative Approach）是这本书的灵魂，也是两位作者拿图灵奖的原因。2017 年图灵奖的授奖词是：“开创了一种设计和评估计算机体系结构的系统、定量的方法，对微处理器行业产生了持久影响。”
在这本书出现之前，处理器设计很大程度上靠经验和直觉，“指令越丰富越好”一度是主流观点。Hennessy 和 Patterson 做的事情是，拿真实程序去跑，拿数据说话。
比如书中反复使用的 CPU 性能公式：
一个设计改动到底好不好，要看它对这三项分别造成了什么影响。减少了指令数但拉长了时钟周期，那就得算清楚净收益。再比如 Amdahl 定律提醒你：“只优化程序的一小部分，整体加速比会被没优化的部分死死卡住。”
这套方法论不只适用于芯片设计。做性能优化、做系统选型、评估一个 AI 推理方案，本质上都是同一件事：“先量化，再取舍。”
书里有一章，专门拆解 GPU
对英伟达的关注者来说，有个很有意思的事实，这本书的第 4 章讲数据级并行，系统讲解了向量体系结构、SIMD 扩展和 GPU，并以英伟达 GPU 为主要案例深入剖析。书中甚至专门整理了一张术语对照表，把 CUDA 里的线程、warp 等概念，和传统体系结构术语一一对应起来。
也就是说，黄仁勋推荐的这本书，恰好也是很多工程师系统理解 GPU 为什么适合并行计算的入门途径。你想搞懂 AI 算力的底层逻辑，这一章值得反复读。
书中还介绍了 Roofline 模型，用计算强度和内存带宽两个维度，直观判断一个程序是算力受限还是带宽受限。今天讨论大模型推理为什么常常卡在显存带宽上，用的就是这套分析框架。
作者亲自拆解 AI 芯片设计
第 6 版最大的更新，是新增了第 7 章“领域专用体系结构”（DSA）。这一章的核心案例是 Google TPU，而 Patterson 本人正是 TPU 团队的一员。过去很多年，通用处理器的性能持续提升，程序员往往只需要关注软件本身，底层硬件自然会越来越快。但摩尔定律放缓之后，单核性能提升越来越难，等下一代 CPU 变快这条路已经不像以前那么好走了。
GPU、AI 加速器、NPU，以及各种领域专用架构，本质上都在回答同一个问题：“能不能针对特定任务，把硬件设计得更合适？”
黄仁勋在访谈里谈算力投资时，底层逻辑也是这件事。要真正看懂 AI 芯片之间的差异，为什么不只是核心数多少那么简单，绕回体系结构几乎是必经之路。
阅读建议：
-
第 1 章一定要精读，量化方法的核心工具都在这里
-
关注 AI 算力的，重点读第 4 章（GPU）和第 7 章（DSA）
-
做后端或云服务的，第 2 章（存储层次）和第 6 章（仓库级计算机）非常实用。
-
不必一次读完，遇到性能问题时回来翻，常读常新。
两位作者：图灵奖得主，也是产业亲历者
约翰·L. 亨尼西（John L. Hennessy）：斯坦福大学教授，1981 年领导开发了最早的 RISC 项目之一 MIPS，并创办公司将其商业化。2000 至 2016 年任斯坦福大学校长，2018 年起担任 Alphabet 董事长。
大卫·A. 帕特森（David A. Patterson）：加州大学伯克利分校教授，先后领导了 RISC I、RAID 和 RISC-V 的开发，每一项都深刻影响了计算机产业。2016 年加入 Google Brain，成为 Google 杰出工程师。
两人共同获得了 2017 年图灵奖，此外还获得过 IEEE 冯·诺伊曼奖、Eckert-Mauchly 奖等重要荣誉，均为美国国家科学院和国家工程院院士。
这本书不是在象牙塔里写出来的。两位作者本人，就是 RISC 革命的主角。
AI 时代信息太多，概念迭代太快，人很容易被各种宏大叙事裹挟。
黄仁勋推荐这本书，给出的理由很朴素：它把复杂的东西落到了工程上。
会写代码的人很多，懂计算机为什么这样工作的人少得多。认识了体系结构，才算真正搞懂了计算机的底层原理。