LLM 的能力边界：超越 Token 预测，迈向通用智能？

好书推荐
1

LLM 的边界仍限于预测 Token 吗？本文回顾 2025 年 LLM 发展，探讨其在能力、成本、应用和用户体验上的变革，并展望未来。

原文标题：LLM 的边界，真的只是预测下一个 Token 吗？

原文作者：图灵编辑部

冷月清谈：

Yann LeCun 再次质疑 LLM 的本质，认为其仍是 Token 生成器，缺乏对世界的稳健理解。然而，在过去一年里，LLM 的能力边界正在被重塑，从简单的“续写”到“初步理解与规划”。以 Claude 3.7 Sonnet、ChatGPT o1、DeepSeek-R1 为代表的模型，展现出了一定的前瞻性规划能力。同时，DeepSeek 等公司的低成本策略，使得高性能 AI 不再是少数巨头的专属品。AI 的价值核心正从围绕模型的复杂应用层，向模型本身迁移，模型正在成为产品。2025 年是 AI Agent 向功能成熟期过渡的关键年份，高级 Agent 应用开始出现，支撑 Agent 部署的关键基础设施也日渐成熟。技术进步也降低了用户门槛，提升了用户体验。尽管 LLM 取得了瞩目成就，但我们对其内部的未知空间依然广阔。AI 的智能形态正从“语言机器”加速演变为“通用问题解决器”，甚至开始显露“行动智能（Agent Intelligence）”的特征，但我们对它的理解，或许仍如同盲人摸象，只触及其庞大能力冰山的一角。

怜星夜思：

1、LeCun 认为 LLM 只是 Token 生成器，你觉得 LLM 在哪些方面已经超越了这个定义？或者说，你认为 LLM 还需要在哪些方面突破才能真正实现通用智能？
2、文章提到“模型即产品”的趋势，你认为这种趋势会对 AI 行业的商业模式和人才需求产生什么影响？
3、文章提到 AI Agent 在 2025 年取得重要进展，你认为 AI Agent 在哪些领域最具应用前景？它会给我们的生活带来哪些改变？

原文内容

在刚过去不久的 GTC 2025 大会上，Meta 首席 AI 科学家 Yann LeCun （一如既往地）再次发出了对当前主流大模型的尖锐批评。他坚持认为，LLM 本质上仍是 “Token 生成器” ，其核心在于预测离散 Token 序列，而非构建对世界的稳健理解。

“LLMs are mere token generators — lacking world models, reasoning, planning, and memory — and will soon be obsolete.”

在他看来，现有模型普遍缺乏物理世界建模、长期记忆、真正推理和复杂规划能力，距离通用智能尚远，并大胆预测五年内将被新范式取代。

恰好在大约一年前（2024 年 3 月）的上海 GDC AI 大会上，我也曾在分享中引用过 LeCun 的类似观点（在当时我是认同的）。

时隔一年，站在 2025 年 4 月的当下回望，LLM 的边界是否仍旧仅仅限于预测下一个 Token？过去这一年，行业究竟发生了哪些深刻的变化？正呈现什么趋势？

本文结合我近期的观察与思考，对此做一个简要的回顾。

1. 能力边界的重塑：从“续写”到“初步理解与规划”

事实是，大模型的能力边界正在以惊人的速度被重塑，其表现已开始超越简单的“概率分布搬运工”。过去我们习惯于将 LLM 的长项限定在续写、摘要、翻译等局部任务，但以 Claude 3.7 Sonnet、ChatGPT o1、DeepSeek-R1 为代表的模型，正逐渐打破这一刻板印象。

模型内部开始显露出更深层的规划与思考迹象。例如，Anthropic 近期对 Claude 模型的研究揭示，模型在写诗时，似乎能在内部“预先规划”好韵脚，并在句子开头就体现出这种意图，以此指导后续的词语选择来完成押韵。这种行为表明，模型并非只是简单地、一步接一步地预测下一个词，而是展现出了一定的前瞻性规划能力。

虽然我们仍无法断言其拥有 LeCun 所定义的“稳健世界模型”，但模型的表现正在超越 “Token Prediction” 的范畴，更接近于一种模拟了世界知识并进行目标导向序列生成的过程。

2. 模型成本的变革：从“巨头专属”到“人人可及”

除了模型能力的持续增强和产品形态的日益成熟外，获取和部署先进 AI 能力的经济门槛在 2025 年也呈现出显著降低的态势。这一趋势的一个突出例证便是 DeepSeek。在 2024 年至 2025 年间，DeepSeek 不仅快速推出了一系列在特定领域（尤其是在编程和数学推理方面）性能表现极具竞争力的大模型，更关键的是，它采取了极具颠覆性的低成本策略。

具体而言，DeepSeek 的模型 API 定价远低于当时市场上如 OpenAI 或 Anthropic 等主要供应商，同时还开源了多个强大的基座模型，极大地降低了企业和开发者利用先进 AI 技术的门槛。DeepSeek 的成功策略清晰地表明，随着市场竞争加剧以及模型训练、推理效率的不断优化，高性能 AI 不再是少数巨头的专属品，这股成本“民主化”的浪潮，正使得尖端 AI 技术对更广泛的企业（包括中小型企业）和独立开发者变得更加触手可及。从而极大地加速了 AI 在各行各业的实际应用与创新步伐。

3. 模型即产品：AI 工作流的范式转移

随着模型能力的提升，一个深刻的范式转移正在发生：AI 的价值核心正从围绕模型的复杂应用层，向模型本身迁移——模型正在成为产品 (The Model is the Product)。它不再仅仅是隐藏在应用界面后的“黑盒引擎”，而是凭借其日益强大的内在集成能力，直接定义了核心功能与用户交互模式。

这种转变体现在，用户越来越多地直接与模型交互来完成端到端的任务。以信息处理为例，OpenAI 的 DeepResearch 就并非简单增加搜索工具的应用封装或对现有 LLM 的包装，而是通过强化学习等方式进行了专门训练，内化了搜索、网页浏览、信息综合等核心网络研究能力的“研究型语言模型”，使其能够无需复杂编排，端到端地自主完成深度研究与报告生成任务。

这种“模型即产品”的趋势，也意味着传统“流水线式”的 AI 工作流正在被模型内部的集成能力所颠覆。过去，用户可能需要在 ComfyUI 或 SD WebUI 中手动编排复杂的节点网络来控制图像生成；如今，GPT-4o 这样的模型则将风格迁移、细节注入、目标一致性保持等多种能力融合于自身，允许用户通过更直接、更自然的语言交互来驱动复杂的创作过程。这种以模型为中心的、高度集成的趋势，正在代码辅助、信息检索、内容创作等多个领域加速演进。模型本身，而非围绕它的软件外壳，正在成为交付给用户、解决实际问题的核心载体。

4. 2025，AI Agent 的破晓时刻

尽管前几年主要聚焦于基础大模型的研发，但 2025 年正迅速确立其作为 AI Agent 向功能成熟期过渡的关键年份。这一演进在多个层面都取得了切实的进展。首先，我们观察到展示出显著操作自主性的高级 Agent 应用开始出现。一个显著的例子是 Monica 公司开发的 Manus AI，它因能够基于高层级目标自主分解任务、生成可执行计划并管理复杂工作流（例如市场分析或项目初步构建）而吸引了显著的行业关注，并激发了早期用户的浓厚兴趣。

其次，支撑 Agent 进行稳健可靠部署的关键基础设施也日渐成熟。近期 Browser Use 公司获得的 1700 万美元融资就突显了这一趋势。这笔投资旨在解决一个长期挑战：让 Agent 能够有效且可靠地在动态网页环境中导航和交互，这是实现真实世界任务执行的关键一步。

此进步背后的驱动力是双重的：核心模型能力的提升，以及与外部世界交互方式的标准化。后者方面，由 Anthropic 等倡导的模型上下文协议（MCP）（2024年底）应运而生。它旨在建立一套开放、统一的行业标准，以避免不同模型厂商因工具交互协议不兼容而导致的生态割裂。MCP 的核心是让任何兼容的 Agent 都能以标准化的方式调用外部工具（如 API、数据库等），这极大地促进了互操作性，为构建更开放、灵活的 AI Agent 生态奠定了基础。

过去一年，Agent 正明显地超越其早期作为简单的指令跟随工具或受限于插件能力的角色。它们日益展现出进行复杂任务分解、涉及工具使用的多步规划，以及基于环境反馈动态调整执行的能力。这标志着向能够追求复杂目标的、更真正自主、更稳定的系统转变。

5. 技术门槛的消融：用户体验的飞跃

技术进步最直观的体现，莫过于用户门槛的降低和体验的提升。我仍然清晰记得两年前，尝试使用 MidJourney 为家人制作一本英文儿童绘本时的“艰难”。那时，基于 Diffusion 的图像生成高度依赖繁琐的提示词技巧、风格词汇堆砌、采样方法选择，并且需要通过“四选一”甚至更多轮的人工筛选来对抗随机性。为了完成一本不到 20 页的绘本，我生成了超过 400 张图片进行挑选，即便如此，角色一致性和画面细节的准确表达仍是巨大挑战。

而快进到 GPT-4o 图像生成功能上线的这一周，社交平台上讨论绘图的用户，重点已不再是分享各种高超技巧，而是更直接地分享成果，如吉卜力风格的家人合照，个人定制化的 3D 手办。新模型极大地消解了图片创作的技术门槛，用户无需深入理解复杂的提示词结构，模型就能在很大程度上自动处理风格化、细节控制、主体一致性等问题。两年前我在文章中提到的 Diffusion 模型诸多“工程化痛点”，如今基本都已被自然地克服。这种体验上的天壤之别，正是模型内部能力集成、推理能力进步的现实映射，是 AI 从“面向技术爱好者”向“面向所有人”转变的一个缩影。

6. 未知大于已知：在智能的冰山一角探索

然而，尽管我们为 2025 年取得的这些瞩目成就感到兴奋，但当我们尝试深入理解这些大模型时，会发现其内部的未知空间依然广阔。

是否真正拥有稳定、可泛化的世界模型？在生成长序列输出时，模型是如何进行多步规划的？当面对模糊、矛盾或从未见过的信息时，其内部的推理机制又是如何动态调整适应的？这些根本性问题，目前仍缺乏标准答案。AI 的智能形态正从“语言机器”加速演变为“通用问题解决器”，甚至开始显露“行动智能（Agent Intelligence）”的特征，但我们对它的理解，或许仍如同盲人摸象，只触及其庞大能力冰山的一角。

回到 LeCun 的质疑，也许他的论断可能低估了当前 LLM 路线的实践进展和演化潜力，但他的批评仍具价值。当前我们所观察到的惊人能力涌现，其底层机制可能仍与我们所期望的 “AGI（通用人工智能）” 有本质区别。眼前的进步也许只是通往更高级智能漫长道路上的一小步。在人类与日益强大的智能系统共同探索的征途上，大模型的未来，依旧充满了待解的谜团、巨大的潜能，以及伴随而来的责任与挑战。

后记：当写作也开始“Vibe”

OpenAI 联合创始人、前特斯拉 AI 负责人 Andrej Karpathy 在 2025 年 2 月提出了 “Vibe coding” 概念，描述了一种与 AI 协同的编程新范式。Karpathy 将其描述为一种对话式的方法，他通过语音命令，而 AI 则负责生成实际代码。他形容这种状态是“看到什么，说到什么，运行什么，复制粘贴什么，基本上就可行了”

"I just see things, say things, run things, and copy-paste things, and it mostly works."。

本文的整个创作过程，便是一次与此高度相似的实践，我称之为 “Vibe writing”。

我并没有从一张白纸开始逐字推敲，脑海中首先形成的是本文希望探讨的核心议题、大致的行文框架以及关键的论证逻辑——这可以视为设定了创作的蓝图。随后，我将相关的参考资料链接提供给 AI （本文主要使用了 ChatGPT-4o 和 Gemini 2.5 Pro），并围绕预设的框架，通过多轮、迭代式的对话进行“共同创作”：我提出具体要求、给出反馈、进行筛选与修订，AI 则依据指令快速生成草稿、整合信息、优化语言表达。

在这个写作过程中，人类作者的核心价值，似乎正更多地转向战略性的构思、方向的把控、深度的洞察以及最终质量的裁决，而 AI 则扮演了效率惊人的工匠，依据蓝图，将思想快速显化为具体的文字。

最后，宣传一下我的最新译作。

我与图灵出版社再次合作翻译的《大模型应用开发极简入门》第 2 版已正式发售。

该书英文原版在不到一年内即更新，新增将近一倍的内容。正是为了紧跟技术进步的脚步——从 GPT 系列新模型能力，再到 RAG 、微调等核心范式及新兴开发框架的演进，第二版重点补充了过去一年的这些进展，能为关注 AI 应用落地、致力于将概念落地的开发者与创新者们，提供一份与时俱进的实践指南。

此外，为了让读者能够动手实践、深入探索，本书还特别附赠了一份详细的实践小册子（由 Dify.AI 官方提供），专注于指导开发者构建当前备受关注的私有化 AI 应用，通过目前流行的 DeepSeek × Dify × Ollama 开源技术栈，一步步快速部署出这样一个全功能的私有化 AI 助手。

参考来源 (References):
  1. Yann LeCun 对 LLM 评论的相关报道： https://aimresearch.co/market-industry/yann-lecun-calls-llms-token-generators-while-llama-hits-a-billion-downloads
  2. Anthropic 关于追踪语言模型“思考过程”的研究： https://www.anthropic.com/news/tracing-thoughts-language-model
  3. 关于 DeepSeek 如何改变商业 AI 应用（包括成本效益）的分析： https://techinformed.com/why-deepseek-is-transforming-ai-for-business/
  4. 讨论“模型即产品”概念的文章： https://vintagedata.org/blog/posts/model-is-the-product
  5. TechCrunch 关于 Browser Use 融资的报道： https://techcrunch.com/2025/03/23/browser-use-the-tool-making-it-easier-for-ai-agents-to-navigate-websites-raises-17m/
  6. 公众号文章《如何利用AI工具轻松制作属于自己的故事绘本》：
  7. 维基百科中关于 "Vibe coding" 定义的具体章节： https://en.wikipedia.org/wiki/Vibe_coding#Definition

  8. 模型上下文协议 (MCP) 官方介绍： https://modelcontextprotocol.io/introduction

    2

    我觉得“模型即产品”是好事儿啊，以后人人都可以用 AI 了。不过，这也意味着 AI 行业的竞争会更加激烈，谁能做出更好用、更便宜的模型，谁就能赢得市场。而且，这种趋势可能会导致 AI 行业的马太效应更加明显，头部企业会越来越强大，小企业很难生存。

    3

    我觉得 Yann LeCun 说的也没错啊，LLM 本质上还是在玩概率游戏，只不过模型越来越大，训练数据越来越多，所以看起来好像有了智能。但是，这种智能是很脆弱的，很容易被一些对抗样本欺骗。要实现通用智能，光靠 scale up 是不够的，还需要一些新的机制，比如因果推理、元学习等等。

    4

    我觉得评判一个东西是不是超越了“Token 生成器”的标准，就看它能不能举一反三，能不能在没见过的情况下解决问题。现在的模型，很多时候还是依赖于训练数据，一旦遇到没见过的情况就抓瞎了。所以，我觉得 LLM 要想实现通用智能，还需要加强泛化能力和鲁棒性。

    5

    “模型即产品”意味着用户可以直接与模型交互，完成端到端的任务。这会对 AI 行业的商业模式产生深刻影响。传统的 AI 公司可能需要转型，从提供复杂的应用层解决方案，转向提供易于使用、高度集成的模型产品。同时，人才需求也会发生变化，企业需要更多既懂模型训练，又懂用户体验的复合型人才。以前那种只关注算法优化的研究人员，可能需要更多地关注产品的易用性和可解释性。

    6

    “模型即产品”这个概念让我想起了 App Store。以后会不会出现一个“模型商店”，大家可以在上面购买各种各样的 AI 模型？如果是这样，那对开发者来说可是一个巨大的机会。只要你有一个好的想法，就可以开发一个模型，然后放到商店里卖，说不定一下子就火了。当然，竞争也会很激烈，需要不断创新才能脱颖而出。

    7

    我有点担心 AI Agent 会取代人类的工作。如果 AI Agent 可以做所有的事情，那我们人类还有什么用？当然，也有人说 AI Agent 会创造新的就业机会，但谁知道呢？技术发展太快了，我们根本不知道未来会发生什么。

    8

    个人认为 AI Agent 在自动化办公、智能家居、医疗健康等领域具有巨大的应用前景。比如，在自动化办公方面，AI Agent 可以自动处理邮件、安排日程、撰写报告，大大提高工作效率。在智能家居方面，AI Agent 可以根据用户的习惯，自动调节温度、灯光、音乐，打造舒适的生活环境。在医疗健康方面，AI Agent 可以辅助医生进行诊断、制定治疗方案，提高医疗水平。总的来说，AI Agent 会让我们的生活更加智能化、便捷化、个性化。

    9

    AI Agent？那不就是钢铁侠里的贾维斯吗！想想就激动。我觉得 AI Agent 最有潜力的是在教育领域，可以根据每个学生的特点，定制个性化的学习计划。以后可能就不用上学了，每个人都有一个 AI 老师，随时随地学习。

    10

    LeCun 的观点确实很犀利。但我觉得，现在很多 LLM 已经可以进行初步的规划和推理了，比如 Claude 3.7 在写诗的时候，会提前规划韵脚。这说明它不仅仅是预测下一个 token，而是有一定的高层目标指引。当然，要实现真正的通用智能，LLM 还需要在世界模型、常识推理、长期记忆等方面取得突破。这可能需要架构上的创新，比如引入外部知识库或者结合其他 AI 技术。