AI Agent 不是模型:一文理清模型、工具、框架与训练概念

AI Agent 不是模型,而是围绕模型、工具、执行循环和反馈搭建的任务系统。

原文标题:别再乱理解 AI Agent!一文理清所有核心概念

原文作者:数据派THU

冷月清谈:

文章围绕 Hugging Face 发布的 AI Agent 术语表,梳理了当前行业中容易混用的核心概念。核心观点是:AI Agent 不是单独的模型,而是以大模型为核心,结合工具调用、上下文管理、执行循环和反馈机制,持续完成任务的一套系统。文章区分了 Model 与 Agent 的关系:模型负责理解和生成意图,真正执行网页操作、文件读取、API 调用等动作的是外部系统。文中还解释了 Scaffolding 与 Harness 的区别,前者偏向“怎么想”,后者偏向“怎么跑”;Context Engineering 决定模型每一步看到什么,Policy 则影响 Agent 如何做选择。此外,文章将 Tool、Skill、Sub-agent 分别对应为具体动作、可复用方法和独立子任务执行者。最后补充了 Environment、Rollout、Reward、Trainer 等训练相关概念,帮助读者理解 Agent 如何在环境交互和反馈中不断改进。

怜星夜思:

1、你觉得现在很多产品都自称“AI Agent”,到底应该满足哪些条件才算真 Agent?
2、Agent 的关键能力到底是“会调用工具”,还是“会规划和纠错”?
3、Context Engineering 会不会比 Prompt Engineering 更重要?普通用户需要学吗?
4、多 Sub-agent 协作听起来很美,但实际会不会更容易失控?

原文内容

图片
本文约2200字,建议阅读5分钟
本文介绍了 AI Agent 核心定义,厘清行业各类易混淆的专业术语与逻辑。


AI Agent 是这两年最常被提到的 AI 词之一。


做模型的人在讲,做产品的人在讲,做应用的人也在讲。但问题是:同样是“Agent”,很多人说的并不是同一件事。


有人把“会调用工具的大模型”叫 Agent,有人把“驱动模型执行的整套系统”叫 Agent,也有人把“负责某个子任务的小模块”叫 Agent。


如果刚接触这个方向,很容易越看越乱。不是资料太少,而是术语越来越多,大家却未必在用同一套定义。


最近,Hugging Face 发布了一份 AI Agent 术语表,系统梳理了这波讨论里最常出现的一批核心概念。


博客地址:https://huggingface.co/blog/agent-glossary


无论你是在构建 Agent、部署 Agent,还是只是日常使用 Claude Code、Codex 或 Hermes Agent 这类工具,这些词几乎都会反复遇到。文章最后还单独补充了一组和模型训练相关的概念,如果你关注训练流程,那一部分会更有参考价值。


一、先讲最重要的一句:Agent 不是一个模型


可以先用一句最容易记住的话来理解 AI Agent:


    AI Agent 是一个以大模型为核心、能够调用工具、接收反馈并持续完成任务的系统。


    这里最关键的词,不是“生成文本”,而是“持续完成任务”。


    普通聊天模型更像“你问一句,我答一句”;Agent 更像“你给我一个目标,我先理解任务,再决定下一步做什么;做完一步后,我再根据结果继续往下走”。



    比如下面这些事,都不是一次回答就能完成的:

    • 帮你搜索资料并整理成摘要

    • 帮你读取一个文件并分析内容

    • 帮你调用代码工具处理数据

    • 帮你在网页上完成一连串操作


    这也是 Agent 和普通聊天模型最大的区别。


    二、Model 和 Agent,到底是什么关系?


    很多人刚接触 Agent 时,最容易混淆的一点就是:Agent 和 Model 是不是一回事?答案是:不是。


    Model 是 Agent 的核心,但不是 Agent 的全部。


    Model,也就是模型,本质上是“文本进,文本出”。更重要的是,它本身没有跨调用记忆,也没有执行循环。


    它可以根据目标、上下文和规则表达“我下一步想调用某个工具”的意图,但真正去点击网页、读取文件、调用 API 或运行工具,还得靠模型外面的系统来完成。



    三、Scaffolding 和 Harness 工程,分别在做什么?


    这两个词经常一起出现,也最容易一起被叫成“Agent 框架的一部分”。但如果想真正看清一套 Agent 系统,最好把它们分开理解。



    可以把它们先简单记成:


      Scaffolding 管“怎么想”,Harness 管“怎么跑”。


      Context Engineering 和 Policy:一个管理输入,一个定义行为


      这两个概念可以放在一起讲,因为它们都会影响 Agent 下一步怎么做;但它们并不是一回事。Context Engineering 讲的是模型在每一步到底看见什么,Policy 讲的是基于这些输入表现出怎样的行为方式。 


      Context Engineering:决定模型在每一步到底看见什么

      如果说 Prompt Engineering 关心的是“提示词怎么写”,那么 Context Engineering 更关心的是:在 Agent 执行的每一步里,模型到底应该看到什么信息。

      它包括系统提示词、工具说明、历史对话、检索进来的知识,以及工具返回结果;而且这不是一次性的设置,随着任务推进,harness 会持续决定哪些信息保留、哪些丢弃、哪些重新注入。


      它在训练和推理两端都适用,但代价并不一样:训练时塞错了,模型学到的东西可能会偏掉;推理时塞错了,通常还能通过改提示词或重配上下文再来一次。


      Policy:决定 Agent 是按什么方式做选择的

      Policy 指的是一个 Agent 所遵循的行为方式:给定一种情境,它会以什么方式在多个可能动作之间做选择。


      在强化学习里,这个概念往往被定义得更严格,甚至可以写成“对各个可能动作的概率分布”;放到 LLM Agent 里,这套策略一部分学在模型权重里,一部分又受到提示词、工具、记忆和执行循环的影响。


      所以,Policy 不等于 Agent 本身。 Agent 是那个在环境里真正采取行动的完整系统,Policy 则是它表现出来的行为方式。


      Tool、Skill、Sub-agent,为什么不是一回事?


      这三个词很容易被混用,但它们其实对应三层不同的东西:动作、方法和分工。


      1. Tool Use:一个具体动作

      Tool 是最基础的一层。它指的是 Agent 伸手够到自身之外的方式,比如调用 API、代码解释器、数据库、网页搜索和文件系统。


      模型只会以结构化格式表达“我要用某个工具”的意图;真正把调用路由出去、拿回结果并继续循环的是 harness。


        所以,Tool 更像 Agent 的“手”。


        2. Skill:一套可复用的方法


        Skill 不只是一个动作,而是一整套围绕某个目标沉淀下来的做事方法。


        比如“排查一个 bug”“完成一次数据清洗”“写一版市场调研摘要”,都不是一次工具调用能完成的。


        它们往往需要一组步骤、一套经验和一个相对稳定的处理流程。


        所以,Skill 更像 Agent 的“套路”。


        3. Sub-agent:一个能独立完成子任务的 Agent


        Sub-agent 则更进一步。它不是一个被动工具,也不只是一套方法,而是另一个可以自己思考、自己调用工具、独立处理子任务的 Agent。


        比如,一个主 Agent 要完成“写一份行业分析”,它可以把任务拆开:

        • 一个 Sub-agent 去收集资料

        • 一个 Sub-agent 去整理数据

        • 一个 Sub-agent 去写成初稿


        最后再把这些结果统一整合。


          为什么训练 Agent 的人总在讲 Environment、Rollout、Reward 和 Trainer?


          前面讲的,主要是 Agent 怎么被搭出来。


          而下面这几个词,更多出现在“Agent 怎么被训练得更强”这个阶段。


          Environment

          Environment 就是 Agent 可以交互的环境。


          它可以是浏览器、文件系统、代码仓库,也可以是某种更抽象的任务空间。


          Agent 在环境里采取动作,环境再返回新的状态和结果。


          Rollout

          Rollout 指的是 Agent 从开始到结束完成一次任务的完整过程。


          它记录了 Agent 看到了什么、做了什么、最后结果怎样。


          Reward

          Reward 是对这次执行结果的打分。


          它告诉系统:这次做得好不好,哪里做对了,哪里做错了。


          这个分数可以来自测试是否通过,也可以来自人工偏好,或者其他评估方式。


          Trainer

          Trainer 负责利用大量 rollout 和 reward 去更新模型,让 Agent 在反复试错中学会更好的策略。


          所以到了训练阶段,Agent 讨论的就不只是“会不会用工具”,而是“能不能在环境里不断变强”。


          写在最后,用一张最短的文字版概念图收住



          所以,AI Agent 不是一个单独的新模型名词。


          它更像是一整套围绕模型搭起来的系统:模型负责理解和决策,工具负责行动,执行系统负责把任务一轮轮推进下去。


          把这些概念分清之后,再去看各种 Agent 产品、Agent 框架和 Agent 论文,就不会那么容易混乱了。


          编辑:于腾凯

          校对:林亦霖



          关于我们

          数据派THU作为数据科学类公众号,背靠清华大学大数据研究中心,分享前沿数据科学与大数据技术创新研究动态、持续传播数据科学知识,努力建设数据人才聚集平台、打造中国大数据最强集团军。




          新浪微博:@数据派THU

          微信视频号:数据派THU

          今日头条:数据派THU

          普通用户不用背概念,但可以记一句:别让 AI 在垃圾堆里找重点。你给它的上下文越干净,它越像助手;你给它一锅乱炖,它就越像算命。

          2 个赞

          关于“自称 AI Agent”这事,我的标准比较粗暴:你能不能替我把事情往前推进?比如订阅信息、查资料、改代码、跑测试、根据报错再修一轮。不能闭环的,我一般就当它是个带皮肤的 ChatGPT。

          1 个赞

          我回答下“什么才算真 Agent”这个问题:我觉得至少得能拆任务、调用工具、根据结果继续调整。只会把提示词包装一下,然后输出一段更长的回答,那顶多叫聊天助手,不太像 Agent。

          1 个赞

          我觉得别太纠结“真不真”,看能不能省时间就行。但如果一个产品连工具调用都没有,也没有任务状态管理,还硬叫 Agent,那确实有点像奶茶店卖“赛博拿铁”。

          1 个赞

          我觉得工具调用是门槛,规划和纠错才是护城河。就像一个实习生会用 Excel 不稀奇,能发现数据不对、知道回头查口径,这才真正有用。

          1 个赞

          工程上多 Sub-agent 最大的问题是协调成本和错误传播。一个子 Agent 的错误如果没有被主 Agent 检查出来,后面整合阶段可能会被包装得更像真的。

          3 个赞