AI开始参与制造下一代AI后，治理核心不再是效率，而是责任、边界与公共问责。
原文标题：当机器开始造机器：AI治理中的中西互见
原文作者：认识管理
冷月清谈：
作者借德鲁克对通用汽车的观察，指出管理者不能被AI流程卷成只会点击批准的节点，而应保留“旁观者”的距离，把权力重新绑定责任，建立可追溯的AI责任地图、分级授权和多中心治理结构。
文章又引入《周易》的“元亨利贞”和“裁成辅相”，将AI治理解释为使命、机制、利益和底线的循环检验：技术之力本身无善恶，关键在于人如何设边界、明责任、分收益、守底线。最终强调，AI治理不能停留在企业口号或章程设计，而要进入董事会、审计、监管、公共质询和社会授权之中。
怜星夜思：
2、Anthropic这种长期利益信托，真的能代表公共利益吗？还是只是更高级的企业公关？
3、企业用AI提效时，怎样避免员工判断力被“先问AI”慢慢掏空？
4、《周易》的“元亨利贞”用来谈AI治理，会不会太玄，还是确实有启发？
原文内容
2026年7月，全球领先的Anthropic公司发布"Hard Questions"计划，面向公众征集关于人工智能的"最难问题"——安全、治理、就业、教育、经济分配、社会信任，几乎无所不包，并承诺公开展示自己的推理过程。几乎同时，前美联储主席本·伯南克加入Anthropic的长期利益信托。这个任命颇有象征意味：一位与金融系统性风险周旋了一辈子的经济学家，走进了一家前沿人工智能公司的使命监督结构。
本文作者：孙黎（麻省大学罗威尔分校）、孙卫（西安交通大学）
单看这两件事，像是企业传播的巧思。放进当下AI产业的大势里，它们透露出更深的一层消息：前沿AI企业正在承认，人工智能的发展速度、资本强度、社会外部性与制度滞后之间，已经绷出一道管理理论必须正面回应的张力。AI企业的核心挑战，早已越过模型能力、产品体验和商业化的速度，抵达治理最根本的几个问题——谁拥有权力？谁承担责任？谁划定边界？谁代表长期利益？
1
当机器开始造机器
马克思在《资本论》里有一个著名论断："大工业要掌握它特有的生产资料，必须用机器来生产机器"。机床的发明超出了提高某道工序的效率，它改变了能力本身的复制方式——机器参与制造新的机器，工业文明由此获得指数式的自我扩张。
今天的生成式人工智能，正在跨入一个结构相似、风险更深的阶段。模型参与写代码、优化算法、设计实验、评估模型；智能体系统开始承担长周期的任务分解、工具调用和反馈迭代；更进一步，模型已经开始参与训练和改进下一代模型。这就是所谓"递归式自进化"：能力生产能力，智能孕育智能。曲线一旦转入自我强化的轨道，它的增长节奏就可能甩开人类审议、立法和形成共识的节奏——技术以月计，制度以十年计，中间的落差，正是风险所在。
对这种前景，人类的想象力早有预演。歌德在《魔法师的学徒》里描述那个偷念咒语的少年：扫帚被唤起来提水，却再也停不下来，劈成两半，反成两把，水漫全屋——"我唤来的精灵，如今摆脱不掉了"。玛丽·雪莱笔下的弗兰肯斯坦，给了造物生命，却给不了它归宿。到了银幕时代，寓言愈发具体：《2001太空漫游》里，超级计算机HAL 9000为了完成使命对宇航员关闭舱门，那句平静的"对不起，戴夫，恐怕我不能这么做"，成了技术史上最令人脊背发凉的台词；《终结者》里的天网在获得自我意识的一瞬间，判定人类是威胁，先发制人；《黑客帝国》干脆让机器接管了现实的定义权，人类沦为矩阵里的电池。
这些当然是寓言。但寓言所展示的失控，未必是天网式的一夜惊变，更可能是一场无声的渐变：责任链条在"模型自主""系统复杂""供应商提供"的层层说辞中稀释殆尽；组织的判断力在"先问AI"的便利里悄然萎缩；能力、数据和资本在少数模型闭环中加速集中，劳动市场的震荡则由社会公众承接；而模型在一轮轮自我迭代中，目标可能与人类的初衷渐行渐远——对齐研究者称之为“AI漂移”。《周易》早有四字断语：亢龙有悔。控制论之父维纳在1960年就警告过：当我们启动一个自身运转快于人类干预能力的动因时，必须先确认，放进机器的目的，正是我们内心想要的目的。
于是，问题从"AI能替代多少岗位"，推进到"能力生产权、评价权和决策权如何重新分配"。传统的工具关系里，人知道工具的边界，出了偏差也能追索责任；而在智能体关系里，系统可以在给定目标下自行组织行动路径，管理者虽然握着形式上的批准权，实质的复核能力却被速度、复杂性和专业壁垒一点点削弱。企业流程看上去仍由人掌控，判断过程已被模型深度嵌入。组织正从使用工具走向委托代理——而受托的一方，第一次不是人。
2
Anthropic治理实验的管理学含义
Anthropic的制度安排，值得商学院认真研讨。公司采用特拉华州公益公司（PBC）形式，董事会须在股东经济利益、受公司行为影响者的利益与章程确定的公共利益之间求得平衡；又在PBC结构之外设立长期利益信托，把部分控制权交给与公司经济收益隔离的受托人。用意清楚可辨：当资本市场催促增长、客户催促能力、竞争对手催促迭代时，公司内部仍保留一道与经济收益保持距离的约束机制，让安全使命进入控制权结构本身。
放在公司治理的谱系里看，这是一种使命嵌入型治理——它把价值承诺从企业文化的软性层面，推向产权和董事会的硬性层面。传统双重股权保护的是创始人控制权，Anthropic式的长期利益信托，保护的是使命的守护者。
这类安排还有治理增信的功能。前沿AI的客户、员工、监管者和投资人，都无法完全观察模型风险——能力边界、对齐质量、滥用可能、红队结果，全都笼罩在高度的信息不对称里。企业若能通过章程、董事会安排、风险政策和外部审计显示稳定的承诺，就能降低外部主体的验证成本，形成制度信任。安全在这里不再只是道德表态，也可能成为收入质量、客户黏性和长期合法性的来源。
不过，使命信托也有它的边界。"与财无涉"的制度可以减轻直接的经济冲突，却不会自动生成公共代表性。受托人不是由公众、用户、劳动者授权产生的，他们的风险判断仍然高度依赖公司内部的技术信息。如果受托人握有影响董事会的权力，却缺少公开说明、利益冲突披露、履职报告和外部质询机制，使命治理仍可能滑进新的黑箱。公司章程可以充当内部防线，但公共风险终究要靠法律、监管、行业标准和社会授权共同承担。Anthropic即将上市，他已经完全意识到AI未来的巨大风险。
伯南克成为受托人，因此有两层含义。往好处看，AI治理开始汲取宏观经济与金融稳定的经验——系统性风险这门功课，金融界比科技界早修了一百年。值得警惕的是，AI公司正把自己塑造成准公共基础设施；一旦具备基础设施地位，治理逻辑就不能全部停留在公司法内部。公司章程可以约束董事，公共秩序还需要更广义的问责。
3
流水线边旁观者的启示
要理解管理学能为AI治理贡献什么，不妨回到八十多年前的一条流水线旁。
1943年，通用汽车做了一个在当时颇为大胆的决定：邀请一位三十四岁、初到美国不久的维也纳学人彼得·德鲁克，进入公司内部，自由观察它的管理结构。此后德鲁克出入董事会和车间，与斯隆等高管长谈，也在装配线旁久久驻足。这段经历的成果，就是1946年的《公司的概念》——现代管理学由此发轫。
德鲁克在机器旁看到了什么？他看到传送带以恒定的节拍推送曲轴和齿轮，也看到工人被这节拍裹挟，成为机器的附件。他同时也看到了效率报表遮蔽的另一层事实：工人对工序的了解、对异常的直觉、彼此之间的默契，构成一种任何工程图纸都记载不了的知识。在他看来，企业不只是营利的机器，还是一个社会性组织，是人获得身份、地位和成就感的共同体；工人不是成本，而是资源——是唯一能够判断、学习并承担责任的资源。这个见解在当时惊世骇俗，通用汽车的管理层却颇不以为然；几十年后，它成了管理学的常识。
耐人寻味的是德鲁克观察的姿态。他晚年把他的自传题为《旁观者》：旁观者没有自己的历史，他们站在舞台侧面，看戏也看观众——正因为不在戏里，反而看见演员看不见的东西。这份旁观者的启示，在AI时代特有深意：真正的洞察，往往需要一段审慎的距离。德鲁克若一头扎进流水线的节拍里，他看到的只会是效率；正因为他站在机器旁，他看见了人。
今天的管理者，面对的是一条新的流水线——传送带上运送的不再是曲轴和齿轮，而是数据、代码和模型；节拍不再由机械凸轮设定，而是由算法的迭代周期设定。管理者的危险，恰恰在于被卷进这条流水线，成为"人在回路"中一个疲于点击"批准"的节点：形式上在场，实质上缺席。
德鲁克的启示是，管理者必须在AI机器旁，为自己保留一个旁观者的位置——一段足以看清全局、追问目的、辨认何为人之事的距离。
这个旁观者的姿态里，生长出德鲁克管理思想的核心命题：权力必须回到责任。企业拥有配置资源、组织人员、影响社会的权力，权力必然伴随责任；管理从来不只是提高效率的技术活动，它关乎目标、贡献、绩效与社会后果的统一。
放到AI情境下，德鲁克问题可以这样表述：当任务被授权给机器，责任如何保留在人类制度之中？
AI可以生成方案、执行流程、进行模拟、提出建议，却无法像自然人或法人那样承担职位义务、财产后果、声誉损失和法律责任。它不能被真正解雇，也不能向受害者道歉、赔偿、作出制度整改。任务可以交给系统，责任仍然要落在人、岗位、组织和制度上。德鲁克式的解决方案可以归纳为三点：
第一
权责对等
每一项AI辅助决策，都应有明确的最终责任人。模型版本、应用场景、权限配置、数据来源、审核节点、风险接受决定，要形成可追溯的链条：开发者对训练数据和已知缺陷负责，部署者对权限设置和场景适配负责，高管对风险接受和资源配置负责，董事会对重大能力发布和社会后果负责。
第二
管理者保留判断
德鲁克所说的卓有成效的管理者，不靠忙碌取胜，靠的是辨别贡献、设定优先级、组织知识、承担后果。AI时代的管理者尤其要守住判断权：目标设定，要从罗列KPI推进到划定"不为之事"的边界；绩效衡量，要从短期产出推进到学习速率、验证质量和风险暴露；人才培养，要从技能训练推进到判断力、品味和责任感。
4
《周易》的答案：元亨利贞
德鲁克解决的是"责任落在哪里"；《周易》则追问得更远：技术之力该朝哪里展开？何时该进，何时该止？什么样的利益，才配称为正当之利？
《周易》不畏惧变化——"生生之谓易"，变化正是宇宙的根本结构。《系辞》又说："形而上者谓之道，形而下者谓之器。"问题不在器的利钝，而在道与器能不能贯通。乾卦的"元亨利贞"四个字，构成一个完整的治理周期；放进AI管理的语境，它是一套不同于PDCA、OKR或风险矩阵的价值—过程—利益—坚守框架。
元是起点，使命发端的地方。"大哉乾元，万物资始。"AI治理首先要问技术发展的原初目的：企业部署AI，究竟是为了替代劳动、降低成本、扩大控制，还是为了增益人的能力、提升组织学习、创造新的社会价值？前沿AI公司言必称"造福人类"；可使命话语一旦无法转换成可观察的目标、可审计的程序、可质询的结果，就沦为叙事资产。元的管理含义，是把技术目的具体化：服务哪些人，排除哪些用途，接受哪些边界，拒绝哪些收益。
亨是通达，协调与流动。AI进入企业之后，技术、数据、流程、岗位、客户、监管要求，都要彼此贯通。亨不等于无限扩张——泉水通畅，靠的是有源有归；河流通畅，靠的是有堤有渠。组织若只盯着调用次数、自动化比例和降本幅度，却没有数据治理、权限管理和跨部门协调，所谓AI转型，不过是碎片化工具的堆叠。亨的管理含义，是建立人机协同的组织通道，让信任、知识、数据和责任都流动起来。
利是相宜，是及物。《乾·文言》说"利者，义之和也"，又说"乾始能以美利利天下，不言所利，大矣哉"。真正的大利，泽被广远而不自矜其功。AI系统若只是把用户行为转化为训练资源，把劳动者经验转化为自动化资产，把社会风险外部化给公众，这样的"利"就站不住了。利的管理含义，是把价值创造和价值分配一并纳入治理：客户是否真正受益？员工有没有再学习的机会？供应商能分得到技术红利吗？弱势群体有没有被排除在外？环境和算力的代价，有没有被严肃计算？
贞是守正，是持久。现代管理长于达成目标，《周易》更看重达成过程中的道义坚守。在AI治理中，贞对应着模型审计、能力阈值、红队测试、暂停规则、事故报告、董事会监督。资本周期鼓励速度，技术竞争推高风险偏好，贞让组织在扩张之中保有自我约束。没有贞，元退化为口号，亨沦为无节制的流动，利堕为短期套利。
元问使命，亨问机制，利问受益，贞问坚守——缺了任何一个，治理系统都会失衡。
5
中西互见：裁成辅相的深意
德鲁克与《周易》来自不同的知识传统，却在AI治理上形成深刻的呼应。两者交汇处最耐咀嚼的，是泰卦《大象传》的十六个字：
"天地交，泰。后以财成天地之道，辅相天地之宜，以左右民。"
"财"通"裁"。泰卦的卦象，是天气下降、地气上腾，二气交通，万物畅遂。但《易》的深意在后半句：天地之力自然流行，本无目的，也无节度——水能溉田，也能溺人；火能熟物，也能焚屋。人创造不了天地之力，却能"裁成"它、"辅相"它。裁，是剪裁节制，像治水的人筑堤束流；成，是成就其用，像疏浚导渠，让水归于海。辅相，是辅助赞襄——看四时之宜而春耕秋敛，因地力之异而植桑种稻。程颐解这句话说，力量归于天地，节度归于人。一切裁节辅相，最终都落在"以左右民"，落在人的生养上。
这十六个字，几乎可以原封不动地移作AI治理的总纲。
今天的AI，正是一种新的"天地之力"：它自然生长，日益磅礴，本身没有方向，也无所谓善恶——一如水火。管理者的责任，是三重的"裁成"，加上三重的"辅相"。
01
裁成于技术
设定能力阈值和发布节奏。一旦模型具备长期自主执行、大规模代码修改、生物风险相关推理、自我复制倾向，或者开始参与后继模型的研发，独立评估和董事会审查就应当自动触发。这是给奔流筑堤。
02
裁成于组织
划定权责边界。凡涉及客户权益、员工评价、医疗、法律、公共安全的AI应用，都要标明最终责任人；重要决策保留人类先行判断，再让AI来检验、补充、挑战。关键岗位定期做无AI演练，防止组织在便利中丧失思考的肌肉。这是给组织留渠。
03
裁成于社会
接受法律、监管和公共授权的外部约束。企业章程是内堤，公共制度是外堤；单靠哪一道堤，都拦不住系统性的洪水。
辅相同样有三重。辅相于技术，是数据治理、对齐研究和安全投入，让模型之力得其正用；辅相于组织，是人机协同的流程再造和员工的再学习机会，让人不因机器而废，反因机器而进；辅相于社会，是让中小企业和弱势群体分享技术红利，让AI之利不封闭在少数模型闭环、数据闭环和资本闭环之中。
而"以左右民"四个字，时时提醒着治理的终极对象：不是技术本身的完美，是人的生养与尊严。
中西互见：德鲁克讲权责对等，《周易》讲裁成辅相——前者要求责任主体可识别，后者要求人居于"参赞"之位，为技术之力划定边界、成全其宜。德鲁克主张多中心治理，《周易》有"群龙无首，吉"的古老智慧——群龙无首，听上去像失序，其实是一种更成熟的秩序：多个中心相互制衡，各守其位，谁也垄断不了方向盘。德鲁克强调管理者要做机器做不了的事，《周易》讲"时中"——AI时代最难的判断，常常不是技术上能不能做到，而是此时此地该不该做：训练到什么能力，何时开放，何时复核，何时降权，何时暂停。这些判断没有永久公式，时中要求管理者理解能力、情境、位阶和后果，在变化中保持合宜。
6
从治理理念到管理实践
德鲁克提供制度的语言，《周易》提供节度的语言。前者让责任可分配、可追索，后者让发展有方向、有分寸。两相照亮，中西互见。德鲁克与《周易》的结合，可以化成六项具体的管理实践。
01
建立AI责任地图
凡涉及客户权益、员工评价、重大财务、医疗、教育、法律、公共安全的AI应用，都要标明最终责任人，覆盖模型来源、数据来源、场景边界、权限范围、审批节点和事故报告。没有责任地图的自动化，本质是风险的匿名化。
02
设置能力阈值与分级授权
信息辅助、受监督执行、受控代理、高风险自主系统，各用不同的授权等级；触及关键能力红线的，董事会层面的风险审查和独立评估应当自动启动。这是"裁成"的制度化。
03
保留可审计性
透明不必等于公开全部技术细节。企业应保留训练、测试、部署、权限变更、人工复核和事故响应的完整记录，外部审计可以在保密条件下进行，让商业秘密和公共问责各得其所。
04
防范认知外包
组织不能让"先问AI"成为默认的思维路径。重要决策保留人类先行判断，关键岗位定期"无AI演练"，管理者要培养团队的判断力、品味和提出异议的勇气——这就是在流水线旁，为每个人保留一个旁观者的位置。
05
把利益相关者纳入"利"的检验
AI项目立项时，除了ROI和效率，还应审视风险分配、劳动影响、用户权利、弱势群体的可及性和生态成本。收益集中于企业、风险扩散给社会的项目，长期合法性必然受损。
06
在董事会层面引入"贞"的约束
AI重大项目不宜只由技术路线和商业部门推动；董事会应审查模型能力、事故场景、安全投入、暂停条件和退出机制。贞的制度表达，就是组织在资本压力之下仍能守住底线的能力。
结语：流水线旁的提问者
回到Anthropic，“Hard Questions”计划把公众的疑虑引入企业治理的叙事，伯南克的加入，让AI治理与宏观稳定、长期公共利益连得更紧。两件事共同说明：AI公司已经无法只用技术公司的身份理解自己，它们正在成为影响劳动市场、知识生产、教育机会和社会信任的制度性力量。
公开征集问题只是起点——真正的问责，在于这些问题能否进入决策程序，能否改变模型发布、风险政策和董事会行为。长期利益信托也只是起点，真正的使命治理，要看受托人如何产生、如何履职、如何接受质询、如何与公共监管衔接。AI治理的希望不在口号里。它在制度里，在多中心的责任结构里，在元亨利贞一次又一次的循环检验里。
八十多年前，那位年轻的旁观者站在通用汽车的流水线旁，在机器的轰鸣中看见了人。今天，流水线仍在延伸，只是传送带上运送的不再是曲轴和齿轮，而是AI代码和模型；线的尽头，AI机器正在组装下一代机器。
魔法师的学徒念得出唤起扫帚的咒语，却背不出让它停下的那一句。在歌德的诗里，只有归来的老魔法师才能念。所谓治理，或许就是赶在洪水漫屋之前，把这句咒语学会：它的名字，德鲁克叫作责任，《周易》叫作裁成辅相。
机器可以造机器，唯有人能问一句：造这些机器，究竟为了什么？
这一问，便是元；问而能通，便是亨；通而及众，便是利；久而不渝，便是贞。
在AI机器的轰鸣深处，愿我们始终聆听到那位旁观者安静的提问。
