Anthropic 和 Databricks CEO 对话：AI Agent 的未来与企业数据价值

AI资讯
1

Anthropic 和 Databricks CEO 探讨 AI Agent 的未来、数据价值和产品迭代，强调企业应重视专有数据和AI技术的结合，拥抱 Agent 驱动的创新。

原文标题：Agent产品，快者为王？Anthropic 和 Databrick CEO 对话解读

原文作者：机器之心

冷月清谈：

Anthropic CEO Dario Amodei 和 Databricks CEO Ali Ghodsi 近期就 AI Agent 的未来、数据价值、产品迭代等话题展开对话。Amodei 强调了 AI 应用于各经济领域的巨大潜力，并明确指出“AI 的未来是 Agents”，企业应围绕 Agents 进行创新，利用其自主调用工具和与数据交互的能力。对话中，双方还强调了数据对于企业的价值，企业应借助 AI 技术量化专有数据价值，并通过 RAG 技术等方式加速产品迭代。此外，他们还探讨了 Scaling Law 的发展趋势，认为其仍有潜力，但实用性需要进一步优化。

怜星夜思：

1、文章中提到“AI 的未来是 Agents”，那么你认为目前 Agent 技术在实际应用中还存在哪些瓶颈？我们应该如何突破这些瓶颈？
2、文章中提到了数据价值，企业专有数据是构建竞争壁垒的核心，那么，中小企业应该如何利用自身的数据来构建 AI 模型，并形成自己的竞争优势？
3、文章提到了 Anthropic 两位创始人都强调 Scaling Law 未达上限，但实用性需要预训练之外的优化，同时指出数据耗尽和成本问题。你认为 Scaling Law 的尽头在哪里？未来大模型的发展方向是什么？

原文内容

本文来自PRO会员通讯内容，文末关注「机器之心PRO会员」，查看更多专题解读。

图片
图片1080×460 15.9 KB

Anthropic 和 Databrick 近期以「人工智能的未来：面向各领域的专用 Agent」为主题的线上峰会。两家公司的 CEO Dario Amodei 和 Ali Ghodsi 在其中的对谈环节分享了有关 Agent 的未来、Amodei 此前的博文以及双方所展开的相关合作等话题。

目录

01. 在谈论Agents之前，人们应该先关注什么？

Dario Amodei 在《Machine of Loving Grace》中写了什么？为什么说「AI的未来是Agent」？...

02. 数据价值无可替代，但数据治理风险如何破解？
Anthropic 和 Databrick 如何围绕数据 Agent 数据进行创新？人类如何把握 AI技术的双刃剑？...
03. AI 应用快速迭代的阻塞要靠 MCP 跨越？
Agents 产品迭代的关键缺口如何突破？MCP 和 A2A 范式下，企业怎样维护数据安全？...
04. Anthropic 为何仍乐观看待「Scaling Law」？
数据的「Scaling Law」依然乐观？Anthropic 一直在做 Model Scale？...

01  在谈论Agents之前，人们应该先关注什么？

1、在本场访谈开始前，Ali Ghodsi 询问了 Dario Amodei 在 2024 年 10 月发布的《Machines of Loving Grace》文章中对 AI 未来发展潜力与风险的看法。

① 在这篇文章中，Amodei 提到人类低估了 AI 的好处和风险，强调需要关注风险以实现积极的未来。[2-1]

② 文章中还提到，短期内人类可以通过比较优势继续在经济中发挥作用，但长期来看，人类需要重新思考经济组织方式，包括加强全球合作、政策支持以及对 AI 风险的有效管理。[2-1]

2、就该文章所延展的问题，Amodei 表示，人们在讨论 AI 优势时往往缺乏足够的想象力和具体案例，AI 应用将覆盖整个经济领域，同时带来超越经济层面的社会变革。

3、Ghodsi 进而提出「AI 技术要多久才能真正落地并产生实际效益」的问题。Amodei 表示这将取决于传统企业与 AI 公司的合作及市场推广，更重要的是要让相对滞后的经济领域也能快速适应并应用这些创新技术。

4、在这一话题下，Dario Amodei 明确表示「AI 的未来是 Agents」，企业需要围绕 Agents 进行创新，开发能够充分利用 Agents 这种能够自主地调用工具，完成与数据的交互能力的产品和服务，并通过列举 2 个实例证明上述观点。

① Amodei 在访谈中分享到，全球科技公司 Block 利用语音识别技术和生成式 AI 模型，开发了能够通过语音指令自动完成店铺和商品信息设置的 Agents。

② 另一个案例是美国电话电报公司 AT&T 结合传统机器学习和生成式 AI 模型，通过分析通话记录来检测欺诈行为，使欺诈攻击减少了 80%。

5、在后续的对话中，Dario Amodei 和 Ali Ghodsi 基于两家公司达成合作以及 Databricks 开发的治理工具，强调了 AI 能够在确保安全条件下，量化数据价值和加速产品迭代。此外，两人还探讨了 Scaling Law 相关话题。

① Amodei 和 Ali Ghodsi 都建议借助 AI 技术量化企业专有数据的价值，以两家公司的合作作为范式，并介绍了管控数据治理风险的 Unity Catalog 工具。

② Amodei 和 Ali Ghodsi 都强调 AI 产品快速迭代的重要性。Dario Amodei 分享了如何使用 RAG 技术，加速产品迭代。两家公司均接入 MCP 协议，帮助 AI 工具使用外部数据资源。

③ Anthropic 的两位创始人都强调 Scaling Law 未达上限，但实用性需要预训练之外的优化，同时指出数据耗尽和成本问题，以及多维度协同优化和混合推理模型的重要性，并预测模型迭代速度将继续保持快速。


02  数据价值无可替代，但数据治理风险如何破解？

1、Dario Amodei 和 Ali Ghodsi 的第二个话题围绕数据展开，他们从 AI 能力角度和企业角度分别强调了数据对于企业的价值和重要性。

① Amodei 认为，数据代表着企业积累的知识与智慧，是与 AI 能力最相辅相成的要素之一。企业不仅可以用数据来微调模型，还可以将其作为模型运算的基础，通过 RAG 等方法提供上下文，或供智能体分析使用。

② Ali Ghodsi 认为，企业专有数据是构建竞争壁垒的核心，专用于训练模型的企业数据对构建 AI 模型很关键，尤其是各行业、企业和客户特有的数据，比如制药公司的实验数据，金融机构的交易记录，科技公司的用户行为数据...
 关注👇🏻「机器之心PRO会员」，前往「收件箱」查看完整解读 

更多往期专题解读内容，关注「机器之心PRO会员」服务号，点击菜单栏「收件箱」查看。

2

Scaling Law 这玩意儿，感觉就像是军备竞赛，大家都在比谁的炮筒子更大更粗。但实际上，真正决定胜负的，往往是炮弹的质量和精准度。我觉得未来大模型的发展方向，会更加注重模型的专业性和领域化。通用大模型固然重要，但更重要的是要针对specific领域打造出更精准、更高效的专用模型。比如，医疗领域的医学大模型，金融领域的金融大模型，等等。而且，大模型的成本问题也必须解决，不然就成了有钱人的游戏，普通人根本玩不转。

3

从数据管理的角度来说，中小企业需要建立完善的数据采集、存储和管理体系，确保数据的安全性和可用性。同时，中小企业也需要注重数据分析和挖掘，从数据中发现有价值的信息和规律。此外，中小企业还可以通过数据共享和合作，与其他企业或者机构共同构建更大的数据集，提升模型的准确性和泛化能力。当然，数据安全和隐私保护也是需要重点关注的问题。

4

从理论上讲，Scaling Law 的尽头可能受到物理定律的限制，比如能量消耗、信息传递速度等。但更实际的限制可能来自于数据质量和算法的创新。未来大模型的发展方向，我认为会沿着以下几个方向发展：一是更加注重知识表示和推理能力，让模型能够进行更高级的认知活动；二是更加注重模型的安全性和可靠性，避免出现不可预测的风险；三是更加注重模型的效率和可部署性，让模型能够在各种设备上运行；四是更加注重模型的伦理和社会影响，确保模型的使用符合人类的价值观。

5

文章里讲的Agent未来确实很吸引人，但现在实际用起来感觉还是有很多限制。比如，Agent的自主性和决策能力还不够强，很多时候还是需要人工干预。还有，Agent的安全性也是个问题，万一被黑客利用了，后果不堪设想。我觉得要突破这些瓶颈，一方面要继续提升 Agent 的算法和模型，让它们更聪明、更可靠；另一方面，也要加强 Agent 的安全防护，比如加入权限管理、行为审计等机制。而且，Agent的应用场景也是个需要考虑的问题,并不是所有场景都适合用Agent，需要仔细评估。

6

我觉得Agent现在最大的问题就是“人工智障”，看起来很智能，但实际做出来的事情常常让人哭笑不得。想要解决这个问题，我觉得需要从两个方面入手：一是让 Agent 能够更好地理解人类的意图，不要总是理解错误；二是让 Agent 能够更好地处理异常情况，不要一遇到问题就崩溃。当然，这需要大量的训练数据和更强大的算法支持。

7

Scaling Law 就像爬山，现在我们还在半山腰，虽然风景不错，但离山顶还远着呢。我觉得 Scaling Law 的尽头不是算力或者数据，而是人类的认知能力。当我们对世界的理解达到一定程度后，再大的模型也无法超越这个限制。未来大模型的发展方向，我觉得会是更加智能化、个性化和可解释性。我们需要让模型能够更好地理解人类的意图，更好地适应不同的应用场景，更好地解释自己的决策过程。而不是一味地追求更大的规模和更高的精度。

8

从学术角度来看，Agent技术的瓶颈主要在于以下几个方面：一是环境理解的局限性，Agent 需要更强大的感知能力和推理能力才能适应复杂多变的环境；二是知识表示和推理的挑战，如何有效地表示和利用知识，让 Agent 能够进行更高级的推理和决策，仍然是一个难题；三是Agent的长期学习和适应能力不足，如何让 Agent 在不断变化的环境中持续学习和优化，是一个重要的研究方向。要突破这些瓶颈，需要结合深度学习、知识图谱、强化学习等多种技术，并进行跨学科的合作。

9

中小企业想搞AI，最重要的是要找准方向，不要盲目跟风。可以先从一些简单的应用入手，比如用户画像、智能推荐、客户服务等。然后，要充分利用现有的工具和平台，比如各种云服务、AI 开发平台等，降低开发成本。当然，最重要的是要有一支靠谱的团队，即使人不多，但也要有懂业务、懂数据、懂技术的复合型人才。别想着一口吃成个胖子，慢慢来，总能做出点东西的。

10

中小企业资源有限，想要利用数据构建 AI 模型，可以考虑以下几个步骤：首先，要明确自己的业务痛点和需求，找到最需要 AI 解决的问题；其次，要对自己的数据进行梳理和清洗，确保数据的质量；第三，可以选择一些开源的 AI 框架和工具，降低开发成本；第四，可以考虑与一些 AI 公司合作，借助他们的技术和经验；最后，要不断地尝试和优化，根据实际效果进行调整。记住，小步快跑，快速迭代才是王道！