微软副总裁Nando de Freitas:AI发展是系统性工程,不应过度神化单一技术

微软副总裁:AI发展是系统性工程,反对神化RL等单一技术,强调多领域合作和社群共同努力。

原文标题:RL很重要,但远非All You Need!微软副总裁:AI不靠单个技术撑起

原文作者:机器之心

冷月清谈:

微软副总裁 Nando de Freitas 近日发表观点,强调AI发展是系统性工程,反对过度宣传单一技术如强化学习(RL),应重视多领域合作。他认为AI的进步并非仅靠少数天才,而是成千上万参与者共同推动,包括数据处理、基础设施建设、高性能计算、应用开发等多个环节。文章还指出,过去被推崇的观点可能随着技术发展而过时,AI发展需要不断突破传统观念,通过探索和试错逐步推进。他呼吁行业应致敬整个社群的努力,而非只追捧科技巨头或少数技术开创者,并鼓励创新,不盲从现有叙事。

怜星夜思:

1、文章中提到“若当初全盘接受它,我们现在可能还在用线性回归搞强化学习”,你觉得这句话背后的含义是什么?如果当初没有突破线性回归,会对现在AI发展产生什么影响?
2、文章提到“AI 发展史上没有单一作战的英雄,只有成千上万辛勤工作的学生、教授、工程师...”,你认同这个观点吗?在AI领域,你认为哪些角色/工种是被低估的?
3、文章最后提到“科学进步是一次又一次的葬礼实现的”,你怎么理解这句话?在AI领域,有哪些“葬礼”是不可避免的?

原文内容

机器之心报道

机器之心编辑部

近日,微软副总裁 Nando de Freitas 发文指出,「别再神化技术或个人,AI 是一场系统性工程。」


「AI 领域确实存在苦涩的教训,但若当初全盘接受它,我们现在可能还在用线性回归搞强化学习。」


刚刚,微软副总裁 Nando de Freitas 一篇长推文表达了自己的观点:


  • 反对单一技术的过度宣传,如 RL,应该强调多领域合作的重要性;

  • AI 进步不是靠单一天才撑起的,而是成千上万的参与者共同推动了这一领域的发展;

  • 过去的一些观点在当时看似合理,但随着技术的发展,这些观点显得过时;

  • 人工智能的发展需要不断突破传统观念,就像数学一样,通过不断的探索和试错来逐步推进。



推文中,Freitas 还透露 RL 固然重要,但还远未达到「RL is all you need」的程度。


最近,关于 RL 的讨论开始刷屏,不管是智能体还是大模型,都有 RL 身影。


连最近大火的强调了 RL 的重要性。


主流人工智能范式的简要时间线。纵轴显示该领域在强化学习(RL)上的总体努力和计算资源的占比。


但 Freitas 却不这么认为。


他表示「RL is not all you need,此外,注意力机制不是,贝叶斯不是,自由能量最小化不是,经验时代也不是。这类说法不过是一种宣传话术罢了。


Freitas 进一步表示:「AI 的进步绝非仅靠单一技术或少数天才,而是需要成千上万的人的努力,他们协力构建数据 pipelines、扩展基础设施、部署高性能计算、开发具有反馈循环的应用来驱动基准测试和数据迭代,还需要投入海量研究工程资源到生成模型、数据混合、消融实验、强化学习 / 自训练等方向。


我们还将需要大批人才攻克安全性、因果世界模型、意识机制等难题,或设计创新工程方案来提升能源效率,推动机器人技术发展。


最终某些简单理念在后来或许会显得不言自明,但这种显而易见永远来自后见之明。确实存在苦涩的教训,但若当初全盘接受它,我们现在可能还在用线性回归搞强化学习。我们不要过于简单化,而是向成千上万人的研究和工程致敬。


历史叙事总被不断改写,回想十年前当初创公司 Dark Blue Labs 被谷歌收购加入 DeepMind 时,那些 AGI 文档通篇都在讨论概念认知、强化学习、情景记忆,明确将语言排除在外。


平心而论,当时这种立场并不算荒谬。如今看来固然可笑,但这完全是后见之明。


AI 发展史上没有单一作战的英雄,只有成千上万辛勤工作的学生、教授、工程师、运维支持人员、产品经理、管理者,甚至包括对冲基金从业者。


我们需要致敬整个社群,而非只追捧科技巨头 CEO 或那些贝叶斯、强化学习、深度学习的开创者。


别盲从现有叙事,要创新。记住,就像数学发展一样,AI 的进步永远需要代际更迭 —— 科学进步是一次又一次的葬礼实现的。


对于这一观点,很多人表示认同,来自佐治亚理工学院的助理教授 Animesh Garg 表示:「人工智能本质上是算法和系统之间复杂的相互作用,它需要的不仅仅是一个聪明的想法。然而,我们却将那些可见的少数人奉为神明!」



「算法的发明者和使用者的贡献是不同的。我们需要承认这一点。」



回头来看,在人工智能漫长征程中,每一个微小的进步都凝聚着无数人的智慧。从数据的整理到模型的优化,从理论的探索到应用的落地,每一个环节都不可或缺。正如 Nando de Freitas 所言,AI 的发展绝非单一技术或少数天才的独舞,而是成千上万参与者共同努力的结果。



© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:liyazhou@jiqizhixin.com



Absolutely!AI发展当然不是孤胆英雄的故事,而是集体智慧的结晶。想象一下,没有数据工程师清洗和整理海量数据,算法再牛也无米下炊;没有标注人员辛勤标注,模型就无法有效学习;没有系统运维工程师保障系统稳定运行,AI应用就会三天两头崩溃。这些幕后英雄的贡献往往被忽视,但他们才是AI大厦的基石。

我觉得尤其被低估的是那些关注AI伦理和社会影响的研究者。他们思考AI可能带来的风险,努力确保AI技术符合伦理道德,避免被滥用。他们的工作可能不像算法研究那么耀眼,但对于AI健康发展至关重要。我们不能只关注AI的强大,更要关注它的责任。

这句话听起来有点丧,但其实很真实!科学进步就像盖房子,拆了旧的才能盖新的。那些被“埋葬”的,往往是曾经辉煌但已经无法适应新环境的理论或方法。

在AI领域,我觉得这些“葬礼”迟早要来:

* “银弹”思维: 总是有人认为存在某种神奇的算法或技术,可以解决所有AI问题。但现实是,AI发展需要各种技术的协同配合。
* 对数据的迷信: 认为只要有足够的数据,AI就能无所不能。但数据质量也很重要,垃圾数据只会训练出垃圾模型。
* 完全黑盒的模型: 随着AI应用越来越广泛,人们对模型的可解释性要求也越来越高。那些完全无法解释的黑盒模型可能会逐渐被淘汰。

所以,让我们做好心理准备,迎接AI领域的各种“葬礼”,并从中汲取经验教训,推动AI不断向前发展!

当然认同!这就像拍电影,导演、演员固然重要,但灯光师、场务、化妆师也缺一不可。AI领域也是一样,聚光灯往往打在算法工程师身上,但别忘了那些默默付出的幕后英雄。

我个人觉得被低估的有:

* 数据标注员: 他们是AI的"搬运工",用耐心和细致为AI提供训练素材,没有他们,AI就是个"空架子"。
* 测试工程师: 他们是AI的"质检员",用各种方法测试AI的性能和稳定性,确保AI不会"掉链子"。
* 文档工程师: 他们是AI的"翻译官",用清晰易懂的语言将复杂的AI技术"翻译"给用户,让更多人了解和使用AI。

所以,让我们向所有为AI发展默默付出的人致敬!

我非常认同这个观点。AI的发展绝对不是个人英雄主义的舞台,而是需要整个社区共同努力才能实现的。就像建造一座大厦,不仅需要设计师和建筑师,还需要无数的 строитель, 水管工, 电工等等。

我认为在AI领域,以下角色/工种是被低估的:

* 数据标注员: 他们是AI的" воспитательница", 负责清洗、标注数据,为模型提供" питание". 没有高质量的数据,再厉害的算法也无法发挥作用。
* 运维工程师: 他们是AI的" 保вец", 负责维护AI系统的稳定运行,确保AI能够持续提供服务。他们的工作虽然不显眼,但至关重要。
* 伦理学家和社会学家: 他们是AI的" компас", 负责引导AI朝着正确的方向发展,避免AI被滥用。他们的工作对于AI的长期发展至关重要。

总之,AI的发展需要各个领域的专家共同参与,每个角色都不可或缺。我们应该尊重每个人的贡献,共同推动AI的进步。

这句话有点残酷,但揭示了科学进步的本质——新思想的诞生往往伴随着旧观念的死亡。就像生物进化一样,只有适应环境的物种才能生存下来,科学理论也一样,只有不断进化才能解释新的现象。

AI领域,我觉得这些“葬礼”是不可避免的:

* 纯粹的规则系统: 曾经人们试图通过编写大量的规则来让机器实现智能,但这种方法在面对复杂场景时就显得力不从心。现在,基于数据的机器学习方法已经成为主流。
* 过度依赖人工特征工程: 过去,我们需要花费大量精力来设计合适的特征,但现在,深度学习可以自动学习特征,大大简化了开发流程。
* 对可解释性的忽视: 早期,我们更关注模型的性能,而忽略了模型的可解释性。但现在,随着AI应用越来越广泛,可解释性变得越来越重要。

所以,拥抱变化,接受“葬礼”,才能让AI不断进步。

这个问题问得好!我觉得这句话的核心在于强调技术发展需要不断突破和创新,不能固步自封。线性回归在某些简单场景下可能有效,但面对复杂如强化学习的问题,它的局限性就暴露无疑。如果当初我们坚持使用线性回归,那么现在AI的发展可能会停留在非常初级的阶段,很多现在看起来很酷炫的应用可能根本不会存在。

设想一下,如果AI只能做一些简单的预测和分类,而无法进行复杂的决策和控制,那自动驾驶、智能机器人、个性化推荐等等都将成为空谈。所以,突破线性回归,拥抱更复杂的模型和算法,是AI发展的重要一步。也告诉我们,即使是曾经有效的技术,也可能会成为未来发展的瓶颈,要时刻保持学习和探索的心态。

线性回归就像算盘,虽然简单好用,但在面对现代AI这种高精尖的需求时,就显得捉襟见肘了。这句话其实是反讽,说明了技术发展需要不断迭代和创新,不能抱着旧方法不放。如果当初没有突破线性回归,现在的AI可能就像一个只能做简单加减法的计算器,而无法成为我们现在看到的智能助手。

结果就是,可能我们现在还在用手写识别验证码,而不是用AI来识别;可能自动驾驶还在科幻电影里,而不是在马路上跑;甚至可能我们还在为如何让机器理解一句话而头疼,而不是让它帮我们写文案。所以,感谢那些突破线性回归的大佬们,是他们让AI有了今天的模样!

这句话的意思是,如果当初没有突破线性回归的局限,现在的强化学习可能仍然停留在非常基础的阶段,无法解决复杂的问题。线性回归是一种简单的线性模型,表达能力有限,无法处理非线性的复杂关系。如果一直依赖线性回归,AI的发展可能会停滞不前,无法实现现在的智能水平。

对现在的影响如下:
1. 无法处理复杂问题: 线性回归无法捕捉数据中的非线性关系,导致模型在复杂任务上表现不佳。
2. 算法创新受限: 依赖线性回归会阻碍算法创新,研究人员可能难以突破现有框架,导致技术进步缓慢。
3. 应用领域狭窄: 许多现实世界的问题具有高度的非线性,如果依赖线性回归,AI的应用领域将受到极大限制,无法在语音识别、图像处理等领域取得突破。

一句话,如果当初没有突破线性回归,AI的发展速度可能会慢很多,很多现在的应用场景都无法实现。

这句话出自物理学家马克斯·普朗克,意思是新的科学理论的出现,往往伴随着旧理论的被推翻和淘汰。旧理论的拥护者可能终其一生都无法接受新理论,但历史的车轮滚滚向前,最终会埋葬那些过时的观点。

在AI领域,以下“葬礼”可能是不可避免的:

* 过时的算法: 随着技术的发展,一些曾经流行的算法可能会被更先进的算法所取代。例如,传统的机器学习算法在面对深度学习时就显得力不从心。
* 低效的架构: 随着数据规模和计算需求的增长,一些低效的架构可能会被更高效的架构所取代。例如,传统的CPU架构在面对AI计算时就显得效率低下。
* 错误的假设: 随着研究的深入,一些错误的假设可能会被新的发现所推翻。例如,曾经有人认为AI不可能超越人类,但现在看来这种观点已经站不住脚了。

总之,AI的发展是一个不断试错和进步的过程,我们需要拥抱变化,敢于否定过去,才能不断取得新的突破。