扎克伯格公开信:Meta超级智能愿景浮现,AI开源策略或将转变

扎克伯格:Meta正转向个人超级智能,未来AI模型将不再全部开源,聚焦安全与个体赋能。

原文标题:刚刚,扎克伯克公开信:Meta不会开源全部模型

原文作者:机器之心

冷月清谈:

马克·扎克伯格近日发布公开信,阐述Meta对“超级智能”的愿景与策略调整。他指出AI系统已显现自我改进迹象,超级智能时代已近在眼前。Meta的长期目标是普及“个人超级智能”,让每个人都能拥有强大的AI工具,以此推动个体赋能,与业界由中心机构控制超级智能的观点形成对比。

在开源策略上,扎克伯格表示Meta未来将不再对所有AI模型进行开源,特别是在技术功能发生质变、可能带来安全隐患时。这表明公司在追求超级智能的过程中,将更加审慎选择开源内容,与此前Llama系列全开放的策略有所区别,尽管Meta此前并不依赖模型销售获利。文章强调,本世纪中后期将是决定超级智能发展方向的关键时期,Meta计划在2025年斥资720亿美元用于AI基础设施建设,以实现其愿景。

怜星夜思:

1、文章提到Meta未来可能不会开源所有AI模型,尤其是在技术达到“超级智能”级别时。大家觉得,面对这样的新技术,全开源和部分开源/闭源,哪种策略对人类社会发展更有利?各自的优缺点又是什么呢?
2、扎克伯格的愿景是推动‘个人超级智能’,赋能个体;而文章也提到有人主张由中心机构掌控超级智能。这两种不同的AI发展路径,你们更看好哪一个?会带来哪些社会影响,比如隐私、权力分配等?
3、Meta计划斥巨资投入AI基础设施,这固然能推动技术发展。但从商业角度和实际应用来看,你们觉得他们实现扎克伯格所说的‘个人超级智能’的愿景,面临的最大挑战会是什么?是技术瓶颈、用户接受度、还是伦理法规?

原文内容

机器之心报道

机器之心编辑部


Meta 联合创始人兼首席执行官马克・扎克伯格从 OpenAI、谷歌和苹果等公司挖走了众多顶尖 AI 研究人员,并开出了数亿美元的薪酬,此举震惊了整个科技行业。现在,他正在更多地分享他对超级智能的愿景。


在 Meta 财报电话会议召开前几个小时,扎克伯格一封公开信广为传播。他写道:过去几个月里,我们开始看到人工智能系统自我改进的迹象。目前来看,这种改进虽然缓慢,但不可否认。超级智能的开发已近在眼前。



这封信中还透露出一个信号,即 Meta 正在改变其发布 AI 模型的方式,以追求超级智能。「我们相信超级智能的好处应该尽可能广泛地与世界共享,但超级智能也会引发新的安全隐患。我们需要严谨地降低这些风险,并谨慎选择开源内容。」


这句关于开源的措辞意义重大。扎克伯格一直以来都将 Llama 系列开放模型定位为公司与 OpenAI、xAI 和 Google DeepMind 等竞争对手的关键差异化优势。Meta 的目标是创建与闭源模型一样好甚至更胜一筹的开源 AI 模型。在 2024 年的一封信中,扎克伯格写道:从明年开始,我们预计未来的 Llama 模型将成为业内最先进的模型。


扎克伯格此前曾就这一承诺留有回旋余地。「但如果到了某个时候,这个东西的功能发生了质的变化,而我们觉得开源不负责任,那我们就不会开源,」他在去年的播客中说道。


尽管许多人认为 Llama 并不符合开源 AI 的严格定义(部分原因是 Meta 尚未发布其海量训练数据集),但扎克伯格的话表明优先级可能会发生变化:开源可能不再是 Meta 默认选择。 


Meta 的竞争对手之所以保持模型闭源是有原因的。闭源模型让公司在产品变现方面拥有更大的控制权。扎克伯格去年指出,Meta 的业务并不依赖于出售 AI 模型的使用权,因此发布 Llama 不会像闭源提供商那样损害收入、可持续性或投资研究的能力。当然,Meta 的大部分收入来自销售互联网广告。


以下是公开信全部内容:



地址:https://www.meta.com/superintelligence/


在过去几个月里,我们已经开始看到我们的 AI 系统自我改进的迹象。这种进步目前还比较缓慢,但已是不可否认的事实。发展超级智能(superintelligence)如今已近在眼前。


可以清晰地预见,在未来几年,AI 将提升我们现有的一切系统,并推动那些我们今天尚无法想象的新事物的创造与发现。但一个悬而未决的问题是,我们将如何引导超级智能的发展方向。


在某种意义上,这将开启一个全新的人类时代;但在另一种意义上,它也只是历史趋势的延续。仅仅两百年前,90% 的人还在务农,以维持生计。技术的进步持续解放了人类,让我们逐步摆脱了生存压力,有更多精力去追求自己选择的事业。在每一个阶段,我们都将新增的生产力用于实现前所未有的成就 —— 推动科学与健康的发展,同时也投入更多时间在创造力、文化、人际关系和生活享受上。


我对超级智能能够加速人类进步的潜力感到极为乐观。但也许更重要的是,超级智能可能开启一个全新的个人赋能时代,每个人都将拥有更大的能力去推动世界朝他们所向往的方向发展。


尽管 AI 所带来的未来令人期待,但它对我们生活产生的最深远影响,很可能来自于每个人都拥有一个个人超级智能(personal superintelligence)。它能帮助你实现目标,创造你想看到的世界,体验任何冒险,成为更好的朋友,最终成长为你理想中的自己。


Meta 的愿景是让每个人都拥有个人超级智能。我们相信,这种力量应当交到每个人手中,由他们决定要将其用于自己生活中真正珍视的事务上。


这与行业中其他观点存在显著不同。有人主张应由中心机构掌控超级智能,致力于自动化所有有价值的工作,然后人类将依赖它的产出生存。而 Meta 相信,人们去追求自己的个人理想,才是一贯以来推动繁荣、科学、健康与文化进步的真正动力。未来,这种动力将愈加重要。


技术与人类生活的交汇点,是 Meta 的关注核心,而这一点在未来也只会变得更加重要。


如果发展趋势继续延续,人们将会减少在传统生产力软件上的投入,转而投入更多时间于创造与连接。一个真正了解我们、理解我们目标并能帮助我们实现它的个人超级智能,将是最有价值的工具。具备视觉和听觉能力、能全天候与我们互动的智能眼镜等个人设备,也将成为我们的主要计算平台。


我们相信,超级智能所带来的利益应当尽可能广泛地惠及全球。但我们也承认,超级智能将带来全新的安全挑战。我们需要对这些风险采取严谨的应对措施,并慎重考虑哪些内容可以开源。尽管如此,我们依然坚信,构建一个自由社会,必须以尽可能赋予个人权力为目标。


本世纪剩下的这几年,很可能将成为决定这项技术发展路径的关键期 —— 超级智能究竟会成为个人赋能的工具,还是取代社会大部分岗位的力量,这一切都将在这段时间内定下基调。


Meta 坚定地致力于构建赋能每一个人的个人超级智能。我们拥有打造这一庞大基础设施所需的资源与专业能力,也有将新技术普及至数十亿人产品中的经验与意愿。我对 Meta 能将努力聚焦于建设这样一个未来,感到无比激动。


除了这封公开信,Meta 在其第二季度财报中表示,将在 2025 年斥资高达 720 亿美元用于 AI 基础设施建设。奥,对了,美股盘后交易中,Meta 股价涨了,涨幅扩大至 10%。在人才挖的差不多之后,扎克伯格是时候全力开工了。


参考链接:

https://techcrunch.com/2025/07/30/zuckerberg-says-meta-likely-wont-open-source-all-of-its-superintelligence-ai-models/



© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:[email protected]

最大的挑战嘛,我觉得就是我什么时候才能买得起我的‘个人超级智能’啊!:joy: 毕竟Meta投这么多钱,肯定不会是白菜价。万一它每个月还得收订阅费,那我感觉我能拥有的,可能只是‘个人低能智能’。开玩笑啦!认真说的话,我觉得是大家愿不愿意把自己的生活完全‘交给’一个AI吧。从手机依赖症到AI依赖症,我怕到时候连思考都变懒了。科技公司能不能开发出那种既能让你依赖,又不会让你丧失独立思考能力的AI,这才是真本事!

关于AI模型的开源与闭源策略,我认为这并非简单的非黑即白。全开源确实能加速技术普惠和创新,例如Llama系列的广泛应用就证明了社区力量的强大。然而,当AI逼近‘超级智能’的临界点,其可能衍生的社会风险,如错误信息传播、恶意使用甚至失控,就不能不考虑。此时,部分闭源或受控开源,并在特定机构内进行严格的安全评估与伦理审查,或许能提供必要的‘刹车’机制。关键在于如何在技术效率与安全可控之间找到平衡点,确保技术发展在人类福祉的框架内。

当然是个人超级智能更酷啊!想想看,每个人都有一个钢铁侠的贾维斯,随时随地帮你处理工作、学习、甚至是生活琐事,那效率得多高!而且是‘你的’,完全按照你的意志来,这简直是解放生产力到极致了。中心机构掌控?那不就是给大公司打工,或者被政府监管吗?听起来就没劲。不过,万一我的个人超级智能跟我闹脾气,或者它‘学坏了’,那可咋整?:joy: 这或许是我们需要面对的新挑战。

我认为实现‘个人超级智能’最大的挑战绝非是钱(毕竟Meta财大气粗),而是技术瓶颈和基础设施的支撑。首先,在端侧,如何将如此庞大且复杂的AI模型高效运行在智能眼镜这类小型设备上,保证实时交互和能耗,这需要芯片技术、算法优化和边缘计算的巨大突破。其次,从‘智能’到‘超级智能’,不仅仅是模型变大,更是要实现真正的理解、推理、自我学习和通用性,这需要更深层次的AI理论和算法创新。最后,海量的个人数据存储、处理和隐私保护,也是巨大的工程难题。这每一步都不是轻易能跨越的。

哎呀,这不就跟武侠小说里,绝世武功不能随便传给坏人一个道理嘛!要是真有‘超级智能’,万一开源了,结果被某个反派A.I.得了去,直接统治全球了怎么办?想想都头皮发麻。所以我觉得,有点‘私藏’是必要的,至少得有个‘守门人’。就是别藏着藏着,最后就成了一家独大,把我们普通人都变成‘数字农民’就行。话说,Meta是不是已经想好谁来当这个‘守门人’了?

我觉得扎克伯格这话说得很实在。‘不负责任’的开源,其实就是说有些东西放出去,可能就失控了,或者被人用来干坏事。那些闭源公司也不是傻子,他们要变现,也要控制风险。对于我们普通用户来说,能用上先进AI最重要,至于它是开源还是闭源,只要安全好用就行。但从长远看,如果少数巨头垄断了超级智能,那也挺可怕的,得有个机制去制衡。

我觉得技术进步再快,也没人性复杂。最大的挑战是伦理法规和用户接受度。你想啊,一个‘个人超级智能’深入你的生活,知道你的一切偏好、秘密,甚至比你更了解你自己,这会是福音还是潘多拉魔盒?隐私如何界定?万一AI误导或者影响个人决策怎么办?谁来负责?这些伦理困境如果得不到解决,即使技术再厉害,大众也很难完全信任和广泛采用。再说了,你真的准备好让一个AI,全天候、全方位地‘黏’着你,成为你生活的一部分了吗?反正我是有点犹豫的。

就‘个人超级智能’与‘中心机构掌控’这两种未来图景,我个人更倾向于前者,因为它符合人类追求自由和个体价值的历史趋势。当每个人都拥有强大的‘助手’,理论上能极大地激发创造力和生产力。然而,这并非没有挑战。关键在于如何确保这种个人赋能不会导致社会层面的无序、信息茧房的加剧,以及个体之间数字鸿沟的扩大。隐私保护会是核心问题,你的‘个人’AI了解你一切,数据安全和谁能访问这些数据,将决定这种赋能是真自由还是被控制的幻象。中心机构掌控看似效率高,但权力寻租和对个体意志的压制是无法回避的风险。

从历史来看,任何工具的普及最终都倾向于赋能个体。从印刷术到互联网,技术进步的洪流总是将力量从中心下放。所以,扎克伯格的‘个人超级智能’愿景,其实是顺应了这种历史规律。但同时也要看到,每一次技术革命都会带来新的社会结构和权力分配问题。例如,当贫富差距体现在‘个人超级智能’的质量和可访问性上时,新的不公平就会出现。再者,如何防止‘个人’AI被用于恶意目的,或是形成新的基于AI的垄断,都是社会需要在技术发展初期就开始深思和构建规则的。