AI赋能科研的“内卷悖论”:从“辅助工具”到“合作伙伴”的范式升级

AI加速科研,但可能导致“内卷”?清华大学研究揭示AI赋能科研的悖论,呼吁人机协同。

原文标题:清华大学电子系Nature发文揭示AI赋能科研的“内卷悖论”——科学智能需要从“辅助工具”到“合作伙伴”的范式升级

原文作者:数据派THU

冷月清谈:

清华大学电子工程系的研究团队通过分析海量科学文献,揭示了AI在加速科研的同时,也可能导致科学界的集体注意力窄化和趋同探索。研究发现,AI虽然能显著提升科学家个人的研究效率和影响力,但从整体上看,却可能导致科学探索的广度下降和跨领域合作减少。这种“内卷悖论”源于AI倾向于在既有数据上进行深入挖掘,而非在未知领域开辟新的探索。为打破这一局限,研究团队提出了“全流程科研智能体系统”(OmniScientist.ai),旨在推动AI从“辅助工具”进化为具备主动提出假说、自主设计实验、分析结果并形成理论的“AI科学家”,通过人机深度融合和协同,拓展认知边界,催生颠覆性科学理论。这项研究提醒我们,在拥抱AI赋能的同时,需要警惕其可能带来的负面影响,并积极探索人机协同的科研新模式,以实现科学的全面进步。

怜星夜思:

1、你认为目前AI在科研领域最大的局限性是什么?除了文章中提到的“趋同探索”,还有哪些潜在的风险?
2、文章中提到的“全流程科研智能体系统”如果真的实现,你觉得会对未来的科研模式产生什么样的影响?科学家会面临哪些新的挑战?
3、你认为应该如何平衡AI赋能科研的效率提升和可能带来的创新多样性下降?

原文内容

图片


当你着眼于设计下一个 AlphaFold 或 GPT 时

是否想过它可能在悄然改变科学界的研究范式?

人工智能(AI)

正在以前所未有的深度和广度介入科学研究

从蛋白质结构到新材料发现

AI似乎已成为科学加速的“万能引擎”

展现出科学智能范式(AI for Science)的巨大潜力


然而

一个根本性的矛盾现象也在逐渐浮现:

在AI持续赋能科研的背景下

为何各学科的颠覆性研究成果却在逐年减少?


清华大学电子工程系徐丰力、李勇教授

联合芝加哥大学团队
通过科学语言基础模型

分析了全球2.5亿篇科学文献
首次揭示了

AI在助力科学家加速自身研究进展的同时

却导致科学界的集体注意力窄化

和趋同探索的矛盾效应


该研究成果以

《人工智能促进科学家影响力增长

却制约科学认知边界扩张》

(“Artificial intelligence tools expand 

scientists’ impact 

but contract science’s focus”)为题

于1月14日在线发表于《自然》(Nature)

Science刊发专文跟进报道


Nature网站截图


为了打破当前科学智能单点优化

带来的 “内卷悖论”

团队致力于打造赋能闭环科学发现的

科研智能体系统

探索科学智能从单点 “辅助工具”

到通用 “合作伙伴” 的范式升级



数据为钥,破译AI赋能科研的足迹


全球科研成果和科学文献浩如烟海

如何从中精准识别 “AI赋能的研究” ?

李勇教授团队

摒弃停留在关键词层面的浅层检索方法

提出高质量专家标注

大规模语言模型训练结合的技术路径
对跨越近50年的海量科学文献进行深度扫描

构建了横跨

“机器学习、深度学习、生成式AI” 三个时代

涵盖4130万篇论文覆盖2857万研究者

AI赋能科研全景知识图谱

形成了AI赋能科学研究的首个基准数据集
为定量刻画AI对科学的长期与系统性影响

奠定了坚实数据基石



计算为尺,丈量科学的认知版图


为定量评估AI对科学研究的影响

团队提出基于隐藏变量的科学学分析方法
将高维科学语义嵌入与复杂学术网络分析结合

创新定义 “知识广度” 量化指标
—— 在768维隐藏向量空间

通过计算向量分布的 “直径” 与熵值
精确度量科学探索认知边界的扩张与收缩

揭示了出人意料的矛盾效应:

在微观个体层面

AI助力科学家个体文章发表量提升至3.02倍

文章引用量激增至4.84倍

甚至提早1.37年成为研究项目负责人

AI促进科学家的个人影响力提升与职业发展


然而个体科研加速的背后

是人类整体科学版图的异常收缩
在集体层面上

与AI结合的科研项目的知识广度下降了4.63%
不同领域科学家间的跨界互动减少了22%

AI赋能的研究引文呈现 “星型结构”

表明创新活力趋向集中和单一化


“趋同探索” 效应与科学界集体关注面的收缩


总的来说

团队提出了新颖的科学智能观测手段

首次实证揭示了技术效率与创新多样性的深刻张力



机制为核,揭示 “群体登山” 的内在原理


深入机理研究

团队进一步发现 “科学智能引力” 效应:

AI的高效率引导研究者集体涌向

少量适合AI研究的 “热门山峰”

这种 “群体登山”模式

虽加速了已知问题的解决

却无形中固化了科学探索的路径

系统性地削弱了科学家向 “未知山峰” 探索的广度


进一步的机制分析表明:

这绝非偶然关联

而是当前智能科研模型缺乏通用性导致的系统性影响


我们正在努力构建的

是一个加速我们接近现有知识边界的科学世界

而不是一个能不断为我们揭示新知识边界的未来世界


科学探索的 “群体登山” 效应



范式为镜,映照人机协同的未来之路


当科学进步的指针在AI驱动下加速转动

我们更需警惕表盘之下悄然收缩的刻度


这一矛盾机制的发现是对AI赋能科研模式的深度反思
现有的AI for Science

虽然极大地促进了局部的效率提升
却难以驱动全链条、多领域的科研创新

正是这种局限性

导致AI倾向于在既有数据上深入挖掘 
而非在未知领域开辟探索全新问题


为突破这一局限
徐丰力、李勇教授团队提出

“全流程科研智能体系统”(OmniScientist.ai)
推动AI从 “辅助工具” 

进化为具备 “主动提出假说、自主设计实验、

分析结果并形成理论” 的 “AI科学家”

通过人机深度融合和协同

形成超级智能体

拓展认知边界、催生颠覆性科学理论

图片





论文信息

该研究获国家自然科学基金的支持,完成单位为清华大学电子工程系、北京中关村学院、芝加哥大学数据科学和社会科学系,通讯作者为徐丰力助理教授、李勇教授、James Evans教授,第一作者为清华大学电子工程系博士生郝千越。


论文链接:

https://www.nature.com/articles/s41586-025-09922-y

Nature官方解读:

https://www.nature.com/articles/d41586-025-04092-3

Science同期报道:https://www.science.org/content/article/ai-has-supercharged-scientists-may-have-shrunk-science


来源:清华大学电子工程系公众号






关于我们

数据派THU作为数据科学类公众号,背靠清华大学大数据研究中心,分享前沿数据科学与大数据技术创新研究动态、持续传播数据科学知识,努力建设数据人才聚集平台、打造中国大数据最强集团军。




新浪微博:@数据派THU

微信视频号:数据派THU

今日头条:数据派THU


影响肯定是巨大的,也许未来的科研模式会变成“人提出问题,AI解决问题”。科学家可能需要更多地学习编程、数据分析等技能,以便更好地驾驭AI工具。同时,科研的评价标准也需要做出相应的调整,不能只看论文数量和引用率,更要看研究的创新性和影响力。

我觉得可以考虑引入一些“随机性”的机制。比如,在AI进行数据分析时,可以故意加入一些噪声或者干扰,以避免AI陷入局部最优解。或者,可以设立一些专门支持探索性研究的基金,鼓励科学家们进行高风险、高回报的探索。

除了要注重人才培养,鼓励跨学科的交流与合作也很重要。AI可以帮助我们快速找到相关的研究成果,但是真正的创新往往来自于不同领域的碰撞和融合。所以,我们要打破学科壁垒,鼓励科学家们进行跨界合作,共同探索新的研究方向。

我觉得最大的局限性在于AI本质上是基于现有数据进行学习和推理,缺乏真正的创造性和批判性思维。就像一个超级学霸,能把已知的知识点运用得炉火纯青,但很难提出全新的理论或者发现意料之外的现象。潜在的风险还有可能加剧科研资源的分配不均,强者更强,而那些探索冷门领域的科学家可能更难获得支持。

谢邀,人在实验室刚下线。从我自己的经验来看,AI最大的问题是“黑盒”属性。我们很多时候并不知道AI为什么会得出这样的结论,这就导致我们很难信任AI,也很难对AI的结果进行深入的分析和解读。另外,AI的算法也可能会存在偏见,如果训练数据本身就存在偏差,那么AI的结果也会受到影响。

这个问题问得好!我觉得关键在于要让人和AI各司其职。AI擅长的是数据处理和模式识别,人擅长的是创新思维和价值判断。所以,我们要充分发挥AI的优势,但也要避免过度依赖AI,要鼓励科学家保持独立思考和批判精神,敢于挑战权威,探索未知领域。

同意楼上的观点,AI目前还是工具,它的“智能”来源于大量数据的训练,所以它只能在已有的框架内进行优化,很难跳出框架进行创新。另外,我觉得AI生成的结论很容易被过度解读或者滥用,如果缺乏严格的伦理审查,可能会产生误导性的结果。

我觉得如果真的能实现,那绝对是科研界的一场革命!科学家可以把更多的时间和精力放在思考更本质的问题上,而不是耗费在重复性的实验和数据分析上。但是,科学家也需要学习如何更好地与AI协同工作,如何理解和解释AI的结果,这可能会是一个很大的挑战。

抛开技术实现的难度不谈,我觉得最大的挑战是伦理层面的。如果AI真的能够自主进行科研,那么谁来对AI的行为负责?AI的成果归谁所有?这些问题都需要我们提前思考和解决。细思极恐啊!