o3-mini 与 DeepSeek R1 在物理模拟编程任务上的对比

o3-mini 在物理模拟编程任务中表现优于 DeepSeek R1,展现出对物理规律更准确的理解。

原文标题:o3-mini 碾压DeepSeek R1?一条python程序引发近400万围观

原文作者:机器之心

冷月清谈:

近日,OpenAI 推出新的推理模型 o3-mini,其成本效益更高。有开发者通过 Python 脚本编写球体在形状内弹跳的程序,对 o3-mini 和此前备受关注的国产大模型 DeepSeek R1 进行了对比。

测试结果显示,在模拟球体在旋转六边形内弹跳的任务中,o3-mini 生成的程序能更好地展现碰撞和弹跳效果,并更准确地体现重力和摩擦力的影响,而 DeepSeek R1 生成的程序则未能准确模拟物理规律。

在模拟球体在四维超立方体内部弹跳的任务中,o3-mini 也展现出对几何结构和运动轨迹更准确的理解。尽管 DeepSeek R1 在某些情况下也能生成带有球体和几何外框的程序,但其对四维超立方体的理解和球体运动轨迹的模拟仍存在不足。

进一步的测试中,开发者尝试模拟 100 个彩色小球在一个旋转球体内部弹跳,并留下逐渐消失的轨迹。o3-mini 完美满足了所有要求,而 DeepSeek R1 的表现也较为出色。

分析认为,这类任务对模型理解真实世界的物理规律提出了挑战,需要模型综合运用语言、几何、物理和编程知识。o3-mini 在物理模拟方面的表现可能与其在科学问题上的优势有关。

怜星夜思:

1、在测试中,o3-mini 和 DeepSeek R1 的表现差异是否与模型的训练数据有关?
2、除了文中提到的测试,还有哪些任务可以用来评估大语言模型对物理规律的理解?
3、大语言模型在物理模拟方面的进步对哪些领域有潜在的应用价值?

原文内容

机器之心报道

机器之心编辑部


AI 圈的头条被 DeepSeek 承包了十几天,昨天,OpenAI 终于坐不住了,。不仅首次向免费用户开放了推理模型,而且相比之前的 o1 系列,成本更是降低了 15 倍之多。


OpenAI 也称这是其推理模型系列中最新、最具成本效益的模型:


刚刚上线,已经有网友迫不及待的拿它和席卷整个大模型圈的国产大模型 DeepSeek R1 进行对比了。

前段时间,AI 社区开始沉迷用 DeepSeek R1 和其他(推理)模型比拼这个任务:「编写一个 Python 脚本,让一个球在某个形状内弹跳。让该形状缓慢旋转,并确保球停留在形状内。」

这种模拟弹跳球的测试是一个经典的编程挑战。它相当于一个碰撞检测算法,需要模型去识别两个物体(例如一个球和一个形状的侧面)何时发生碰撞。编写不当的算法会出现明显的物理错误。

在 DeepSeek R1 席卷国内外热搜,微软、英伟达、亚马逊等美国云计算平台争先恐后引进 R1 的同时,R1 也在这个任务中完成了对 OpenAI  o1 pro 的碾压。

再看 Claude 3.5 Sonnet 和谷歌的 Gemini 1.5 Pro 的生成结果,DeepSeek 旗下的开源模型高出的确实不只是一个 level。

图片
然而,在 o3-mini 上线后,剧情似乎一夜反转了,比如这个帖子宣称 OpenAI o3-mini 碾压了 DeepSeek R1。目前已引发近 400 万网友围观。

该开发者用的 prompt 是:"write a Python program that shows a ball bouncing inside a spinning hexagon. The ball should be affected by gravity and friction, and it must bounce off the rotating walls realistically"

也就是分别让 o3-mini 和 DeepSeek R1 写一个球在旋转的六边形内弹跳的 python 程序,小球跳动的过程中要遵循重力和摩擦力的影响。最后的展示效果如下:

图片
从效果来看,o3-mini 把碰撞、弹跳效果展示的更好。从对重力和摩擦力的理解来看,DeepSeek R1 版本的小球似乎有点压不住牛顿的棺材板了,完全不受重力控制。

这并非个案,@hyperbolic_labs 联合创始人 Yuchen Jin 在此之前也发现了这个问题,他分别向 DeepSeek R1 和 o3-mini 输入了提示词:write a python script of a ball bouncing inside a tesseract(编写一个 Python 脚本,模拟一个球在四维超立方体内部弹跳)。

四维超立方体的每个顶点与四条棱相邻,每条棱则连接两个立方体。四维空间内的几何图形超出了人类的直观感知范围,所以听着这些描述,我们可能很难想象出一个四维超立方体长什么样子。

而 o3mini 不仅展现出了稳定的几何结构,小球在四维空间内弹跳的运动轨迹也较为灵活,有撞到立方体侧面的打击感。

图片
再来看 DeepSeek R1 这边,它对四维超立方体的形状理解似乎还不够深入透彻。同时,小球在其中的运动轨迹也显得有些诡异,有一种「飘忽不定」的感觉。

图片
据 Yuchen Jin 称,他试了很多次,所有用 DeepSeek R1 尝试都比一次性的 o3-mini 要差,比如下面这次就剩下球了。

图片
机器之心也亲测了一把,同样是 Pass@1 测试,DeepSeek R1 这次是既有球又有几何外框了,甚至小球还会变换颜色色,遗憾的是,它把四维超立方体简化成了三维空间坐标轴。

图片
o3-mini 的表现则有些「买家秀」的意味,明明和 Yuchen Jin 输入的是完全一样的提示词,为什么 o3-mini 就不会了?得不到如上所示的「卖家秀」了呢?

图片
看来,在生成小球在几何外框内跳动的程序这方面,DeepSeek R1 并不是完全是 o3-mini 的手下败将。

AIGC 从业者 @myapdx 用了一个更加复杂的同类提示词来测试 o3-mini 和 DeepSeek R1:编写一个 p5.js 脚本,模拟 100 个彩色小球在一个球体内部弹跳。每个小球都应留下一条逐渐消失的轨迹,显示其最近的路径。容器球体应缓慢旋转。请确保实现适当的碰撞检测,使小球保持在球体内部。

o3-mini 的效果是这样的:

图片
提示词里的这么多项要求:在球体内部弹跳、留下逐渐消失的轨迹、容器缓慢旋转......o3-mini 都完美满足。

而 DeepSeek R1 的效果,好像也没差到哪里去:

图片
至于为什么会出现这样的差异,Yuchen Jin 和 @myapdx 都在帖子中提到,这个任务对模型如何理解真实世界的物理规律有所反应。模型需要综合自己对语言、几何、物理和编程的理解,方能得出最后的模拟结果。从前两轮的结果看来,o3-mini 有可能是物理学得最好的大模型。

与此同时,OpenAI 也在昨天的发布博客中强调过,在博士极科学问题方面 o3-mini-low 的表现优于 o1-mini。o3-mini-high 的表现与 o1 相当,在博士级生物学、化学和物理问题上都有显著进步。

对人类来说,理解小球跳动时的重力和摩擦力并不算困难,但在大语言模型领域,这种对物体物理状态的「世界模型」理解能力,直到最近才真正突破。

还有网友猜测,DeepSeek R1 的程序有时只有一个球,会不会是它想得太多了?
不知是否有读者亲自体验过?欢迎讨论。

参考链接:
https://x.com/flavioAd/status/1885449107436679394
https://x.com/iamRezaSayar/status/1885760491466997791
https://x.com/Yuchenj_UW/status/1885416559029740007
https://x.com/Yuchenj_UW/status/1885472365309833382

© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:[email protected]

训练数据的影响肯定很大,但模型的架构和算法也起着关键作用。也许 o3-mini 的架构更适合处理这类需要空间推理和物理模拟的任务。

在工程设计领域,大语言模型可以帮助工程师设计更符合物理规律的机械结构和产品,提高产品的性能和安全性。

模拟更复杂的物理场景,比如流体动力学、多体运动等等,可以更全面地评估模型对物理规律的理解。

可以尝试让模型生成一些简单的物理实验代码,例如模拟单摆运动、弹簧振子等等,并观察其生成的代码是否符合物理规律。

在游戏开发、动画制作等领域,可以用大语言模型生成更逼真的物理效果,提高游戏的沉浸感和动画的表现力。

我觉得很有可能。如果 o3-mini 的训练数据中包含更多物理相关的代码和模拟数据,那么它在处理这类任务时自然会更得心应手。DeepSeek R1 的训练数据可能更偏向于其他方面,导致它在物理模拟上的表现略逊一筹。

在科学研究领域,大语言模型可以辅助科学家进行物理模拟实验,加速科学发现的进程。

除了训练数据,我觉得提示词的设计也可能对结果产生影响。不同的提示词可能会引导模型生成不同的代码,从而影响最终的模拟效果。

还可以让模型预测一些物理现象的发生结果,例如抛射体的轨迹、物体的碰撞等等,以此来评估模型的物理直觉。