Grok4 跑分泄露:HLE 成绩亮眼,网友质疑真实性

Grok 4 跑分泄露,HLE 成绩亮眼引争议,或推动AI大模型发展,一切有待官方发布。

原文标题:刚刚,Grok4跑分曝光:「人类最后考试」拿下45%,是Gemini 2.5两倍,但网友不信

原文作者:机器之心

冷月清谈:

泄露的 Grok 4 基准测试显示,其在 HLE(人类最后考试)上取得了显著进展,标准得分 35%,推理技术加持后高达 45%,几乎是 Gemini 2.5 Pro 的两倍。GPQA 和 AIME '25 上的表现也十分出色,甚至超越了一些竞争模型。然而,Grok 4 在 HLE 上的高分引发了一些争议,有网友质疑其测试方法的合理性。尽管如此,泄露的信息显示 Grok 4 在自然语言、数学和推理方面具有强大能力,Grok 4 Code 则专注于编程任务。马斯克本人也亲自参与 Grok 4 的开发,并表示模型进展良好。如果跑分属实,Grok 4 可能推动 AI 大模型发展,但一切仍有待官方发布。

怜星夜思:

1、Grok 4 在 HLE 上取得如此高的分数,你觉得最可能的原因是什么?是模型架构的创新,还是数据训练方法的改进?亦或是测试方法存在问题?
2、Grok 4 Code 在 SWEBench 上的得分与 Claude Opus 4 持平,你认为这对于程序员来说意味着什么?未来 AI 编程助手会如何改变程序员的工作方式?
3、马斯克亲自熬夜开发 Grok 4,这种All in 的工作方式是否值得提倡?在AI 模型开发过程中,除了技术之外,还有哪些因素会影响最终的成果?

原文内容

机器之心报道

编辑:杨文、泽南

马斯克搭帐篷熬夜开发有效果了?这么高跑分,还不发布。


刚刚,Grok 4 和 Grok 4 Code 的基准测试结果疑似泄露。


X 博主 @legit_api 发帖称,Grok 4 在 HLE(Humanities Last Exam,人类最后考试)上的标准得分是 35%,使用推理技术后提高到 45%;在 GPQA 上的得分是 87-88%;而Grok 4 Code 在 SWE Bench 上的得分则达到 72-75%。



这个跑分结果意味着什么?有网友将其与 OpenAI o3 和 Claude Opus 4 等竞争模型进行了对比。


Grok 4 在 HLE 上的标准得分约为 35%,使用推理技术后提升至 45%,这比 OpenAI o3 的最佳公开得分(约 20%)高出两倍,比 GPT-4o 高出四到五倍。要知道 HLE 是一个自由回答测试,随机猜测准确率仅约 5%,因此每个百分点的提升都非常困难。


在 GPQA(研究生级物理和天文学问题)上,Grok 4 得分 87-88%,与 OpenAI o3 的顶级表现相当,并明显超过 Claude Opus 的约 75%。


Grok 4 在 AIME '25(2025 年美国数学奥赛)上得分 95%,远超  Claude Opus 的 34%,并略优于 OpenAI o3 的 80-90%(取决于思维模式)。


此外,Grok 4 Code 在 SWEBench 的得分与 Claude Opus 4 的 72.5% 持平,略高于 OpenAI o3 的 71.7%。而在 Terminal-Bench 上,Claude 4 Opus 领先,得分 43%,xAI 尚未发布 Grok-4 的相关数据。


其中,网友讨论最多的就是 Grok 4 在 HLE 上达到了惊人的 45%,几乎是 Gemini 2.5 Pro 成绩的两倍。如果泄露的测试结果属实,那么意味着 Grok 4 通过了 AI 基准测试中最艰难的一关。



还有网友建议关注「标准」得分,认为这是公开模型的基准,推理得分可能涉及实验性配置。


不过,也有网友表示质疑,认为 Grok 4 的 HLE 分数不太可能这么高,这里面肯定有问题。



该网友给出的理由是,上次 xAI 报告了其他模型使用单次尝试的结果,但对自己的模型却使用了不同的报告方法。



@legit_api 回复称,这些数字是真实的,但我们不知道配置。



有网友总结道,目前 Grok 4 泄露出来的所有基准成绩,除了 HLE 以外,其他的看起来似乎还算「合理」。不过 HLE 能跑到这么高分又应该如何解释呢?毕竟这个基准中包含很多晦涩难懂的信息检索。


或许一切都要等待模型正式发布才能有答案了。


其实早在 7 月 1 日,外媒 TestingCatalog 就发文爆料,Grok 4 系列模型的相关信息在 xAI 开发者中控台网站上泄露,包括旗舰模型 Grok 4 和编程模型 Grok 4 Code。



截图显示,Grok 4 仅支持文本模式,视觉、图像生成及其他功能即将推出。Grok4 支持约 13 万 tokens 上下文窗口,较许多竞争对手的前沿模型要小,这可能表明 xAI 在优化推理速度和实时可用性,而非追求最大化的长上下文性能。从功能上来看,Grok 4 将包括函数调用、结构化输出和推理能力。


还有网友扒出了 xAI 开发者中控台的源代码,这些代码显示,Grok 4 是一个在自然语言、数学和推理方面「拥有无可匹敌的能力」的通才模型,并在当地时间 6 月 29 日完成了训练,其标语为「Think Bigger and Smarter」。



截图还显示,Grok 4 Code 则是一款专为编程设计的模型,用户可以直接向它提问代码问题,也可以直接嵌入代码编辑器中。



上个星期,马斯克在推文中表示,他正「通宵达旦地开发 Grok 4」,模型开发「进展良好」但仍需进行「最后一次大规模训练」,特别是在专门代码模型方面。为了这一目标,从上月底开始,马斯克带头在办公室内支起帐篷睡觉,以全身心投入工作。


X 的工程师还出面回应了一下帐篷的问题。



生成式 AI,都卷到这种地步了?


泄露的分数不仅刺激了广大网友的小心脏,也在刺激着众多 AI 科技公司。马斯克今天虽然没有如之前预测的那样「官宣」Grok 4 开源,但表示推特上的 Grok 功能有了明显的提升。



有网友为此专门去问了 Grok,它认为 7 月更新是 Grok 4,但不完整。



再加上 Benchmark 成绩已经曝光,或许 Grok 4 过几天就要正式发布了。


如果成绩属实,不管是架构的创新还是规模的扩展,Grok 都将推动一波 AI 大模型的发展,让我们拭目以待。


参考链接:

https://www.reddit.com/r/singularity/comments/1lrmn42/grok_4_and_grok_4_code_benchmark_results_leaked/

https://www.testingcatalog.com/xai-prepares-grok-4-and-grok-4-code-for-upcoming-launch/

https://x.com/AiBattle_/status/1940139539525419512


© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:[email protected]

除了技术,数据质量也很重要!再好的模型,喂给它垃圾数据也是白搭。还有伦理问题,AI 的价值观需要人类引导,不然可能会搞出一些奇奇怪怪的东西。

对于程序员来说,AI 编程助手绝对是效率神器。但是,如果过度依赖 AI,会不会导致我们自身的编码能力下降呢? 就像现在很多人离开导航就不会开车了一样。

马斯克这种工作方式,只能说是大佬的个人选择吧,普通人还是得注意身体。而且,AI 模型开发是一个团队合作的过程,光靠一个人拼命可能效果反而不好。我觉得更重要的是合理的项目管理、清晰的目标和高效的沟通。

从技术角度来看,架构创新可能性比较大。毕竟Transformer结构已经用了这么久,如果Grok 4 在attention机制或者其他方面实现了突破,是有可能在特定benchmark上获得巨大提升的。当然,如果测试方法有问题,那就另当别论了。

我个人觉得测试方法可能有问题,毕竟之前也有过类似的争议。等官方发布更多细节,或者有第三方机构进行评测,才能更客观地评估 Grok 4 的真实水平。

我觉得HLE分数这么高,可能不只是模型本身的问题,也可能和训练数据有关。如果是用大量HLE相关的训练数据,那自然效果会好。但这样一来,这个分数还能代表模型的通用智能吗?

我觉得AI编程助手会成为程序员的必备工具,就像现在的IDE一样。它能帮你快速生成代码、检查错误,甚至还能帮你学习新的编程语言和技术。但是,最终还是得靠程序员自己去理解和掌握代码的原理,才能真正发挥AI的作用。

这意味着 AI 编程助手的能力越来越强了,以后程序员可以把更多精力放在架构设计和业务逻辑上,让 AI 去处理那些重复性的编码工作。当然,前提是 AI 生成的代码质量要足够高,否则反而会增加调试的负担。

情怀也很重要!如果只是为了赚钱,那很难做出真正颠覆性的东西。马斯克对AI有自己的愿景,这种动力能让他和团队更有激情,做出更好的产品。当然,也希望他注意身体,毕竟身体才是革命的本钱。