AI玩游戏也能提升数学能力？新研究发现，仅通过贪吃蛇等游戏训练，模型推理能力即大幅跃升，成本低且效果显著。
原文标题：强化学习新发现：无需数学样本，仅游戏训练AI推理大增
原文作者：机器之心
冷月清谈：
这一突破性的“玩耍”训练范式，与人类儿童通过搭积木、躲猫猫等游戏培养抽象思维基础的认知科学原理相吻合。研究团队精心设计了互补的训练游戏：贪吃蛇游戏侧重培养路径规划、避障和空间导航能力，这些直接对应数学中的坐标几何和函数图像理解；旋转游戏则专注于3D空间推理，旨在训练角度和长度相关的数学理解。两款游戏的联合训练效果更佳，证明了游戏多样性的潜力。
ViGaL方法的成功，预示着一种全新的训练范式：当高质量人类数据日益稀缺，传统训练方法面临瓶颈时，精心设计的合成任务，特别是游戏，可以为多模态推理能力的发展开辟新路径。这种训练模式不仅成本极低、可无限扩展，而且效果显著，能够避免模型“偏科”，保持其全面能力。这提醒我们，培养AI模型的底层通用推理能力，可能比单纯的“刷题式”训练更为高效。
怜星夜思：
2、文章里提到的贪吃蛇和旋转游戏，都是比较基础和直观的。那么，如果用更复杂的策略游戏，比如围棋或者星际争霸，来训练AI，是不是就能培养出更高级的推理能力，比如战略规划、心理博弈这些？或者说，这里面是否存在一个‘负面影响’的临界点？
3、这个研究有点意思，AI通过玩游戏学会了通用推理，听起来就像‘触类旁通’。那我们人类学习新知识的时候，是不是也可以借鉴这种‘游戏化’的思路，把那些枯燥的学科知识转化成更有趣的互动游戏来学习呢？你们有哪些实际的例子或者想法可以分享？
原文内容
第一作者谢云飞是莱斯大学博士生，导师为通讯作者魏晨教授，研究方向包括多模态生成与理解。
Project Leader 肖俊飞是约翰斯・霍普金斯大学博士生，导师为 Bloomberg Distinguished Professor Alan Yuille。
第二作者马崟淞是约翰斯・霍普金斯大学博士生。
第三作者兰石懿是英伟达 Research Scientist。
最近，强化学习领域出现了一个颠覆性发现：研究人员不再需要大量数学训练样本，仅仅让 AI 玩简单游戏，就能显著提升其数学推理能力。
此前已有研究发现，即使不提供标准答案，仅用数学问题进行强化学习也能提高模型性能，这让人们开始重新思考强化学习的训练方式。而来自莱斯大学、约翰斯・霍普金斯大学和英伟达的研究团队更进一步：他们让多模态大语言模型 (MLLM) 玩贪吃蛇等简单游戏，无需任何数学或多学科训练数据，就显著提升了模型的多模态推理能力。研究团队提出了 ViGaL (Visual Game Learning) 方法，在多个主流视觉数学基准测试和 MMMU 系列基准测试中，超越此前在数学等领域内数据上训练的强化学习模型。
-
论文标题：Play to Generalize: Learning to Reason Through Game Play
-
论文链接：https://arxiv.org/abs/2506.08011
-
项目主页：https://yunfeixie233.github.io/ViGaL/
不用数学样本，游戏训练在数学基准取得突破
近期研究表明，相比监督微调（SFT），强化学习（RL）往往能实现更强的 “举一反三” 的跨领域泛化能力。以往的工作已经证明，在数学问题训练的模型能够扩展推理到物理问题，经过导航训练的智能体能够成功适应全新环境。然而，这些成功的泛化案例通常仍局限在单一领域内，源任务与泛化的目标任务依然属于同一类型。
图 1: 我们发现，只在例如贪吃蛇这种游戏上进行强化学习训练，模型就能涌现出领域外的泛化能力，在数学、多学科等多个任务上提高性能。
这篇工作的突破在于实现了更强形式的跨域泛化：从游戏领域完全迁移到数学推理、空间推理和多学科推理等领域。研究团队用 7B 参数的 Qwen2.5-VL 模型进行训练，发现仅通过强化学习训练模型玩贪吃蛇和旋转游戏，就能在多个基准测试中实现了显著提升：
-
数学推理提升：不用数学样本，仅通过游戏训练，ViGaL 在 MathVista 等数学推理基准上平均提升 2.9%，相比之下，在高质量数学数据集上进行强化学习的方法仅提升 2.4%。
-
多学科推理突破：在 MMMU 系列多学科推理任务上，ViGaL 超越在多学科数据上进行 RL 训练的 R1-OneVision-7B 模型 5.4 个百分点。
-
通用能力保持：经过测试，之前的强化学习推理模型在提升特定领域性能时，大部分都损害通用视觉能力，但 ViGaL 在保持原有通用性能的同时实现了推理能力的跃升。
图 2: 不使用数学或者多学科样本，仅通过游戏训练，模型在数学推理基准上平均提升 2.9%（左图），在多学科推理基准上平均提升 2.0%（右图），超过此前专门在数学或者多学科数据上训练的强化学习方法。
为什么游戏训练如此有效？
图 3: 我们在贪吃蛇游戏和旋转游戏上利用强化学习进行训练。在每个游戏里面，模型会接收图片和文本形式的游戏环境作为输入，遵循游戏指令进行推理，抉择一个动作在游戏环境里执行。执行后会从环境获得奖励 ，用于进行强化学习。通过在游戏中训练，模型获得了推理能力，并且能迁移至下游的数学和多学科等任务。
为什么玩游戏能提升数学能力？这个发现其实并不违背认知科学的基本规律。
回想一下我们自己的成长过程：小时候通过搭积木学会了空间概念，通过躲猫猫理解了位置关系，通过各种益智游戏培养了逻辑思维。儿童正是通过这些看似 "玩耍" 的活动，逐步构建起抽象思维的基础 —— 模式识别、空间推理、因果推断。
认知科学研究也证实了这一点：游戏常被用作探索人类心智的实验平台。研究人员通过 "四子连珠" 游戏研究规划能力，通过 "虚拟工具" 游戏探索问题解决的认知机制。
基于这样的理论启发，研究团队巧妙地设计了两款互补的训练游戏：
贪吃蛇游戏：这是一个经典的策略决策游戏。在 10×10 的网格上，模型需要控制蛇的移动，避免撞墙、撞到自己或对手，同时尽可能多地收集苹果。游戏培养的核心能力包括路径规划、避障决策和空间导航，这些技能直接对应数学中的坐标几何和函数图像理解。
旋转游戏：这是研究团队自主设计的 3D 空间推理游戏。模型需要观察同一 3D 物体的两个视角 —— 初始视角和旋转后视角，判断物体旋转了 90 度还是 180 度。这个游戏专门训练空间几何理解能力，直接对应角度和长度相关的数学推理问题。
两款游戏的设计哲学互补：贪吃蛇主要提升 2D 坐标相关的数学表现，旋转游戏则更适合角度和长度推理。实验证实，联合训练两款游戏比单独训练效果更佳，展现了游戏多样性的可扩展潜力。
结语：合成任务的新时代
ViGaL 的成功揭示了一个潜在的新趋势：当高质量人类数据枯竭，简单任务性能饱和的时候，精心设计的游戏，作为一种合成任务，可能为多模态推理能力的发展开辟新道路。
与传统的直接训练方法相比，这种游戏化的训练范式展现出独特的优势：
-
成本极低：无需人工标注，可无限扩展
-
效果显著：零数学样本超越数学专训模型
-
拓展性强：可以组合多个任务进一步提升性能
-
通用性好：不会造成 "偏科" 问题，保持模型的全面能力
更重要的是，ViGaL 可能揭示了一个朴素但深刻的道理：在直接学习目标任务之外，培养底层的通用推理能力，也许同样有助于模型性能的提升。就像我们不只是通过死记硬背数学公式来培养数学思维，而是通过各种思维训练来发展抽象推理能力一样。
在 Scaling Law 可能逐渐面临困境的今天，ViGaL 用一个简单而优雅的想法提醒我们：有时候，让 AI"玩游戏" 可能比让它 "刷题" 更有效。
© THE END
转载请联系本公众号获得授权
投稿或寻求报道：[email protected]