LifeSim:首个用户生活「长程模拟器」重新定义大模型个性化评测

LifeSim 用长程生活模拟评测个性化助手,揭示大模型在隐性意图和长期用户理解上的短板。

原文标题:首个用户生活「长程模拟器」来了!LifeSim 重新定义大模型个性化评测

原文作者:机器之心

冷月清谈:

复旦大学与上海创智学院团队提出了面向个性化助手评测的长程用户生活模拟框架 LifeSim,以及配套评测基准 LifeSim-Eval,试图解决现有评测与真实用户长期交互脱节的问题。其核心思路是同时建模用户内部认知和外部生活环境,让需求在时间、地点、事件、情绪和个人偏好共同作用下自然产生。

LifeSim 由用户画像、基于 BDI(信念-愿望-意图)的认知引擎、事件引擎和行为引擎组成。它可生成连贯的生活轨迹、事件序列和多轮对话,支持百万级用户画像池,涵盖人口属性、人格特质和长期偏好。基于此,LifeSim-Eval 构建了 120 个用户、1200 个场景,覆盖 8 个生活领域,并设置单场景与长时程两种评测模式。

评测重点不只看模型能否回答问题,还看其能否识别显性和隐性意图、重建用户画像、保持回复与用户偏好一致,以及在长期交互中的自然度与连贯性。实验结果显示,主流大模型在显性意图处理上整体较强,但在隐性意图识别和完成方面明显不足;对话历史拉长后,这类问题会进一步放大。论文还发现,单纯依靠记忆机制带来的收益有限,说明长期个性化能力的难点不只是“记住信息”,还包括稳定推理和真正利用画像。

研究还总结了当前模型在该任务中的三类常见缺陷:推理路径僵化、缺少主动追问、对用户画像利用不足。这项工作为个性化助手提供了更接近真实世界的测试环境,也为后续个性化数据合成和系统优化提供了基础。

怜星夜思:

1、讨论1:如果一个助手能记住你的偏好,但还是抓不住你的“潜台词”,问题更可能出在记忆机制、推理能力,还是评测方式?
2、讨论2:长时程个性化助手最难的能力,究竟是“记住你是谁”,还是“在合适的时候做对的事”?
3、讨论3:文章提到模型普遍不爱主动追问。你觉得一个好的 AI 助手应该多问一点,还是少问一点?边界在哪里?
4、讨论4:如果未来个性化助手真的越来越懂人,这会更像“贴心服务”,还是更像“被持续观察”?

原文内容


    近年来,大语言模型(Large Language Model,LLM)在个性化智能助手任务上取得了快速进展,通用 AI 助手的愿景也变得越来越可实现。然而,现有针对个性化助手的评测基准,仍然与真实世界中的用户-助手交互存在明显脱节,其局限性主要体现在两个方面:


    • 复杂外部环境:真实用户需求并不是脱离环境独立产生的,而是会受到时间、地点、天气、生活事件等复杂外部情境的共同影响;


    • 动态用户认知:用户意图往往受到长期偏好、个性特征、近期经历和当前心理状态的共同塑造。


    由于真实长期用户交互数据受到隐私与伦理限制,长时间、跨场景的公开数据极为稀缺,这也使得现有评测难以真正逼近现实中的个性化助手使用场景。


    针对这些挑战,来自复旦大学、上海创智学院的研究人员提出 LifeSim,一个面向个性化助手评测的长程用户生活模拟框架。LifeSim 同时建模用户内部认知过程与外部物理环境,生成连贯的生活轨迹、事件序列与多轮交互行为;在此基础上,研究团队进一步构建了 LifeSim-Eval,用于系统评测模型在长期个性化交互中的能力边界。



    • 论文标题:LifeSim: Long-Horizon User Life Simulator for Personalized Assistant Evaluation

    • 论文地址 https://arxiv.org/abs/2603.12152

    • GitHub 地址 https://github.com/dfy37/lifesim

    • Demo 链接 http://fudan-disc.com/lifesim/



    图 1:基于长程时空上下文的个人 AI 助手。用户行为会随外部环境动态演化,同时又体现出稳定的个人特质。要实现有效响应,模型需要在适配当前上下文的同时,利用交互历史推断用户状态,从而动态调整自身策略。


    融合 BDI 理论的模拟框架:LifeSim

    LifeSim 是面向长期个性化助手评测的用户生活模拟框架,核心由四部分组成:用户画像、基于信念-愿望-意图(Belief-Desire-Intention,BDI)的认知引擎、基于环境约束的事件引擎、用户行为引擎。


    图 2:LifeSim 框架概览。针对每个目标用户,其用户画像包含人口统计学属性、人格特质与长期偏好,这些要素共同构成长期信念状态。基于 BDI 模型的认知引擎与事件引擎相结合,将主观信念状态与物理环境进行融合,共同生成用户意图。随后,用户行为引擎通过对记忆感知、情绪推理与行为选择进行建模,生成对话内容。


    为支持用户多样性,LifeSim 构建百万级用户画像池,每个画像包含人口统计学属性、基于大五人格的特质及长期偏好。基于 BDI 模型的认知引擎用于模拟用户内部认知,其中:


    • 信念涵盖长期画像与短期情境认知;

    • 欲望是当前激发的需求,由真实用户需求库匹配而来;

    • 意图是最终形成的行动倾向,具体通过结合用户画像、近期经历及当前环境生成合理意图。


    事件引擎以真实出行轨迹为基础,融入时间、地点等环境因素,根据用户状态生成连贯生活事件,让用户需求自然涌现。用户行为引擎则模拟多轮交互表现,综合考虑记忆、情绪与行为选择,生成的回复兼具画像一致性、上下文相关性与自然度。自动与人工评测验证了行为引擎的有效性。


    表 1:基于不同模型基座的用户行为引擎在四个维度上的性能表现。


    更贴近真实世界的评测环境:LifeSim-Eval

    基于 LifeSim,LifeSim-Eval 被提出用于评测长期个性化助手场景下的模型核心能力。区别于传统评测,其更关注三点:


    • 模型能否识别并满足显隐性意图。其中显性意图为用户直接表达的需求,隐性意图需结合画像、场景与偏好推断;

    • 能否重建用户画像;

    • 回复是否符合用户画像并保持一致。


    LifeSim-Eval 利用 LifeSim 构建 120 个用户、1200 个评测场景,覆盖 8 个常见生活领域,并设置两种评测模式:


    • 单场景模式:仅基于当前场景,与 LifeSim 中的模拟用户完成多轮对话(最多 20 轮);

    • 长时程模式:需结合历史交互响应当前场景。


    核心评测指标包括意图识别、意图完成度、偏好重建、画像对齐,以及回复的自然度与连贯性。


    实验结果与关键发现

    论文在多类主流 LLM 上进行了系统评测,涵盖 GPT-5、GPT-4o、Claude Sonnet 4.5,以及 DeepSeek-V3.2、Qwen、Llama、gpt-oss 等多个开源 / 闭源模型。实验揭示出以下几个核心结论:


    • 显性意图较强,隐性意图明显更难


    在单场景设置中,大多数模型在显性意图识别上表现较好,但在隐性意图识别上普遍存在超过 20 分的性能差距。这说明当前模型已经较擅长处理用户直接表达的需求,但对于需要结合上下文和用户状态推断出的潜在需求,能力仍明显不足。


    表 2:主流模型在 LifeSim-Eval 上的评测结果。


    • 长程对话会进一步放大隐性意图处理难度


    在长时程设置中,模型对显性意图的完成率相对稳定,但对隐性意图的完成能力明显更弱,且会随着历史长度增加而进一步下降。这表明现有模型虽然能够在长上下文中维持对表层任务的处理能力,但一旦需要基于长期证据进行用户状态与偏好推理,就会出现明显退化。


    图 3:不同助手模型的长时序意图完成性能。热力图展示了意图完成度(I.C.)得分随对话长度的变化情况。


    • 简单记忆机制收益有限


    论文进一步测试了画像记忆机制:在每个场景后,让模型总结或更新用户偏好。结果显示,虽然这种做法对用户偏好的重建有一定帮助,但整体收益并不稳定,甚至有些模型几乎没有提升。这说明长期个性化能力的瓶颈并不只是「记不住」,更在于模型是否具备稳定的长期偏好推理能力。


    图 4:用户偏好还原性能随场景数量增长的变化。


    不同意图类型和主题上的表现并不均衡


    不同意图类型下的模型相对性能。



    不同意图主题下的模型相对性能。


    针对不同意图类别和主题的实验结果显示:在以显式、任务驱动需求为主的场景,与需要隐式、情感推理的场景之间,模型在显隐性意图任务的性能存在明显差异。这种异质性表明,当前模型在不同服务领域的鲁棒性参差不齐,需要我们在个性化助手设计中进行更细粒度的优化。


    • 模型存在三类典型问题


    通过案例分析,论文总结出当前模型在长期个性化助手任务中常见的三类问题:


    • 推理僵化模型容易固守最初的解决路径,面对用户新增约束时缺乏动态调整;

    • 主动追问不足即便关键信息尚不明确,模型也常直接给出建议,而不是主动澄清用户需求;

    • 用户画像利用不足虽然拥有正确的用户画像,但模型不能真正把它们融入回复策略中。


    表 3:各模型的主动询问占比与僵化推理占比


    总结

    本研究提出了 LifeSim 与 LifeSim-Eval,系统性地将个性化助手评测从静态、短上下文任务扩展到面向长期用户生活轨迹的动态交互场景。与传统基准相比,LifeSim 不仅同时建模用户认知状态与物理环境,还进一步引入显性 / 隐性意图区分和长程交互设定,从而更真实地刻画个性化助手在现实生活中的使用挑战。


    实验结果表明,当前主流 LLM 虽然已经能够较好地处理显性需求,但在隐性意图识别、用户偏好重建和长程用户理解方面仍然存在显著短板。此外,LifeSim 也提供了接近真实场景的个性化助手模拟环境,也为个性化数据合成提供新途径。




    © THE END 

    转载请联系本公众号获得授权

    投稿或寻求报道:liyazhou@jiqizhixin.com

    从模型设计的角度看,可能是因为现有的模型结构还不够完善。比如,可以尝试引入一些注意力机制,让模型能够更加关注用户画像中的关键信息。或者,可以设计一个专门的"用户画像融合模块",负责将用户画像的信息融入到模型的回复策略中。

    从技术角度讲,可以考虑使用多模态输入。除了文本,还可以结合用户的语音、表情甚至生理数据,来更准确地判断用户的情绪和意图。例如,如果用户在说话时语气低落,模型就可以推断出他可能情绪不好,从而提供一些安慰或帮助。

    我觉得这个问题挺复杂的,可能涉及到多个方面的原因。除了模型本身的问题,还可能涉及到数据的质量、训练的方法等等。要解决这个问题,需要进行更加深入的研究和实验,找到最合适的解决方案。不过话说回来,如果模型真的能完全理解用户的意图,那是不是有点可怕了?感觉就像被监视一样。

    从学术角度看,LifeSim在建模时已经考虑了BDI (信念-欲望-意图) 模型,这在一定程度上模拟了用户的认知过程。然而,人类行为的复杂性远超模型所能捕捉的范畴。例如,文化背景、社会关系等因素对用户意图的影响就难以量化。所以,LifeSim更像是一个实验室环境,为我们提供了一个可控的平台来初步评估AI助手的性能,但要真正落地,还需要更多真实数据的验证。

    我有个更脑洞大开的想法,能不能搞一个"用户意图挖掘机"?专门分析用户的历史行为和偏好,建立一个个性化的用户画像。然后,把这个画像喂给模型,让它在处理用户请求时,能够更好地理解用户的真实意图。当然,这需要解决隐私保护的问题,得小心处理。

    楼上说的有道理,感觉这个LifeSim更适合用来做初步筛选和优化。就像游戏测试服一样,先用模拟数据跑一跑,找出一些明显的问题,然后再放到真实环境中去验证。毕竟,真实用户的使用场景千变万化,谁也无法保证模型在所有情况下都能表现良好。总的来说,LifeSim是一个很有价值的工具,但不能过度依赖它。

    我觉得LifeSim这个方法确实很有创新性,但要完全模拟真实世界的使用场景还是有难度的。比如,用户的情绪波动、突发奇想或者是一些无法预测的行为,可能就很难通过程序来完美模拟。但是,它提供了一个很好的起点,至少比之前的静态评测要更贴近现实了。

    我觉得可以尝试引入一些知识图谱,让模型能够更好地理解用户的背景信息和潜在需求。比如,如果用户经常搜索旅游相关的信息,模型就可以推断出他可能对度假感兴趣,从而主动推荐一些相关的服务或产品。

    我觉得这可能是因为模型在训练过程中,过度依赖了显式的信息,而忽略了用户画像中的一些细节。就像我们平时聊天一样,有时候会忘记对方的一些个人信息,导致说出一些不合适的话。

    从信息论的角度来看,长程对话中,有效信息会逐渐被噪声淹没。模型需要在海量的信息中找到关键线索,这本身就是一个挑战。为了解决这个问题,我认为可以尝试以下方法:一是引入遗忘机制,让模型能够自动过滤掉不重要的信息;二是使用知识蒸馏,将复杂模型的知识迁移到更轻量级的模型上,提高推理效率;三是利用元学习,让模型学会如何在长程对话中快速适应新的用户意图。

    我觉得LifeSim的意义不只是一个评测工具,它提供了一套更贴近现实的模拟环境。这意味着我们可以用它来生成更真实的用户交互数据,这些数据对于训练AI助手来说绝对是宝贝!想象一下,用LifeSim生成的数据训练出来的助手,肯定比那些只用传统数据集训练的助手更懂用户的心!

    LifeSim厉害了!感觉打开了新世界的大门。以前我们训练AI助手,数据都是干巴巴的,现在有了LifeSim,感觉就像给AI助手创造了一个虚拟人生!它可以模拟用户的生活,让AI助手在各种场景中学习成长,这样训练出来的AI助手,肯定更加智能,更加贴心!不过,用 LifeSim 生成的数据来训练模型,会不会让模型也学到一些模拟的“坏习惯”?比如,如果模拟数据中用户总是犹豫不决,AI 助手会不会也变得不够果断?

    我认为可以尝试使用prompt工程。在每次与用户交互时,都将用户画像作为Prompt的一部分输入给模型。这样,模型就可以在生成回复时,考虑到用户画像的信息。

    但我个人觉得这个方法有点tricky,效果可能不稳定。

    我认为主要原因还是在于数据。现在大部分模型的训练数据都是基于显性指令的,缺乏足够多的、高质量的隐性意图数据。模型没有见过足够多的“例子”,自然就很难学会识别隐性意图。

    另外,文化差异也会影响隐性意图的识别。不同文化背景下,人们表达意图的方式可能非常不同。一个在美国适用的模型,可能在中国就完全失效了。

    我认为LifeSim最大的价值在于它提供了一个可控的、可重复的实验环境。这使得我们能够更系统地研究AI助手在长期交互中可能出现的问题,例如:

    1. 信任建立与维护: 长期交互中,用户对助手的信任度会如何变化?哪些因素会影响信任度的建立和维护?
    2. 隐私保护与数据安全: 助手在长期记录用户数据后,如何确保用户隐私不被泄露?
    3. 情感支持与心理健康: 助手能否识别用户的情绪变化,并提供适当的情感支持?长期使用AI助手是否会对用户的心理健康产生影响?

    我觉得大家是不是有点太技术了?

    我作为一个用户,最反感的就是AI过度“懂我”。我希望AI助手是我的助手,而不是我的监视器。它应该尊重我的隐私,不要过度收集和使用我的个人信息。

    所以,我觉得在追求个性化的同时,也要注意平衡隐私保护的问题。不然,再智能的AI助手,我也不会用。

    这让我想起了我家的Siri,聊几句就啥都忘了,还得重新来一遍。文章里说的长程对话能力下降,我觉得根本原因还是AI的“理解能力”不够深。

    光靠记住历史信息没用,关键是要“理解”用户话里有话。比如,用户说“今天天气真好”,可能只是随口一说,也可能暗示想出去玩。AI需要根据用户的性格、之前的对话等等,来判断用户的真正意图。

    所以,解决这个问题,关键是提高AI的“语境理解能力”。这需要大量的训练数据和更复杂的模型。

    用人话说,就是AI的“脑子”不够用了!对话越长,AI需要记住的东西越多,就越容易忘记“用户一开始真正想要的是什么”。

    我觉得解决这个问题,可以试试给AI一个“笔记本”。每次对话完,让AI把重点信息记下来,下次对话的时候先翻翻“笔记本”,这样就不会忘记用户的“初心”了。

    当然,这个“笔记本”不能太大,不然AI还是会找不到重点。所以,还需要一个“整理师”,帮AI把“笔记本”整理得井井有条。

    BDI模型就像一个精密的齿轮,信念是齿轮的形状(决定了能咬合哪些东西),愿望是齿轮的动力(驱动齿轮转动),意图则是齿轮最终输出的运动方向。LifeSim里,它让AI模拟人有了“思考”的过程,不只是简单地对外部刺激做出反应。但是!

    局限性嘛,我觉得最大的问题是“不够人性”。人可不是完全理性的动物,很多时候都是“感觉对了就做”,或者“一时冲动”。BDI模型可能很难模拟这种非理性行为。

    改进方向?加点“噪声”!比如,在愿望和意图之间引入一个随机因素,让AI偶尔也做一些出乎意料的事情,这样才更像人嘛!