像真人,不等于说得通

先看一个示意场景。虚拟小镇里的面包师艾禾,性格谨慎,前两周每天只在固定的时间开门。第三周的某一天,她毫无预兆地关店去了远方旅行,也没有任何事件解释。从“像真人”的角度看,人偶尔会冲动;但从玩家的角度看,这是一次没有依据的行为,接着发生的一切都变得不可信。

这里其实混着三个不同的目标:可信,指行为在玩家看来说得通;一致,指行为与角色的设定、经历、当前状态前后能对上;准确,指行为符合真实世界的统计规律。游戏里的虚拟社会追求前两个,而不宣称第三个。我们的判断是,一致性是可信的地基:不一致的角色,无论文笔多好,都很难让人相信。

一致性会在哪里出问题

近期关于长期角色一致性的研究,讨论过所谓“人设漂移”:长对话里角色特质逐渐变弱,事实丢失,时间线混乱,甚至把不同角色或不同用户的状态混在一起。放到多Agent的虚拟社会里,问题还会放大,因为每个角色都可能漂移,而漂移又会通过互动传给别人。

把它拆开看,大致有四类。

  • 性格漂移:谨慎的人越来越随意,因为最近的上下文里更多是轻松的对话。
  • 事实漂移:角色的职业、住处、家人在不同场景里说法不同。
  • 时间线混乱:先发生的事被说成后发生,或者同一件事被记了两遍。
  • 状态串扰:把甲的记忆读成乙的,或者把一个玩家的经历用到另一个玩家身上。

Generative Agents论文里,25个智能体在名为Smallville的小镇中生活,记忆流、检索、反思与计划这几个模块共同维持了行为的连贯,这说明连贯性来自结构,而不是靠模型“自觉”。所以想要一致,就要给它设计检查的位置,并让每一次检查都留下记录,方便日后回头复盘。

检查点:在哪几个位置设卡

我们倾向于把一致性检查分成事前、事中、事后三个位置,每个位置管不同的问题。

位置 检查什么 典型做法(示意)
事前(生成前) 输入的依据是否齐全、有没有过期状态 检索结果带时间与来源,过期的关系状态先回落到基线
事中(提案时) 行为是否与人设锚点、当前目标、世界规则相容 行为提案先过规则与人设检查,再进入表达
事后(写回时)新写入的记忆是否与已有事实冲突 冲突条目标为待确认,不直接覆盖
周期性 长时间运行后是否整体漂移 抽样对比角色当前行为与初始设定的差距

回到艾禾的例子,事中检查就可以拦住“无缘无故去旅行”:她的目标里没有“出远门”,也没有触发事件,行为提案不通过;如果确实有一封来信触发了旅行,检查就会通过,并且这封信会被写入事件记忆,之后的对话能够解释这件事。一致不等于一成不变,而是变化有来由。

校准:让“像不像”变成可以调整的东西

检查回答的是“有没有错”,校准回答的是“偏离了多少、往哪调”。游戏里的虚拟社会不追求复制现实,但仍然需要校准,只不过校准的目标是设计意图,而不是现实数据。

举例来说,设计者希望小镇里大多数人保持稳定的作息,少数人有冲动的一面。校准就是观察一段时间的模拟,看行为的分布是否符合这个意图:如果冲动行为太多,可以收紧人设锚点或提高触发条件;如果所有人都过于呆板,可以放宽。数值与阈值只是示意,真正的做法要依据具体玩法调整。

这里有一个容易踩的坑:不要拿一次模拟的结果去反推“世界应该如何”。校准应当针对可重复的设计指标,并在多次运行中检查稳定性,否则很容易把偶然当成规律。

回放验证:把偶发的怪事变成可复现的问题

社会模拟的错误,往往是长时间运行之后才出现的偶发问题,靠人工盯很难发现。更实用的办法是回放:把关键事件、随机种子、状态快照记录下来,让同一段模拟可以重放,并在关键节点上比较预期与实际。

  1. 记录事件日志与状态快照,确保能从任意快照恢复。
  2. 出现怪事时,回放到出错前一段,定位是哪一个提案越过了检查。
  3. 修改规则或人设后,重放同一段,确认问题消失,同时没有引入新的偏差。
  4. 把典型问题沉淀成回归用例,之后每次改动都重跑一遍。

这种方式对多Agent尤其重要,因为一个人的小偏差可能沿着关系网络传播,要靠回放才能看清来龙去脉。朋友之间的信息与情绪如何传播,可以进一步看两个AI角色成为朋友以后的影响

研究里的社会模拟,与现实预测不是一回事

有人会自然地联想:既然虚拟社会可以做得很大,是否可以用来预测现实?清华大学团队的AgentSociety,把一万多个由大模型驱动的智能体放进逼真的城市、社会和经济环境,产生了约五百万次交互,并用它复现意见极化、全民基本收入影响、外部冲击响应等现象。这是一项有价值的研究性工作。

但我们需要把两件事分开。研究里的复现,说明这类模拟能够产生与已知现象相似的宏观模式,用途是研究与探索;它并不等于对现实社会的可靠预测。对游戏而言,更是如此:我们要的是可信、一致、有趣的世界,而不是准确的社会预言。所以大发娱乐AI不会宣称虚拟社会能够复制或预测现实,也不会把模拟里的结论当作现实判断。

与角色关系的一致性

一致性不仅是单个角色的事,也包括角色之间、角色与玩家之间的关系一致。相处很久的角色突然像陌生人一样重新介绍自己,或者对玩家的态度与过去的互动完全对不上,都是关系状态没有被正确维护,玩家会立刻感到这个角色不再认识自己。这部分可以看虚拟角色怎样避免突然忘记你们的关系,那里更细地讨论了关系强度、共同经历与重要节点如何保存。

边界说明:本文所述的检查点、校准与回放,是大发娱乐AI在设计层面的方法示意,文中的艾禾与小镇是虚构举例,表中做法不代表已发布的具体实现。对研究的引用只限于公开摘要中的定性描述。

小结

虚拟社会越像真人越好吗?对游戏来说,答案更接近“越说得通越好”。可信靠一致,一致靠检查,检查靠在事前、事中、事后设卡,再用校准与回放让问题能够被看见、被复现、被修好,长期运行也才有底气。至于模拟出来的结论,永远要留在游戏与研究的边界之内,而不是搬到现实里去判断。