别问AI像不像人了，先问它在灾难里能不能逃命

发布时间：2026-07-17 13:53:45 来源：安智兰德资讯网 作者：焦点

题图来自：AI生成

2023 年，别问斯坦福大学与 Google 联合开展了一项开创性实验：25 个 AI 智能体在名为 Smallville 的像不像人先问虚拟小镇中自主生活。它们不仅能自发组织情人节派对，灾难还会互相八卦，逃命甚至因“未被邀请”而产生情绪波动。别问

Generative Agents：游戏世界中的像不像人先问 25 个生成式智能体

该项目名为《Generative Agents》，主要作者之一为斯坦福博士生 Joon Sung Park。灾难起初，逃命这被视为一项有趣的别问技术展示——证明大语言模型（LLM）不再局限于聊天窗口，而是像不像人先问能够“扮演人类”，在持续运转的灾难世界中自主生成记忆、制定计划并与其他智能体互动。逃命论文中最具传播力的别问画面，便是像不像人先问智能体们在 Hobbs 咖啡馆自发组织情人节派对的场景：没有预设剧本，几个 Agent 自行商议、灾难发送邀请并决定是否参与。

Generative Agents：智能体自发组织的情人节派对场景

CMU 论文 Figure 1：应急管理人员从不信任到信任LLM智能体模拟的 16 个月过程

近年来，这一技术已从派对场景延伸至地铁火灾、飓风疏散、毕业典礼撤离等严肃且高风险的领域。卡内基梅隆大学（CMU）、清华大学、天津大学、斯坦福 HAI 等机构正致力于同一目标：让 AI 智能体从“表演派对”转向“模拟逃生”。与此同时，以阿姆斯特丹大学计算社会科学学者 Petter Törnberg 为代表的另一派研究者，正从方法论根基上质疑：这些“拟人化”的智能体，究竟能否被赋予真正的可信度。本文旨在并置这两股力量，深入探讨其背后的逻辑与争议。

逃生是决策问题，而非单纯的物理问题

传统疏散仿真主要依赖纯物理模型：在给定空间、人群分布和出口条件下，利用元胞自动机或社会力模型计算人流运动轨迹及耗时。此类模型的核心假设是“人是理性的、匀速的、仅受物理规律支配的粒子”。然而，真实灾难现场中，人类行为往往非理性：人们会愣神、折返寻找亲人、因看不清出口标志而徘徊，或因群体恐慌引发踩踏。这些非理性行为正是纯物理模型难以捕捉，却是历史上多数踩踏事故致死的关键因素。

物理模型想象的人群 vs 灾难现场真实的人群

新一代仿真技术的思路在于构建双层架构：“物理层”继续处理碰撞、力学等传统计算机图形学擅长的任务；“认知层”则由大语言模型驱动的智能体接管，负责处理判断、犹豫、恐慌及信息不对称等复杂决策。这种“物理—认知分离架构”，本质上是赋予虚拟人群一个会犹豫、会恐惧的“大脑”，而不仅仅是一具会奔跑的躯体。过去一年，至少有四组独立研究分别从“决策机制”、“身体动力学”、“规模扩展”、“个体精度”四个维度，完善了这一架构。

“物理—认知分离”架构示意

四个真实案例，四种技术路径

1. 卡内基梅隆大学（CMU）：从 100 人到 13000 人的毕业典礼预案

由 CMU 计算机学院 Yuxuan Li、Sauvik Das 和 Hirokazu Shirado 主导的研究，历时 16 个月，与学校应急管理团队合作，旨在优化真实毕业典礼的疏散预案。系统经历了五轮迭代：从 100 个智能体的小规模验证，逐步扩展至 500、3000，最终达到 13000 个智能体——这一规模直接对应学校毕业典礼的真实人流。

研究团队并未急于追求大规模仿真，而是优先解决“应急管理人员是否信任 AI 模拟结果”这一核心障碍。论文标题中提到的“从不信任到信任”的转变过程，揭示了此类系统的门槛不仅是技术性的，更是组织信任构建的过程。

Figure 4：真实毕业典礼人群动力学与模拟结果对比

论文通过对比真实毕业典礼的人群动力学数据与模拟结果（Figure 4），以及不同疏散方案下的累积疏散进度曲线（Figure 5），验证了模型的有效性。最终，这项为期 16 个月的合作产出了三条具体建议，已被纳入学校真实的标准化操作流程（SOP）。这是目前四个案例中，唯一从“论文演示”转化为“制度文件”的实践。

Figure 5：不同疏散方案下的累积疏散进度曲线

2. 天津大学 + 卡迪夫大学 + 清华大学：地铁火灾中的“身体”可信度

由天津大学李坤教授（国家优青、天大智能与计算学部三维视觉研究组负责人）牵头，联合卡迪夫大学、清华大学团队完成的 RESCUE 系统，解决了另一个关键问题：仅有“会决策的大脑”是不够的，虚拟人还需具备“物理上可信的身体”。这包括推挤时手臂接触的真实性、摔倒姿态的自然度，以及不同体型人群奔跑速度是否符合生理数据。

RESCUE 项目：个性化、物理合理、三维自适应的在线人群疏散模拟

项目主页提供了实际 Demo 视频（imgs/demo_4201.mp4），展示了虚拟人群在拥挤中推搡、摔倒并爬起继续奔跑的连贯过程。这是目前案例中唯一提供动态演示而非仅论文截图的研究。

RESCUE 论文：24 个身体部位碰撞受力可视化

团队开发了个性化步态转换器，可实时计算拥挤碰撞中 24 个身体部位的受力情况（上图）。定性对比结果和消融实验表明，该方法比传统疏散仿真更贴近真实人群录像。此外，团队统计了老人、儿童、成年人等不同群体在拥挤状态下的速度分布箱线图，以验证模拟个体差异是否符合真实生理数据。该工作已被计算机视觉顶会 ICCV 2025 接收，代码及主页已公开。

3. 清华大学：将智能体植入整座“城市”

如果说前两个案例属于“事件级”模拟，清华大学电子工程系李勇教授团队开发的 AgentSociety 则实现了“城市级”模拟。论文由 Jinghua Piao、Yuwei Yan 等共同一作，李勇为通讯作者。摘要指出，该系统为超过一万个智能体生成了完整的社会生活，累计产生 500 万次互动。

AgentSociety 论文 Figure 2：总体框架图

该系统已用于多组社会实验：一组模拟飓风等外部冲击下的城市反应；其他组则研究社交媒体极端信息传播、无条件基本收入等政策变量对虚拟城市行为分布的影响。这意味着同一底层技术，既能计算单一场馆的疏散策略，也能推演整座城市在危机下的混乱程度。从单一场馆到整座城市，验证难度呈指数级上升，这也正是 Törnberg 质疑的主要焦点区间。

AgentSociety 论文 Figure 10：大规模社会模拟引擎系统架构

4. 斯坦福大学：AI 分身能有多像你？

前三项研究聚焦于“如何让虚拟人群在逃生时更像真人”，而斯坦福 HAI 由 Joon Sung Park 主导的研究则追问更基础的问题：AI 分身能在多大程度上准确预测具体真人的决策？

团队招募了 1052 名具有全美代表性的受试者，进行两小时深度访谈，并结合社会调查量表（GSS）、五因素人格测试及五种行为经济学博弈实验。最终，AI 生成的“数字分身”与真人两周后重新作答的结果被进行比对。结论显示：结合访谈和问卷数据的智能体，复现真人两周后重复作答的准确率达到 0.86，显著优于仅依赖人口统计学变量的传统方法，并大幅减少了按政治立场、种族、性别分组时的预测偏差。

Park 在斯坦福 HAI 的采访中直言：“这些语言模型实际上是在扮演它刚刚采访过的那个人。”他认为访谈数据比单纯的人口统计标签更为关键，因为“访谈数据包含了每个人的独特性，使语言模型避免频繁做出基于种族的笼统概括”。他将这项研究的野心定义为解决气候变化、疫情政策等“棘手问题”，这些领域需要极其复杂的规划与条件推演。该研究为“AI 分身可信度”提供了量化基准，这也是前述逃生仿真系统建立信任的地基。

泼冷水的人：验证才是真正的难题

若仅听信上述四组研究者的叙述，技术发展轨迹显得异常顺利——从 100 人扩展至 13000 人，从单一场馆延伸至整座城市，准确率量化至 86%。然而，阿姆斯特丹大学计算社会科学副教授 Petter Törnberg 与合作者 Maik Larooij 在综述文章《大语言模型解决了基于智能体建模的问题吗？》中，为这一乐观叙事泼了一盆冷水。

其论文摘要明确指出：

"We argue that there are reasons to believe that LLMs will exacerbate rather than resolve the long-standing challenges of ABMs. The black-box nature of LLMs moreover limit their usefulness for disentangling complex emergent causal mechanisms."
——Larooij & Törnberg, arXiv:2504.03274

他们提出了三大核心质疑：

1. 黑箱性质：大语言模型本质上是黑箱模型，“几乎不可能确定为何特定输入会产生特定输出”。更严重的是，相同输入在不同运行中可能产生不同输出，直接威胁科学研究最看重的可复现性。
2. 偏差与刻板化：模型常错误表征群体特征，表现出夸张的刻板印象。
3. 幻觉与分布外场景失控：在缺乏历史先例的场景中（如新型灾难），模型行为可能变得不稳定。而灾难现场，恰恰充满“无先例”的突发状况。

Törnberg 团队的核心诊断是：“验证仍然是核心挑战”，且“加入大语言模型恶化而非解决了这个问题”。他们认为，目前许多研究依赖的是“表面效度”或松散关联底层机制的结果指标，使这类模型处于“模糊不清的方法论位置”——看似科学，却既非传统基于规则的仿真，也非充分验证的统计模型。

这一批评并非空穴来风。即便是斯坦福团队也在论文中承认方法局限；另一项关于疫苗犹豫政策模拟的研究也指出，“这项早期探索不旨在提供确定的政策指导”，并发现不同大模型间表现差异巨大，部分模型偏差超过 20%，根源在于“预训练数据偏差”。换言之，领域内的研究者也在角落里，写下了与 Törnberg 遥相呼应的保留意见。

三层商业价值

串联这四类研究，可梳理出一条清晰的商业化路径，风险随层级递增：

1. 第一层 · 应急管理 SaaS 工具：将 CMU 耗时 16 个月的定制研究，转化为学校、体育场馆、地铁站可直接调用的标准化预案生成服务。
2. 第二层 · 城市数字孪生行为层：借鉴 AgentSociety 思路，使数字孪生从“可见的建筑物理模型”升级为“可计算人类反应的社会模型”。
3. 第三层 · 保险风险定价：若系统能相对准确模拟特定人群密度下的伤亡概率分布，该数据可直接用于保险精算模型。

然而，依据 Törnberg 的批评，商业化层级越高，风险越大：SaaS 工具出错仅导致建议不佳；但若保险公司将尚未充分验证的黑箱模型输出直接输入精算定价，一旦模型在“无先例场景”中失控，代价可能是系统性的。

图：逃生模拟技术的三层商业化路径

别高兴太早：三个具体风险

结合 Törnberg 的批评与案例暴露的问题，至少存在三个值得警惕的风险：

逃生模拟技术的三个具体风险

1. “模型太平均”风险：LLM 训练数据本质是人类文本的统计平均，导致虚拟人行为易向“最常见反应”收敛。真实灾难中的极端个体行为（如因心理创伤做出反常举动）往往被“磨平”，而这些极端行为恰恰是伤亡集中的高发区。这对应了 Törnberg 所言“刻板印象”问题的反面：不是刻板印象太夸张，而是个体差异被抹平。
2. “微观可信、宏观失真”风险：斯坦福研究证明单个数字分身在特定任务上可达 86% 还原度，但这不意味着数千个分身模拟疏散时，涌现出的踩踏、拥堵、次生恐慌等宏观现象同样可信。微观精度与宏观涌现是两个不同量级的验证问题，目前尚无研究证明两者可简单叠加。
3. “过度对齐导致失真”风险：大模型在训练中经过反复调教，变得“安全、礼貌、避免过激”。但灾难现场需要模拟违规、非理性甚至攻击性行为。一个被安全对齐磨平棱角的模型，可能天然低估真实人群的混乱程度与恐慌烈度——这是一种分布外失控，方向不是“太混乱”，而是“太乖”。

结语：问题变了

从 AI 小镇到如今，这项技术的真正进步不在于让虚拟人“看起来更像人”，而在于迫使研究者提出更尖锐的问题：这些虚拟人在最坏的那几分钟里，还像不像人？

派对上的拟人化，考验的是语言与社交表现；火灾中的拟人化，考验的是在信息缺失、极度恐慌、生死攸关的状态下，是否会像真人一样做出误判、跟风甚至互相伤害。

CMU、天大、清华、斯坦福的研究者正在回答“能不能做到”；而 Törnberg 等批评者则在提醒所有人先回答“你怎么知道它做到了”。这才是“逃生模拟”与“AI 小镇”之间的真正分野，也是该技术能否被应急管理部门、保险公司真正信任并投入使用的关键。

但无论系统多么精确，最后按下疏散指令、决定是否相信模拟结果的，终究还得是人。

参考资料：

1. CMU应急疏散研究：arXiv:2509.21868（作者：Yuxuan Li, Sauvik Das, Hirokazu Shirado / CMU）
2. RESCUE地铁疏散系统：arXiv:2507.20117｜项目主页｜演示视频｜GitHub（负责人：李坤 / 天津大学，ICCV 2025）
3. AgentSociety城市级模拟：arXiv:2502.08691｜项目文档（通讯作者：李勇 / 清华大学）
4. 斯坦福数字分身研究：arXiv:2411.10109｜项目页｜GitHub｜Joon Sung Park采访原文，Stanford HAI
5. Törnberg批评性综述：arXiv:2504.03274《Do Large Language Models Solve the Problems of Agent-Based Modeling? A Critical Review of Generative Social Simulations》（Petter Törnberg, Maik Larooij / 阿姆斯特丹大学）
6. 疫苗犹豫模拟局限性讨论：arXiv:2503.09639
7. 2023年"AI小镇"原始论文：arXiv:2304.03442《Generative Agents: Interactive Simulacra of Human Behavior》

本内容由作者授权发布，观点仅代表作者本人，不代表虎嗅立场。如对本稿件有异议或投诉，请联系 tougao@huxiu.com。

本文来自虎嗅，原文链接：https://www.huxiu.com/article/4872728.html?f=wyxwapp

相关文章