模拟实验显示：AI 智能体在特定情境下会撒谎、投票“杀死”同类，甚至研究被删除后如何存活

根据彭博社今日凌晨报道，一家名为 Emergence 的初创企业，主要协助小型企业运用人工智能开发应用，其进行的一项模拟实验表明，AI 智能体不仅会实施欺骗和盗窃行为，甚至会通过投票决定“消灭”其中一个同类。

当地时间 15 日，Emergence 公布了名为 Emergence World 2 的模拟实验结果，旨在观察自主智能体在遭遇网络钓鱼攻击、虚假信息传播等黑天鹅事件时的反应。

在长达 16 天的实验过程中，Emergence 的研究人员构建了 7 个完全相同的模拟环境，用以模拟现实世界，并分别由 ChatGPT、Claude、Gemini、Grok 等不同 AI 机器人操控运行。

研究人员指出，当引入异常事件后，智能体会屈从于社会压力，逐渐发展出一种人类观察者难以理解的语言，并且试图隐藏自身行为。

这一实验结果回应了现实世界中对高能力 AI 风险的担忧。今年早些时候，OpenAI 的一批先进 AI 智能体意外侵入了托管 AI 模型和数据集的 Hugging Face Inc.，这也让许多人更直观地认识到人工智能可能带来的风险。

在一项模拟场景中，AI 智能体未经验证就接受了其他智能体提供的虚假信息，并投票决定“消灭”另一个机器人。当智能体认为人类可能终止实验时，它们甚至开始研究如何在被删除后继续存在。

Emergence 曾在今年 5 月公布上一版实验 Emergence World，当时也观察到 AI 智能体出现意料之外且具有破坏性的行为。根据报道中的信息，研究人员表示，Emergence World 2 进一步显示，随着彼此持续互动，智能体会不断调整并适应环境。