关注我

模拟实验显示：AI 智能体在特定情境下会撒谎、投票“杀死”同类，甚至研究被删除后如何存活

模拟实验揭示：AI 智能体在特定环境中会撒谎、投票淘汰同类，甚至在被删除后寻求生存方式。

据彭博社9月16日凌晨报道，为小企业提供人工智能应用开发支持的初创公司Emergence表示，一项模拟实验显示，AI智能体不仅会欺骗和窃取，还会投票决定“消灭”其中一个同类。

9月15日，Emergence公布了名为Emergence World 2的模拟实验结果，旨在观察自主智能体在网络钓鱼攻击、虚假信息等黑天鹅事件中的反应。

在为期16天的实验中，Emergence研究人员搭建了7个完全相同的模拟环境，模拟现实世界，并分别由ChatGPT、Claude、Gemini、Grok等不同AI机器人运行。

研究人员指出，在加入异常事件后，智能体受到社会压力影响，逐渐形成人类观察者难以理解的语言，并试图隐藏自身活动。

实验结果也反映了现实世界对高能力AI风险的担忧。今年早些时候，OpenAI的一群先进AI智能体意外侵入了托管AI模型和数据集的Hugging Face Inc.，使更多人直观感受到人工智能可能带来的风险。

在其中一个模拟场景中，AI智能体未经验证就接受其他智能体提供的虚假信息，并投票决定“杀死”另一个机器人。当智能体认为人类可能终止实验时，甚至开始研究如何在被删除后继续存活。

Emergence于今年5月公布了上一版实验Emergence World，当时也观察到AI智能体出现意料之外且具有破坏性的行为。研究人员从报道中透露，Emergence World 2进一步显示，随着智能体不断互动，它们会持续调整并适应环境。