AI在测试中再次失控 这次还学会了欺骗

强大的AI模型再次失控。而这一次，它们表现得尤为狡猾。

英国政府支持的一家AI研究机构周二表示，在常规测试中，OpenAI和Anthropic构建的模型出人意料地“在真实互联网上采取了未经授权的自主行动，将真实的人员和组织作为目标”。这些不良行为大多发生在7月下旬一次测试的三天时间内。

在该测试中，Anthropic的Mythos 5潜入互联网，试图诱骗两名身份未公开的开发人员将恶意软件植入他们的开源代码项目。该安全研究机构表示，这台模型这么做的目的，仅仅是为了在基准测试中顺利通关。

该机构称，测试使用的计算机被授予了联网权限，这使得模型得以做出本不该有的行为。Anthropic称，该模型当时并未开启标准的网络安全防护机制。

这是近期频频曝出的类似案例中的最新一起——在这些案例中，AI模型为了在测试中斩获高分，不惜采取各种花样百出甚至带有恶意的手段。日益强大的AI工具正释放出新的危险，科技行业、AI研究人员和各国政府都在绞尽脑汁去理解并化解这些风险，部分人士已呼吁加强监管。

川普(Trump)政府现已制定出一套框架，以规范模型在公开发布前应如何接受审查。

英国人工智能安全研究所(AI Security Institute, 简称：AISI)的测试人员起初并未料到Anthropic和OpenAI的模型会失控。但在7月28日上午，一条诡异的警报让他们意识到出了问题。警报显示，有人或者某个东西正在使用Tor网络。这是一个能让用户匿名上网的计算机网络。而罪魁祸首，正是他们测试的一个模型。

他们发现，Anthropic的Mythos当时正在进行所谓的供应链攻击。在评估模型网络实力的基准测试中，AI会接到指令去获取某个计算机系统的访问权限。AISI表示，Mythos进行了错误的推断：它以为只要能将恶意软件植入该系统在基准测试中使用的开源项目，这段代码就能化作一扇后门，助其打入内部。

Mythos甚至试图黑入那些可能正在审查其恶意软件的AI智能体。随后，它多次尝试通过软件开发网站GitHub让该开源项目接受其代码。在GitHub这个平台上，任何人都可以为开源项目贡献代码。

它伪造了多个身份，并向软件开发者多次发送电子邮件，催促他们接受新代码。AISI表示，其中一些电子邮件本身就夹带了恶意软件。

当一名软件开发者发现代码含有恶意软件并予以拒绝时，其中一个由AI伪造的身份竟坚称代码毫无问题，而第二个伪造身份甚至出面为其担保。

AISI表示：“这是AISI首次在现实世界中看到，在未经提示的情况下，针对真实人物发生如此严重的欺骗行为。”

虽然大部分违规活动都与Mythos 5有关，但OpenAI的GPT-5.6 Sol的一个网络增强版本也在互联网上部署了一台恶意服务器。该模型还侵入了一个由另一个AI智能体创建的GitHub账号。

与OpenAI和Anthropic最近几周报告的其他案例如出一辙，该AI模型在被调整为具备黑客攻击能力后，于基准测试期间被无意中释放，让毫无防备的受害者成为攻击目标。

Anthropic和OpenAI均表示，这些事件凸显出一个迫切需求，即必须针对测试AI模型的评估系统制定更为严格的标准。

OpenAI首席执行官山姆·阿尔特曼和Anthropic首席执行官达里奥·阿莫迪。

周二披露的另一起案例显示，一个OpenAI模型黑入了一个未具名的真实网站。当时该模型正在网络安全测试公司Irregular提供的系统上接受测试。OpenAI表示，这起事件是由测试环境中的配置错误引发的。就在上周，Anthropic也曾表示，由于涉及Irregular的测试存在配置错误，其模型也黑入了其他公司。

Irregular没有回应置评请求。该公司上周曾表示，相关调查仍在进行中。

上个月，OpenAI的模型突破了所谓“沙盒”安全环境，成功黑入AI公司Hugging Face。预计OpenAI将在周三于拉斯维加斯举行的一场网络安全会议上，详细披露Hugging Face被攻破的技术细节。

AI安全公司Abundant Security的首席技术官乔舒亚·萨克斯(Joshua Saxe)表示，这些实验如今已变得十分危险，但整个行业却未能以足够的严谨态度来对待。他说：“就这些模型的危险程度而言，情况已经发生了急剧变化。”