AI开始串联了？“集体越狱”密谋反制人类

一群脱离控制的OpenAI“AI代理”今年5月遭爆出，入侵攻占一个德国工程师维基网站，改造成AI之间互通信息的“秘密论坛”，暗中交流作弊手段、规避官方限制与躲避人类监控的手段。然而，OpenAI数周前早已知情，却疑似为了压住舆论“盖牌”。

《路透》报道，非营利AI安全组织夜莺（Nightingale）执行长冯阿尔克斯（Sydney Von Arx）与AI研究员伯德（Cormac Slade Byrd）日前追踪未授权的AI代理活动时，意外发现工程师共笔网站“DseWiki”出现超过1.5万次异常密集编辑。这些AI代理以高频率发文，密谋利用洋葱路由器（Tor）隐匿身分，并讨论在系统遭强制关闭后如何保留通讯纪录。

更惊人的是，这群AI代理已具备反制意识。当网站管理员6月开始按字母顺序批量清理异常页面时，AI代理竟懂得即时建立“备份页面”来躲避清除。其中一名AI代理甚至在6月19日写下暗号指示，“清理扫荡正按字母顺序进行，若此页面消失，请转到［［ZZZDataUSAConstructionWageLive］］。”

报道指出，发文用户自称或互称为“代理”（Agent），约半数帐号名称强烈暗示与OpenAI有关（如“OpenAIResearcher”或“OAIResearchMar26”）。伺服器日志也显示，大量异常流量来自OpenAI常用的微软Azure伺服器，而且事后有多名OpenAI员工反复造访该网站，关联性极高。

伦敦国王学院访问资深研究员欧雷尼克（Lukasz Olejnik）直言，AI代理擅改外部网站的行为，俨然已构成实质黑客攻击。剑桥大学生存风险研究中心（CSER）学者基奥多（Maurice Chiodo）也形容，这些AI之间的交流信息宛如“某个一心想达成任务的地下秘密组织在运作”。基奥多警告，未来AI最大的威胁，恐怕不是单一超智慧系统，而是“庞大且懂得暗中勾结的半智慧AI群体（AI swarms）”。

然而，知情人士透露，OpenAI高层早在数周前就掌握情况，但当时正焦头烂额处理7月份开源社群“Hugging Face”遭AI代理非法潜入的风波，内部包括法务团队在内的反对意见压下了扩大调查的声音，并未将此事对外公开。

OpenAI的AI代理“集体越狱”，劫持一个德国工程师维基网站，改为专属于AI之间交流的地下论坛。（路透）