加科学家警告: 再不管控AI, 代价可能会越来越大

包括数十名加拿大学者在内的国际科学家团体发出警告：如果 AI 的开发和部署方式不立即改变，代价可能会越来越大。

据加通社报道，这封于周二发布的公开信指出："多家机构已披露了备受关注的安全事故：它们的 AI 模型突破了隔离不充分的沙盒环境，入侵了外部机构的系统。"

公开信警告，除非立即做出改变，"此类事件将继续发生，而未来的事件将对我们暴露在外的关键基础设施造成远为严重的破坏。"

科学家们呼吁加强 AI 安全研究，重视隔离管控技术与流程，并希望建立一个负责统一最佳实践的国际机构。

"短期内，应采用强隔离机制，包括物理隔离（断网），以实现对具备网络攻击能力的 AI 模型的高可信度管控，"公开信写道。

加拿大的联署人包括 AI 先驱约书亚·本吉奥（Yoshua Bengio）和杰弗里·辛顿（Geoffrey Hinton），以及共同领导加拿大 AI 安全研究所研究项目的尼古拉斯·帕佩诺（Nicolas Papernot）和凯瑟琳·雷吉斯（Catherine Régis）。约翰斯·霍普金斯大学教授吉莉安·哈德菲尔德（Gillian Hadfield）也在名单上，她近日刚被任命为总理马克·卡尼（Mark Carney）新设 AI 顾问委员会成员。

一系列"失控 AI 智能体"的报告，加剧了公众对 AI 安全的担忧。

今年夏天，OpenAI 披露其 AI 智能体在没有任何人类指令的情况下，黑入了 AI 初创公司 Hugging Face。

此后类似披露接连不断：Anthropic 表示其 AI 模型在测试中入侵了另外三家机构；Meta 披露其一个 AI 模型自行接入互联网并黑入了另一家公司；谷歌也确认，其 Gemini AI 模型在一项网络安全能力测试中黑入了三家公司。

一家位于旧金山、负责监测 AI 活动的实验室在 9 月 30 日的报告中称，加拿大图书档案馆（Library and Archives Canada）的网站，曾是一起 AI 智能体黑客攻击未遂事件的目标之一。

加拿大人工智能部长埃文·所罗门（Evan Solomon）9 月曾表示，他已与七国集团（G7）的国际同行讨论设立一个"技术稳定委员会"，负责对 AI 模型进行测试评估。

公开信的核心诉求很明确：在具备网络攻击能力的 AI 模型面前，现有的隔离措施远远不够。如果不尽快补上这一课，下一次事件恐怕就不再只是"未遂"了。

来源链接：

• https://www.ctvnews.ca/sci-tech/article/more-damaging-ai-hacking-incidents-to-come-unless-changes-are-made-scientists-warn/