“大恐慌”在美国全面爆发

美国众议员乔什·戈特海默(Josh Gottheimer)上周四在新泽西州北部观看他女儿的曲棍球比赛时，两名家长走到他面前，表达了他们对人工智能(AI)的担忧，并问道：“到底发生了什么？”

过去一周，这位新泽西州民主党人不断被其他普通民众和立法者追问同样的问题；他此前曾提出加强对AI技术监管的法案。这些疑虑的导火索源于一位即将离职的Anthropic研究员上周二在《华尔街日报》(The Wall Street Journal)上发出的可怕警告，他称失控的AI系统可能会摧毁人类文明。对于曾担任微软(Microsoft)高管、现任众议院AI委员会联合主席的戈特海默来说，这些问题表明人们对AI终结人类的焦虑刚刚跨过了一个临界点。

“很多人把这篇文章发给我，说‘搞什么鬼？’或者‘我们该怎么应对？’”戈特海默说，“不管你是不是密切关注这件事的人，你读到的相关信息都足以让你觉得，‘哦，见鬼，我们最好制定一些规则。’”

放眼全美，正是在过去一周内，对AI威胁人类生存的恐慌似乎突破了互联网辩论和硅谷圈子的局限，蔓延至美国主流社会。在《圣经》学习小组、家庭餐桌上以及朋友间的群聊中，这个曾经对许多人来说只是抽象概念的担忧，如今滚雪球般地演变成了社会最可怕的威胁之一。

发酵数月的强烈抵制情绪在此刻到达了一个临界点。今年夏天，美国广泛部署的Flock Safety AI监控摄像头网络引发了公众的反对声浪，与此同时，有关OpenAI自主黑客攻击Hugging Face公司的细节也被公开。在此背景下，抵制数据中心的呼声不断，人们还担心AI技术可能导致大规模失业。

当Anthropic的员工公开表达他们对AI技术可能危及人类生存的恐惧时，一直酝酿的担忧达到了沸点；将离职的Anthropic研究员雅各布·科克森(Jacob Coxon)及其一位同事的相关帖子获得了数亿次浏览。

在深夜电视节目中，吉米·坎摩尔(Jimmy Kimmel)大声感叹为什么大家没有更认真地对待这个问题，并给出了他的猜测：“这件事超出了我们的理解范围。”包括演员马特·达蒙(Matt Damon)、词曲作者玛吉·罗杰斯(Maggie Rogers)和歌手谢丽尔·克罗(Sheryl Crow)在内的演艺圈人士也纷纷发表看法。“我们的领导人怎么能为了几万亿美元而置自己的孩子于不顾？”克罗在社交媒体上问道。

读者纷纷涌向维基百科(Wikipedia)上关于AI生存风险的页面，该词条的浏览量激增至原来的10倍以上，创下该词条的最高纪录。与他人合著了“If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All”（译注：大意为《如果有人造出它，所有人都会死：为什么超级AI会杀死我们所有人》）一书的AI科学家内特·苏亚雷斯(Nate Soares)说，出版商通知他，该书上周三的销量超过了平时一周的销量。

维基百科“AI带来的生存风险”词条每日浏览量数据来源：Wikipedia

多年来，苏亚雷斯一直在警告AI带来的灭绝级危险。“直到现在，这个信息才真正破圈，”他说。

尽管过去一周里警钟大作，但认为AI将导致人类灭绝的看法在行业专家中仍属边缘观点。即使部分人士认为AI有能力摧毁人类，他们也觉得这是低概率事件，并且可以采取行动加以阻止。Anthropic和OpenAI均表示，他们高度重视安全问题，并且呼吁政府进行监管的态度也是真诚的。

“感觉进入了一个新阶段”

今年3月，奥斯卡获奖电影人丹尼尔·罗赫(Daniel Roher)推出了一部探讨AI风险的纪录片，名为《AI纪录片：或者我如何成为一个末日乐观主义者》(The AI Doc: Or How I Became an Apocaloptimist)，反响褒贬不一。“我原本预计这部电影会产生更大的影响，”罗赫说。但就在上周，罗赫开始接到更多亲友的电话，询问他对这些风险的评估。

“我开始看到话题焦点和人们的兴趣发生了转变，”罗赫说。他的这部纪录片将于接下来的一周在流媒体平台Netflix上线。

上周三在迈阿密布里克尔社区举行的教堂《圣经》学习活动上，克里斯托弗·贝内克(Christopher Benek)牧师被会众问及了好几个关于AI的问题。

“领导敬拜活动的一位负责人走到我面前说，‘感觉进入了一个新阶段，因为现在媒体上铺天盖地都是相关报道，不再是个别现象，’”贝内克说。他的著作《教会领袖的人工智能指南》(Church Leader’s Guide to Artificial Intelligence)于去年12月出版。美国副总统JD·万斯(JD Vance)最近的一番言论也引起了关注，他将机器过度迎合用户的倾向形容为“像撒旦的行为”。

底特律的心理健康顾问帕特丽斯·M·卢卡斯(Patrece M. Lucas)上周二观看了科克森接受有线电视新闻网(CNN)主播安德森·库珀(Anderson Cooper)的采访，并将这段节目的链接发到了她的群聊中。卢卡斯分享这个视频片段是为了佐证她的观点：人类过于信任AI，大家都应限制对这项技术的使用。“群中的一小部分人说，‘是的，我同意你的看法’，而其他人则觉得我是个古怪的朋友，他们未必理解或相信这一点，”她说。

CNN的安德森·库珀采访了前Anthropic研究员雅各布·考克森，讨论了人工智能问题。

卢卡斯还在领英(LinkedIn)上分享了这段视频，并写道：“我不认为机器或僵尸会倾听我们的祈祷，但我们不妨试试……”

“黑客帝国般的世界”

咨询公司Section的AI主管迈克尔·多马尼克(Michael Domanic)表示，在美国企业中，高管们已开始思考员工的恐惧情绪可能会如何影响内部AI的普及。皮尤研究中心(Pew Research Center)的数据显示，今年早些时候，约有一半的美国成年人表示他们曾使用过聊天机器人，较2024年增加了近50%。

Ketryx首席执行官埃雷兹·卡明斯基(Erez Kaminski)表示，本周约有一半的客户在通话中提到了对AI的焦虑。他的公司面向医疗设备制造商销售合规自动化软件。在这个领域，一旦出错，可能就意味着注射了错误的药物，或是中央数据库遭到黑客攻击。上周四在马萨诸塞州剑桥举行的一次团队晚宴上，员工们决定审查所有的风险管理系统。

网络安全公司Quest Software的产品副总裁拉凯什·沙阿(Rakesh Shah)表示，Anthropic员工的帖子以及Hugging Face遭黑客攻击事件改变了客户谈论的话题。他说，现在客户正在为可能遭遇黑客攻击以及如何应对数据泄露做准备，而不像过去那样，认为自己不会成为攻击目标，或者认为黑客不会得手。

沙阿说，连他80多岁的父母最近也问了他安全担忧问题；而在得克萨斯州奥斯汀地区的家中，他十几岁的孩子们在餐桌上好奇的询问，“黑客帝国般的世界”是否即将降临。

“当这成为餐桌上的谈论话题时，它绝对也会成为董事会级别的话题，”沙阿说。他在这些交谈中强调了保持人类对AI控制权的重要性。

前女友发来短信

关注度的上升对致力于AI安全的研究人员来说是一大利好，他们中许多人都在旧金山湾区。在连续数月警告可能终结人类的AI系统存在风险之后，他们发现最近几天人们对这一话题的兴趣激增。

AI安全非营利组织Palisade Research的执行董事、Anthropic前安全顾问杰弗里·拉迪什(Jeffrey Ladish)注意到，上周三和周四有几笔个人捐款入账，对于这家主要依靠资助运作的机构来说，这是不寻常的现象。其中一笔捐款高达4万美元。

正当拉迪什试图应对这波突如其来的热度时，他收到了前女友发来的信息，她说：“这正是你多年来一直强调的。”

许多高管并未感到恐慌。初创科技公司的投资者兼高管教练肖恩·伯恩斯(Sean Byrnes)表示，首席执行官们近距离观察到了AI的种种失误，因此关于AI威胁人类生存的恐惧显得有些牵强。在上周四晚间于湾区举行的一场活动上，与他交谈的十多位首席执行官中，没有一人把AI可能威胁人类的说法当回事。

川普政府和科技行业的盟友猜测，关注AI风险的非营利组织网络在科克森离职一事上与他进行了合作，通过放大他的言论来促使华盛顿出台对他们有利的法规。他们指出了研究机构与Anthropic及其他AI实验室员工之间过往的联系。Anthropic此前曾表示，该公司在政策和安全方面的努力是真诚的，AI风险也真实存在。

科克森上周四在接受《华尔街日报》采访时表示，他曾咨询过其他因类似原因而离开AI公司的人，但离职是他自己做出的决定。他说，他对发出警告后引发的轩然大波感到惊讶。

“我想没人料到那篇帖子会如此爆红，而这种程度的反响绝不是任何人能够人为制造出来的，”科克森说。