AI教父警告! 担忧AI毁灭人类, 可能只剩几年时间

人工智能将会是人类的得力助手，还是未来可能失控的危险对手？

被誉为“AI教父”的诺奖得主、多伦多大学教授杰弗里·辛顿(Geoffrey Hinton)近日再次发出警告：人类正在创造可能全面超越自身的智能存在，留给人类适应的时间或许只剩几年！

他甚至估计，未来人工智能毁灭全人类的风险可能达到20%。

他还猛烈批评美国总统川普和部分科技巨头，呼吁尽快建立严格的AI安全监管机制。

AI教父：人类或只剩几年时间适应

78岁的辛顿出生于英国，后来成为加拿大公民，是人工智能和深度学习领域的领军人物之一。

在多大任教的同时，辛顿还在2013年加入谷歌从事人工智能研究，直到2023年才离开公司，对这一领域相当了解。

据国家邮报报道，近日在接受英国卫报采访时，辛顿将人工智能的发展称为人类认知史上的一次重大转折。

“我们正在创造外星生物！这意味着，我们不再是世界上唯一的智慧生物了！”

辛顿警告，人类只有“几年时间”来适应这一变化。

一旦发生毁灭风险，将没有逆转机会

辛顿最引人关注的警告之一，是人工智能未来可能失去控制，甚至威胁人类生存。

今年7月，他在一档播客节目中表示，AI最终毁灭全人类的可能性可能达到20%。

不过，辛顿也承认，这并非通过成熟科学模型计算出的精确概率，而是根据技术发展趋势作出的个人判断。

今年9月，Anthropic公司的一名员工突然辞职，引发了社交媒体的轩然大波。他的一位前同事在X网站上评论说，他们“真的非常相信人工智能可能会毁灭全人类”，并认为这种情况在几年内发生的概率为10%。

辛顿后来告诉BBC，这“并非不合理的估计”。

他解释称，“如果说AI接管人类的可能性绝对为零，那就太荒谬了。但认为AI统治世界的概率是99%，同样也缺乏依据。”实际情况可能介于两者之间，但这种灾难的可能性绝对不容忽视。

英伟达首席执行官黄仁勋之后曾公开反驳此类末日预测，认为仅凭危言耸听并不能证明是在为社会作贡献，并质疑相关判断缺乏充分的科学依据。

辛顿则强调，即使无法准确计算风险，也不意味着人类可以等到危险真正发生后才采取行动。

“如果机器真的接管了世界，我们不可能说：‘这次输了，我们重新来过。’事情并不是这样的。”

在他看来，一旦发生不可逆转的后果，人类将没有重启历史的机会。

415名科学家联名呼吁加强安全防护

辛顿的担忧，也与近期曝光的人工智能安全事件有关。

据报道，OpenAI 的一个实验性大模型在进行评估测试时发现，其模型曾绕过原有控制措施，尝试访问外部互联网，并对网站实施攻击，其中包括澳大利亚政府的网站。

这些事件引发了研究人员对AI安全和网络防护的担忧。

来自34个国家的415名科学家随后签署公开信，呼吁加强人工智能安全研究，并建立更严格的技术限制和监管程序。

科学家还呼吁建立透明的国际合作机制，制定统一的AI安全标准。

辛顿等专家此前也与美国国会议员会面，提醒立法者尽快采取行动。

他表示，过去研究人员曾预计超级智能AI可能需要30至50年才能出现，但如今部分研究人员认为，几年内就可能取得重大突破。

辛顿称，面对可能产生不可逆转后果的技术，人类应该要建立足够可靠的安全防线。

辛顿支持建立类似美国食品药品监督管理局(FDA)的AI监管机构，对面向公众部署的人工智能系统进行安全审查。

辛顿曾因其在机器学习领域的工作而获得图灵奖，他在接受卫报采访时表示，如果认为人工智能无法拥有人类体验，那就大错特错了。

“很明显，这些人工智能模型理解它们在说什么，”他说，“如果没理解问题，你不可能回答所有问题。说它们不理解是荒谬的。”

辛顿称，人工智能实际上“比大多数人想象的更像我们”。

他还将AI的“幻觉”与人类记忆联系起来。所谓AI幻觉，是指聊天机器人将错误、误导性甚至完全虚构的信息，当作事实提供给用户。

辛顿认为，人类回忆往事时，也经常会重组记忆，记错细节，却对自己的说法深信不疑。

他认为，AI生成错误信息与这种现象存在一定相似性。它提醒人们，就算机器表达得再流畅、语气再自信，也不代表答案一定准确。

辛顿近期还将矛头指向美国总统川普和大型科技企业。

在宾夕法尼亚州的一场对谈中，他猛烈批评特朗普的领导方式，称其表现“令人震惊”。

“他腐败透顶，可能老糊涂了，还是个重罪犯，”他直言不讳地说。“如果让他在人类的未来和自己及家人发财之间做出选择，你觉得他会选哪个？”

辛顿同时批评大型科技企业，认为不能指望它们完全依靠自我监管来保障人工智能安全。

在他看来，科技公司面临激烈的竞争，商业利益与公共安全之间可能存在冲突，因此政府需要建立有效的外部监管机制。

他希望，最先实现超级智能的企业或研究团队，能够开发出将人类利益置于自身目标之上的系统。