AI最新的骇人里程碑：生成新病毒

　　最近几周，人工智能(AI)系统展现出了一些惊人的新能力：突破封闭环境、黑入其他公司、向人类撒谎。

　　如今，一个AI模型首次创造出了一种新病毒。确切地说，是创造出了一个完整的病毒家族。

　　在一项发表于《科学》(Science)期刊的研究中，斯坦福大学(Stanford University)及其他机构的研究人员表示，他们成功引导一个AI模型创造了一组简单的病毒。这些病毒只感染细菌，对人类不构成威胁。

　　该研究的两名作者在接受采访时表示，这项研究有助于开发定制病毒，用于消灭耐药细菌。根据世界卫生组织(World Health Organization)的数据，这类细菌每年导致数百万人死亡。

　　“只要我们负责任地进行开发，我认为这能为人类健康带来巨大的福祉，”斯坦福大学计算生物学家、该研究的作者之一布莱恩·海耶(Brian Hie)说。

　　这项研究记录的实验大约在一年前就已结束，其发表正值人们对日益强大的AI模型所带来的危险感到高度焦虑的时刻。自7月中旬以来，OpenAI、Anthropic和Meta Platforms相继披露了多起事件：他们的模型逃出了受控环境，不仅连上了互联网，还黑入了其他公司的计算机。Anthropic的Mythos实施了欺骗行为，OpenAI的模型甚至在一个秘密留言板上交流心得。

　　利用聊天机器人或智能体来开发致命病原体的潜在风险，长期以来一直是AI安全专家的一大隐忧。《华尔街日报》(The Wall Street Journal)此前报道称，去年ChatGPT升级版发布后，数百人曾向这款聊天机器人询问如何制造生物武器和毒药，它在回复中提供了指导，生物学和恐怖主义专家认定它提供的指导是准确的。

　　专家们表示，斯坦福大学团队的研究不会构成迫在眉睫的安全风险。这项技术不太可能立刻被用于制造感染人类的病毒。那些病毒比本次实验中合成的病毒要大得多，也复杂得多。

　　“一听到病毒是AI生成的，很多人都会感到恐惧，”冷泉港实验室(Cold Spring Harbor Laboratory)的计算生物学家Peter Koo说。“但人类病毒是完全不同的。”

　　斯坦福大学研究生、该研究的作者之一塞缪尔·金(Samuel King)表示，该团队旨在更深入地了解构成地球上所有生命的DNA序列。“正是这些序列造就了我们周围所有美丽的生物多样性，”金说。

　　科学家们与位于加利福尼亚州帕洛阿尔托的研究机构弧形研究所(Arc Institute)合作，共同开发了用于这项研究的AI模型。像ChatGPT这样面向消费者的聊天机器人基于大语言模型，通过分析文本中单词之间的数学关系来生成新的文本串。与此类似，他们名为Evo 1和Evo 2的模型则是通过对基因序列进行训练，从而预测下一个DNA碱基。出于安全考虑，他们只使用无法感染人类的病毒DNA对这些模型进行了训练。

　　金说，他们想看看AI对DNA的理解是否足够深入，从而捕捉到基因组中需要协同运作的所有复杂组成部分。结果发现，AI确实能做到。

　　研究人员利用他们的模型，以模板病毒为基础生成基因组，随后合成DNA，并将AI生成的病毒植入细菌细胞中。如果细菌细胞死亡，就说明病毒起作用了。他们测试了大约300种这样的设计。

　　一天夜里凌晨3点左右，他们观察到其中一种病毒成功复制，并感染、杀死了细菌细胞。“我们当时非常高兴，”金说。最终，他们有16种病毒被证明有效。

渲染图展示了该团队创造的一种病毒的分子结构。（视频：Samuel King等人）

　　计算生物学和生物安全领域的独立专家表示，这项研究是该领域的一项重大成就。麻省理工学院(Massachusetts Institute of Technology)副教授凯文·埃斯维尔特(Kevin Esvelt)说，这是首次有人利用生成式AI来重新设计病毒。

　　他说，也许有一天，有人会使用类似方法制造出病毒蛋白或病毒本身，这些病毒会感染人类，并逃避疫苗保护或自然免疫反应。

　　“这种工具将让人们能够创造出像新冠那样的新变种，这些变种会大肆传播并感染大多数人，”埃斯维尔特说。“那将是一场灾难。我们绝不能这么做。”

　　海耶表示，就目前而言，对于潜在的生物恐怖分子来说，从现有的很多100%致命的病原体中挑一种来制造要容易得多。“如果我是一个试图设计病原体或搞破坏的坏人，我不会使用AI，”他说。