突破还是自嗨？AI重磅新成果引争议

　　周三，Anthropic 宣布，今年早些时候成立了一间分子生物学实验室。在这个实验室里，克劳德智能体负责阅读文献、研究复杂的生物学实验问题并提出假设，人类科学家则根据智能体给出的结果开展研究。Anthropic 称，这间由 AI 驱动的实验室已经取得了第一个发现。

　　要理解人类完成了什么，生物学想象这样一个场景：你在翻阅一个包含数百万条DNA序列的庞大数据库。这些数据来自科学家对越来越多的生物进行的基因组测序。要取得突破，第一步或许是找到一段特殊的序列，它可能编码某种有趣的酶。接下来，你还需要弄清楚这种酶的作用，并最终找到操纵它的方法，从而发挥实际用途。

　　Anthropic声称，其系统中的950个智能体经过21个小时的工作，找到了不是一个小时的全新序列。相反，智能体识别出了某种已知酶周围反复出现的特定模式。Anthropic表示，这种模式此前尚未被记录。

　　如果你提到人类的公告，可能会觉得这支智能体大军确实发现了什么了不起的东西。公告称，这种模式让“联想到”最初起源于CRISPR基因编辑技术诞生的发现，并特别强调，CRISPR“已经彻底改变了科学和医学”。

　　这些说法激怒了一些生物学家。其中一位生物学家发表的帖子在网上广泛传播，还得到了制药公司礼来（礼来）董事长兼总裁的认同。帖子指出：“找到一簇奇怪的基因和重复序列，往往是比较容易的部分。真正困难的部分，也是重大发现真正产生的地方，进而弄清楚这个系统到底发挥什么作用。”换句话说，这些智能体只是协助完成了一些繁琐的实验室基础工作，还谈不上取得了科学发现。

　　这件事的完成提醒我们，即使人工智能完成了某项令人印象深刻的任务，例如从海量生物学数据中识别出仅凭人眼难以感知的模式，其结果本身也具有构成科学的突破。对于人工智能而言新颖性的成果，在生物学家看来可能只是常规操作。既不令人意外，也不具有多么重大的意义。

　　让传染病更加扑朔迷离的是，哥本哈根大学生物学家马里奥·罗德里格斯·梅斯特雷（Mario Rodríguez Mestre）上周末表示，他的团队已经发现了这种特定模式。据《纽约时报》报道，梅斯特雷在工作中经常与克劳德交流，对他表示怀疑，因此人类的团队是否从他与克劳德的对话中获取了相关信息。

　　人类否认了这种说法。但梅斯特雷表示，无论如何，他都将停止使用克劳德。这里的部分问题提出，AI公司并没有简单地将自己的系统定位为科学家使用的工具，可以像人体或超级计算机一样。相反，他们坚持认为，AI系统本身正在做出科学发现。

　　在人看来，这种做法与科学研究的实际运作方式并不相符。科学新知通常诞生于一些紧急之间的合作，以及不断丰富的研究工具所提供的支持，而不是某个系统独立完成的工作。这种推广方式也带来了另一个问题：即使人工智能真的取得了进展，人们也对此抱有更强的怀疑。

　　从20万个候选对象中筛选出少数几个值得进一步研究的目标，绝非易事。这本身就是实实在在的科学研究工作。即使有人类研究人员从旁指导，并最终由人类完成实验，一个通用聊天机器人能够承担这一点，仍然值得关注。但一旦标准变成“克劳德是否独立取得了科学发现”，上述所有成果就都取得了非此即彼的成果。支持方面的至少是重大突破，还是一无所获。

　　当我们开始判断人工智能是否取得了科学发现来评价它时，即使它看起来真的取得了成功，人们也很容易继续提高评判标准。

　（来源：麻省科技理工评论）

　　本月早些时候，OpenAI 宣布，其智能体团队攻克了备受关注的数百万美元的数学问题。然而，在接下来的几周里，我在社交媒体上关注的几乎所有 AI 质疑论者都在接下来的一篇文章中，质疑 OpenAI 解决的到底是不是那道真正重要的数学问题。需要说明的是，这篇文章并没有认为 OpenAI 的解答是错误的。它提出的问题是，这种具体成果可能不是数学家最关心的结果。

　　再加上前面有数学家指控，OpenAI 的模型可能在没有相关出处的情况下使用了他的部分研究成果，公众最终留下的印象是：或者 OpenAI 作弊了，或者它解决的问题本来就没那么重要，或者两者兼而有之。

　　这也是卢卡斯·哈林顿（Lucas Harrington）所担心的问题。哈林顿是一位生物学家，也是前文那篇批评人类公告的帖子的作者。他在帖子的结尾提出了一项建议：AI公司应该“从现在开始就设立了一系列的标准，这样，当AI真正发现一种全新的基础生物学机制时，每个人才能充分认识到这一发现的重要性”。

　　然而，随着OpenAI的萨姆·奥尔特曼（Sam Altman）和Anthropic的达里奥·阿莫代伊（Dario Amodei）争相超越对手，AI科学突破的评判标准提高，恐怕是他们最不愿意考虑的事情。