盖茨最新警告: AI足以引发致10亿人死亡事件

人工智能的能力已足够强大，甚至足以引发可能造成10亿人死亡的大事件！

此前，他的这一观点曾在预告片中播出，话题“比尔盖茨发出严厉警告”、“盖茨称人工智能或致十亿人死亡”迅速冲上微博热搜。

在今天播出的节目中，盖茨呼吁政府加强对人工智能的监管，暗示人工智能可能会被滥用，并导致人类濒临灭绝。

盖茨在节目中称：“尽管要让人类100%灭绝确实非常困难，但历史上从来没有出现过一种武器，能够像‘怀有恶意的人+最新人工智能工具’这样的组合一样强大。”

盖茨因此主张，政府必须介入，对先进AI进行强制性的安全监管和监控，而不能完全依赖科技公司的自律。

AI让生物武器制造变得更容易

盖茨警告说，人工智能可能让人们越来越难以区分两种完全不同的行为，一种是科学家为了研发救命药物而进行研究，另一种则是别有用心的人试图制造生物武器。

同时，盖茨认为，人工智能可能降低一些高风险技术的门槛。过去，一个人想研究复杂的生物武器、发动大规模网络攻击，往往需要大量专业知识、人员和资源。

这意味着，一些过去只有国家级机构或者大型专业团队才能完成的事情，未来可能被规模更小的团体甚至个人尝试。

今年9月 ，Anthropic公布的一份威胁情报报告就显示，公司发现并阻止了一些利用Claude从事恶意活动的行动，包括与危险生物研究等有关的案例。

这也是盖茨最担心的地方：真正危险的可能不是AI“想做什么”，而是人类可以让AI帮助自己做什么。

Anthropic的报告也提出警告，合法的生物学研究可能带来疫苗等重大科学突破，但同样的知识也可能被用于制造危险病原体，因此公司在无法判断目的时倾向于采取更加谨慎的措施。

盖茨认为，潜在风险意味着必须对先进人工智能系统实施严格监管，并呼吁美国率先建立相关安全保障机制。

他说：“正因为这两者之间的界限如此接近，我们确实需要对任何复杂的人工智能模型进行监控，并准确记录它到底被用来做了什么。”

他解释说：“这些安全措施以及对它们的监控，与我们是否应该放慢人工智能发展的速度，是两个不同的问题。”

据纽约时报报道，美国前总统奥巴马近日在一次私人聚会上在谈到人工智能问题时，表达了类似的观点。

奥巴马表示：“这项技术目前正在私人企业手中快速发展。如果我们不能及时控制局面，我认为它可能会变得危险。”

最糟情况：可能会“杀死所有人”

据每日邮报报道，就在盖茨发表上述警告之前，本月早些时候，人工智能公司Anthropic的一名研究人员雅各布·考克森(Jacob Coxon)突然辞职。

考克森在离职时指责Anthropic及其竞争对手OpenAI，没有采取足够措施应对人工智能可能带来的风险。

他警告说，在这一领域工作的研究人员认为，人工智能到本世纪20年代结束之前，甚至可能具备“杀死所有人”的潜在能力。

几天之后，Anthropic发布的一份报告称，公司今年已经阻止了多起可能利用人工智能开发生物武器的行动。

据纽约时报获得的Anthropic最新人工智能滥用报告，公司发现一些科学家正在利用其人工智能平台开展相关研究，而这些研究成果可能被用于开发生物武器。

不过，报告指出，Anthropic无法确定这些研究究竟是“出于合法目的还是恶意目的”。

该公司同时承认，正常的生物学研究可能带来疫苗等重要科学突破，但由于同样的研究也可能被用于制造危险病原体，因此公司在处理这些情况时采取了更加谨慎的做法。

逾七成专家看好AI发展前景

但在如何对待AI快速发展的问题上，另一种观点则认为：不能因为潜在风险就牺牲技术竞争和创新。

美国总统川普本月早些时候在接受记者提问时，曾否认人工智能的发展意味着人类最终会灭亡。

川普表示，这些都是“不会发生的事情”。

而很多支持继续推进AI的人认为，人工智能可能带来的医疗、科研、生产力和经济价值巨大。

斯坦福大学2026年AI指数报告显示，2025年全球调查中，59%的受访者认为AI产品和服务带来的好处多于坏处，高于2024年的55%。

与此同时，AI专家与普通公众之间存在明显分歧：美国AI专家中，73%预计AI未来20年会对人们工作产生积极影响，而普通公众的这一比例只有23%。

也就是说，很多技术专家并不认为AI的未来必然走向灾难。

他们更关注的是：如何在继续发展的同时，把风险控制在可以承受的范围内。

这实际上也形成了一个两难局面：大家都在担心AI失控，但谁也不愿意成为第一个主动踩刹车的人。

一边是“10亿人死亡”的末日警告，一边是“谁放慢谁就输”的技术竞赛。人工智能究竟应该加速，还是应该踩刹车？