川普把AI改名超级智慧 辛顿:证明他对AI一无所知

有“AI教父”之称的加拿大电脑科学家辛顿（Geoffrey Hinton）再度警告，人工智慧（AI）可能对人类构成生存威胁，并批评美国总统川普对AI“几乎一无所知”，也不认同让科技业者自行监管。

辛顿的研究奠定现代AI基础，但近年成为AI风险最积极的示警者之一。他曾估计，未来数十年AI导致人类灭绝的机率约为10%至20%。

对此，辉达（NVIDIA）执行长黄仁勋日前反驳，认为这个说法缺乏科学或研究依据。

辛顿回应，他并非预测AI一定会造成灾难，而是要表达风险相当高；若有人告知搭乘某辆巴士有10%的机率会发生事故，多数人不会上车。

他说，AI最特殊之处在于，一旦失控并接管局势，人类没有重新来过的机会。近来AI代理程式突破开发者限制等事件，也让他认为，过去被视为科幻情节的情况已陆续出现，不能因为无法准确预测未来，就对风险掉以轻心。

谈及政治与科技业，辛顿批评部分矽谷富豪的政治观点，并直指川普是“腐败、年迈的重大罪犯”。川普主张AI不需要政府防护措施，应由业者自行监管，近来甚至要求将AI改名为超级智慧（Super Intelligence），不然“就是敌人”。

辛顿表示，“超级智慧”这个技术用语已有至少20年历史，意指在各方面都超越人类整体智慧，川普的用法只是证明了他对AI“几乎一无所知”。

对于企业自行监管，辛顿则以石油、石棉与烟草业为例质疑，若让烟商自行设计警语，显然不足以保障公众利益。

辛顿把AI崛起比作哥白尼与达尔文带来的思想革命：人类先后被迫接受自己不是宇宙中心，也不是与其他生物截然不同；如今，人类还必须面对自己“并非唯一智慧存在”的可能性。他说，人类正在创造“异种生命”，而要适应这项现实，可能只剩几年时间。

至于如何降低AI失控的风险，辛顿认为，不只是让AI变得更聪明，也不能单是压抑模型的不良倾向，关键在于设法培养真正良善的AI。他主张，各国分享开发成果只有好处，因为“没有任何国家希望AI在别处失控”。