防止AI成为怪兽

近来人工智能快速发展，已不只是科技革命，而是人类文明面临的一场重大考验。 AI可以提升效率、改善医疗、协助教育与产业升级; 但若缺乏伦理约束、社会治理与文明反思，也可能造成失业扩大、教育退化与假信息泛滥，甚至降低战争门槛。 因此，AI问题不能只交给工程师、企业家或政府官员处理，而必须提升到人类尊严、社会秩序与文明方向的层次来看。

5月15日教宗良十四世签署其首份AI通谕（Litterae Encyclicae）：《伟大的人性，在人工智能时代守护人的位格》（Magnifica Humanitas，On Safeguarding the Human Person in the Time of Artificial Intelligence)。 早在1891年5月15日，教宗良十三世发布《新事通谕》（Rerum Novarum），回应工业革命后社会秩序动荡等问题。 此次，教宗良十四世选在《新事通谕》135周年当天，签署《伟大的人性》，并于十天后正式公布，具有高度象征意义，等于指出今日AI革命对人类社会的冲击，正如当年工业革命一样，已成为新的“社会问题”，并要求建立全球性的伦理规范、监督机制与共同责任架构。

十九世纪的工业革命，是机器、工厂与资本重组人的劳动; 二十一世纪的AI革命，则是算法、数据与自动化系统重组人的思想与伦理责任。 教宗真正警告的不是科技本身，而是没有伦理的科技。 他所反对的，是把人化约为数据，甚至把战争化约为算法决策。 当人愈来愈像机器，而机器愈来愈像人之际，AI仍必须服务人，而不是支配人; 人的尊严必须被维护，而不是让人被机器、资本与国家权力共同工具化。

这种危险在最近美国攻打伊朗的行动中已开始显现。 AI未必直接“按下按钮”，但它已在情报搜集与武器配置等环节扮演角色，使战争从过去需要政治辩论与军事评估的重大决策，逐渐变成由大量数据与算法模型推动的高速流程。 美国大型AI数据分析与国防科技公司Palantir，也在这类作战体系中扮演重要角色。 其相关系统可整合卫星、无人机、雷达与通讯情报，形成实时共同作战图像，并支持目标辨识、威胁排序与作战协调。 这说明AI已深度介入“从发现目标到决定打击”的杀伤链，使人类指挥官可能被压缩在AI设定的信息框架与时间压力之中。

更值得注意的是，在教宗发布AI通谕时，旁边坐着一位极具象征性的人物：Christopher Olah。 他是Anthropic的共同创办人，也主导AI助理Claude的开发，更是全球最强调AI安全与伦理边界的主要倡议人之一。 当日前川普总统将美国所有大型AI公司纳入美国国防战略框架时，Anthropic公司独排众议并拒绝参加，因而受到严重排挤。 而Olah的出现，显示教宗的核心警讯在于：AI若被市场竞争、国家权力与军事战略无限制推动，最终可能成为人类难以控制的“怪兽”。

同样的，新加坡方面也所见略同。 由新加坡科技设计大学（SUTD）所发表的“AI伦理白皮书”强调，亚洲不能只是被动接受欧美既有AI治理模式，而应提出自己的文明观点与伦理资源，尤其可运用中华文化中的儒家思想，回应AI时代的人性危机，更具体建议成立“亚洲AI与伦理研究所”（Asian Institute of AI and Ethics， AIAIE），结合产官学界与社会力量， 推动应用研究、政策协调与跨国对话。 这代表AI伦理不能停留在零散讨论，而必须制度化、平台化与区域化。

在此脉络下，亚太综合研究院可以扮演台湾方面的重要角色。 AI虽然是科技革命，但它引发的主要后果却影响国家治理、两岸关系、认知战与文明价值重组等问题，亚太院也正与SUTD洽谈合作，正将AI与政治学、经济学及国际关系研究对接，再引入中华文化思想资源，以期形成具有东方特色与世界意义的AI伦理平台。

因此可知，教宗代表文明良知，Anthropic与Claude代表技术前沿的安全警觉，Palantir代表AI进入国家安全与战场决策的现实，而新加坡与亚太院正进行中华文化与AI融合的对接。 尤其台湾不能只把AI理解为半导体与产业升级，也应主动参与防止AI失控的国际伦理工程，为避免AI成为怪兽、降低战争门槛与维护人类主体性，做出具有亚洲特色与文明意义的贡献。 AI的发展当然重要，但更重要的是，人在AI时代还能不能保持人的特质与尊严。