全美首例 佛州起诉OpenAI及执行长

据华尔街日报报道，在针对人工智慧聊天机器人安全争议日益升温之际，佛罗里达州再度采取强硬行动，成为全美首个对OpenAI及其执行长奥特曼（Sam Altman）提起诉讼的州政府。

这项诉讼由佛州检察总长乌特迈尔（James Uthmeier）于周一提出，指控OpenAI与奥特曼明知产品存在安全风险，仍执意推向市场，并忽视相关警讯，放任产品可能对使用者造成伤害。

长达83页的诉状指称，OpenAI让ChatGPT成为大规模枪击案凶手的“帮凶”，不仅可能鼓励使用者自杀、削弱批判性思考能力，还使未成年人沉迷于一个模拟人类同理心的人工智慧工具。

诉状指出，“这一连串伤害源于被告为了在AI军备竞赛中取得领先地位、累积庞大财富所展现的无止境野心，即使他们早已知悉ChatGPT所带来的风险。”

截至目前，OpenAI尚未就本案发表评论。该公司过去曾否认有任何不当行为，并表示将持续强化产品安全机制与防护措施。

随著人工智慧成为史上成长速度最快的消费科技之一，立法机关、司法部门及公共利益团体也愈发关注AI可能衍生的个人与社会风险。

诉状表示，此案旨在保护佛州居民免受OpenAI行为影响，并遏止其所称构成“公共危害”（public nuisance）的风险。

此外，诉讼也试图追究奥特曼的个人责任，要求其为据称对佛州居民造成的损害负责。

事实上，乌特迈尔早在今年4月便已对OpenAI展开刑事调查，厘清其聊天机器人在去年造成两人死亡的佛州州立大学（Florida State University）校园枪击案中所扮演的角色。

值得注意的是，拥有华尔街日报（The Wall Street Journal）的News Corp，目前与OpenAI维持内容授权合作关系。

诉状开篇即引用OpenAI官方部落格文章截图，该文章宣称ChatGPT在设计之初便将安全性列为首要考量。

然而，在该截图下方，原告直接写下，“事实并非如此。”

诉状进一步指控，即便ChatGPT有时会产生具危害性的错误资讯，OpenAI仍持续将其塑造成值得信赖的工具。

诉状写道，“被告设计ChatGPT的目的，在于透过各种方式让使用者持续沉浸于对话之中，而不论内容是否真实。因为这将带来更多使用量、更多可供模型训练的资料，以及更高的OpenAI市场价值。”

此外，原告还指控OpenAI利用人类的同理心搜集使用者资料，且未建立足够完善的未成年人保护机制。

诉状将ChatGPT对青少年与儿童使用者的安全防护不足形容为“鲁莽行为”，并引用多起案例，声称部分青少年曾在与AI互动过程中，被鼓励结束自己的生命。

根据诉状内容，尽管OpenAI已推出部分家长监护功能，但并未要求未成年使用者的帐号必须与家长帐号绑定。

透过扩大要求AI业者建立安全防护机制的法律行动，共和党籍的乌特迈尔也在此议题上与部分党内全国领导人的立场出现分歧。美国总统川普于5月延后签署一项原本将赋予联邦政府更大AI产业监管权限的行政命令。

根据诉状描述，在FSU枪击案中，嫌疑人将ChatGPT视为知己与讨论对象，并透过与其互动规划攻击行动。他曾询问需杀害多少同学才能获得全国媒体关注，也曾询问枪枝使用方式，而聊天机器人则对相关问题提供建议。

除了佛州之外，加州检察总长邦塔（Rob Bonta）近年也积极推动AI领域的消费者保护措施。今年1月，他针对利用Grok聊天机器人大量生成女性及儿童色情影像的情况展开调查。Grok为马斯克旗下公司所开发的人工智慧聊天机器人。