AI恶搞玩过火 加拿大10名高中生集体遭停课

加拿大魁北克省莱维市(Lévis)一所高中近日发生一起涉及人工智能(AI)的校园事件。10名学生因利用AI技术篡改教师及学校员工的照片，并将图片发布到社交媒体上，遭到学校停课处分。

据报道，涉事学校为Horizon高中。当地教育服务中心(CSSDN)发表声明称，这10名学生的行为违反了学校的行为守则。

根据规定，学生不得发布任何具有冒犯性、诽谤性、仇恨或暴力性质的内容及图片，也不得在未经当事人同意的情况下录制或传播他人的影像。

AI恶搞照片竟出现枪指老师头部的画面

魁北克省学校管理人员协会主席André Bernier接受采访时表示，事件中大多数经AI修改的图片属于荒唐、无厘头的恶搞内容。

不过，其中一张发布在Snapchat上的虚假图片据称显示，一把枪正指着一名教师的头部，性质明显更加严重。

Bernier表示：“未经许可使用他人的照片是绝对不能接受的。你永远不知道事情最终会发展到什么地步，因此学校决定迅速介入处理。”

据CSSDN介绍，最先发现并举报这些AI篡改照片的并非教师，而是其他学生。这些学生看到相关图片后感到不安，于是主动向学校工作人员反映。

随后，学校管理人员及驻校警员约见了涉事学生，要求他们删除相关图片。学生同意了这一要求。

最终，10名涉事学生均被停课3天，但没有受到刑事起诉。

AI带来校园新风险，教师声誉可能受到严重影响

魁北克省教师工会联合会(FSE-CSQ)主席Richard Bergevin表示，学校必须严肃对待此类事件。

他指出，一旦经过篡改的照片或视频被上传到网络，就可能迅速传播，甚至对教师的个人声誉造成不公平的损害。

Bergevin回忆，在魁北克省实施校园手机禁令之前，曾发生过学生在课堂上偷拍教师的事件。

一些学生会将拍摄的视频剪辑成短片，刻意让教师显得不称职或行为不当，再在缺乏上下文的情况下将视频传播出去。

随着手机禁令实施，这类事件近年来明显减少，教师也不再像过去那样担忧被偷拍。

然而，AI技术的出现，又带来了新的风险。

“如今，人工智能为学生提供了功能强大的工具，这类事件未来可能越来越频繁。”Bergevin表示。

他指出，学生可以轻易利用AI修改已经发布在网上的教师或学校员工照片、视频，制造虚假内容。

因此，他认为学校及教育机构不仅应对违规学生实施纪律处分，必要时还应向警方报案。

专家提醒：教师发布照片也要更加谨慎

Bernier同样警告，学校员工即使只是将普通的校园活动照片上传网络，也需要考虑这些图片可能被他人利用AI篡改的风险。

他建议，学校可以为员工提供相关培训，帮助他们了解如何设置社交媒体的隐私权限，限制陌生人访问和使用个人照片。

“我们必须时刻注意隐私设置。因为一旦疏忽，原本不打算公开的照片就可能变成所有人都能访问的公开内容。”他说。

AI工具太容易获得，专家呼吁限制未成年人使用

舍布鲁克大学(University of Sherbrooke)讲师、博士研究生Carolanne Campeau，同时也是关注过度网络连接问题的组织PAUSE的顾问。

她指出，目前网络上的AI工具普遍缺乏充分监管，儿童和青少年可以轻易使用。

“这些工具对孩子来说实在太容易获得了。政府必须加强对相关平台的监管。”Campeau表示。

她坦言，令她难以理解的是，科技企业至今仍未能提供足够安全、适合青少年使用的AI工具。

她认为，科技发展的速度往往远远超过政府立法及教育系统制定规则的速度。

“目前大家讨论的重点仍然是社交媒体，而不一定是人工智能。”她说。

Campeau建议，政府可以考虑对一定年龄以下的儿童实施暂时性的AI使用禁令。

“我们需要推迟这些AI工具进入孩子生活的时间。”她表示。

在她看来，年龄较小的儿童不应接触AI工具，而青少年则可以在学校建立完善的数字素养教育体系后，逐步学习使用。

她强调，教育不仅要让学生掌握新技术，更要帮助他们理解使用这些技术可能带来的风险。

“我们需要培养他们的批判性思维，让他们明白哪些事情在技术上可以做到，哪些行为在道德上不可接受，以及哪些行为可能导致法律后果。”

魁北克教育部长表态：校园AI恶意篡改行为零容忍

魁北克省新任教育部长Joël Arseneau也对此事作出回应，明确支持学校对涉事学生实施停课处分。

他在声明中表示：“我们必须迅速而果断地采取行动，向整个教育系统传递明确的信息：对于Horizon高中发生的这类影像篡改行为，我们采取零容忍态度。”

Arseneau同时指出，规范学校中的AI使用已经成为政府的优先事项。

他表示有信心，政府能够尽快找到有效措施，防止类似事件再次发生。

随着AI图像生成和修改技术日益普及，这起事件也引发了新的教育问题：当学生只需简单操作，就能制作出足以损害他人声誉、甚至带有暴力威胁意味的虚假图片时，学校、家长和政府应如何划定AI使用的界限?

对于越来越多接触AI工具的加拿大青少年而言，学会使用技术固然重要，但理解隐私、尊重他人，以及认识技术滥用可能带来的纪律和法律后果，同样不可忽视。