社交媒体上一名年轻白人男子的“自白”爆红,他抱怨在加拿大找工作有多难,结果经调查发现,原来他是一名 AI (人工智能) 下诞生的人物,当然找不到工作! 大多数影片的主角是一名名叫“Josh”的 20 多岁白人男子,他对著镜头讲话,并发表有关移民及其在就业市场中的作用的种族主义言论。事实上,“Josh”是 AI 创造的,并不存在。 在一段影片中,他抱怨说找不到工作,因为印度人抢走了他们的工作,尤其是 Tim Hortons 的工作。他声称,他申请了该店的工作,竟被问及是否会说旁遮普语。 在另一个影片中,“Josh”抨击了加拿大的移民政策,质疑为什么在没有足够的工作机会的情况下,还有这么多人被允许进入加拿大。 加拿大广播公司新闻视觉调查团队 (CBC News Visual Investigations) 进行调查后发现了真相,TikTok 删除了一系列人工智慧生成的视频,其中包括这名白人男子的一些影片。 TikTok 表示,这些影片违反了其社群准则,因为没有明确表明它们是用人工智慧制作的。 Tim Hortons 在声明中表示,这类影片的出现让公司极为沮丧和担忧,并称他们很难将这些影片删除。 这是被称为“假影响”趋势的一部分。 公司会利用 AI 创造虚假角色,使其看起来像是真人在为产品或服务代言。本案中的公司是 Nexa,一家开发可供其他公司用于招募新员工的软体人工智能公司。在一些视频场景中出现了 Nexa 标志。该公司创始人兼执行长纳伊尔 (Divy Nayyar) 称这是广告的“潜意识植入”。 ![]() ![]() (影片中的男子抱怨说,他找不到工作,因为印度移民已经抢走了他们的工作。有微妙的迹象表明他不是真实存在的。他的手拿著一个咖啡杯,但颜色与另一只手不同,看起来不太可信。角落里还有一个 Google Veo AI 软体的小标志。 ) 在接受加拿大广播公司新闻采访时,纳伊尔表示,他想对一些人持有的“印度人正在接管就业市场”的想法“开个玩笑”。他说,他创造“Josh”这个角色是为了与那些有相同观点的人建立联系:刚毕业正在寻找工作的年轻人。 行销专家表示,这是欺骗性的和不道德的。 约克大学市场营销学教授吉斯勒 (Markus Giesler) 表示:“这种内容和高度两极化的叙事方式正是我们对极右翼团体所期待的。对于一家公司来说,使用这种宣传语调来吸引消费者使用其服务是非常有问题的,也是非常不道德的,这是我从未见过的。” 纳伊尔表示,他的公司使用 Google 的 Veo AI 软体和一些其他工具制作了这些产品。最新版本的 Veo3 于 5 月发布,它可以根据文字提示制作比以前版本更具说服力的影片。 诸如手指多馀的人或身体上的不可能性之类的明显线索在 Veo3 中出现的频率较低。音讯通常与真实人类的声音难以区分,并且与场景中人物的嘴唇动作相匹配,这是以前的 AI 视讯生成器难以做到的。 ![]() 但一些 TikTok 用户并没有被愚弄。 有人在评论中称这些影片是人工智慧生成的,也有人对种族主义信息做出了回应,表示他们相信自己看到的是一个真人。在某些情况下,假角色“Josh”会在评论中回应他们为自己辩护,进一步暗示他是真实的。 麦克马斯特大学行销学副教授莱德 (Marvin Ryder) 表示,他最初被骗了。“我确信这是一个真实存在的人物,他想透过短短 8 秒钟的影片讲述一个真实的故事。” 莱德表示,未来几年我们可能会达到一个无法侦测到造假的程度。 “作为社交媒体的消费者,即使只是为了娱乐,我们该如何辨别现实与虚构?” TikTok 并没有对这些影片的煽动性和争议性信息发表评论。该公司表示,这些影片之所以被删除,是因为其指导方针规定,展示逼真场景或人物的人工智慧生成的影片必须用标签、标题、浮水印或贴纸清晰标记。 在审查了 Nexa 的“Josh”影片后,TikTok 表示影片不够清晰。 影片右下角有 Google Veo 浮水印,但 TikTok 表示应该更清晰,或在贴文中附加一个 AI 标签。完成后,会出现一则信息,内容为“创作者被标记为 AI 生成”。 纳伊尔表示,他试图制作出看起来尽可能逼真的东西,但同时他声称人们会运用“常识”得出结论,认为它们是用人工智慧制作的。他说,TikTok 通常会自动将这类影片标记为人工智慧生成。但 TikTok 标签并不是自动的。 目前尚不清楚 TikTok 执行其政策的严格程度。尽管平台上的一些人工智慧生成的影片带有标签,有些影片带有#ai 标签,但许多影片并没有明确的提示。 吉斯勒表示,问题将会变得更加严重,因为人工智慧使得制作看似真人的影片变得比以往任何时候都更容易,这些影片带有仇恨言论,可以在社交媒体上吸引观众。“我认为这是对情感品牌策略的不负责任的利用,我们不应该纵容这种行为。” 图:CBC/ Unemployedflex/TikTok) |
联系电话:647-830-8888|多伦多六六网 www.66.ca
GMT-4, 2025-7-10 09:39 AM , Processed in 0.043756 second(s), 23 queries .
Powered by Discuz! X3.4
Copyright © 2001-2020, Tencent Cloud.