“崩老头”，屹立在AI风口之上

一个好久没联系的亲友突然管你借钱，你怎么判断是不是本人?

通话?视频?以前也许行，但如今，最保险应对只有拒绝。

2500 美元的致富之路

来自 404media 的 Joseph Cox 花了几个星期，混进了一个销售电诈工具的 Telegram 群。卖家称，这款叫“昊天 AI”的软件可以在WhatsApp、Microsoft Teams、Zoom、TikTok、Instagram 和 YouTube 等视频软件里实时换脸。

来买脸的人可以选现成的，也可以花钱定制。

Cox 第一次和技术人员打视频，就被吓了一跳。电话接通，屏幕那边出现的是“华仔”。那张脸不只长得像，还能说话、眨眼、切换表情。“假华仔”用手捂住嘴、盖住眼睛、又摸了摸下巴，脸部一点儿没错位散架。

过了一会儿，对方又把自己换脸成了一个美女。

“付费!立马付费!”，然后 Cox 把自拍发给了对面，当天他的脸就做好了。Cox 拨通视频，屏幕对面的“Cox”挑起一边眉毛，笑着挥了挥手，接着又是捏脸、捂鼻子、摸下巴。“Cox”甚至还原了他本人的胡茬和眼袋。

Cox 这才意识到，任何人都可以在电话另一端顶着他的脸，招摇撞骗。他对着屏幕连喊两遍，“Oh My God!(你吓到我啦～)”。

甚至，识别准确率能达 89.1%的深度伪造检测模型 Xception，判定这套 AI 模型生成的视频时，将几乎所有样本都判为“真实视频”。

AI 刘德华邀请您激情开麦|昊天 AI

不过，这套模型仍然存在目前多模态上的一些问题，比如局部变化引发整体崩坏，模型缺乏对三维空间嵌套关系的显式理解，所以人物手指一张开，五官就可能跟着变形，眼球甚至会突然鼓起来。(所以下次你怀疑网恋对象是 AI 换脸的，就让他把手举到脸前，和你剪刀石头布。)

今年 4 月，这家公司推出了一项新服务，帮骗子客户绕过刷脸验证。把头型相似的人换脸后，就能通过眨眼、点头、转头的刷脸认证——这套下来，连银行都吃不消。

东南亚的电诈园区光听着就让人瑟瑟发抖。有些园区为了冒充公务机关，会专门搭出一间假办公室，墙上挂国旗，穿制服的骗子正襟危坐。现在，这些拙劣表演直接省去。这套换脸系统实现让骗子在 WhatsApp 里冒充警察。

这可以说是从电诈园区走出来的技术流代表。上述这家公司总部就设在柬埔寨，生意做得相当完整，有人远程操作安装，要求电脑性能足够，至少 RTX 4080 及以上的显卡，版本跟着 AI 模型更新。在柬埔寨部分地区，客户甚至可以预约上门安装。

软件(脸库调用)年费 1998 美元，专门定制人脸额外 498 美元，而且只支持加密货币 TRON 付款。

从 2023 年 10 月开始，这家公司的加密货币钱包已经入账超过 400 万美元，相当于有近 2000 人购买了服务。

安全人员拆包了软件，发现里面有大量的开源工具。有技术含量的事情就是将各种开源工具整合成一个平台，帮客户调试和安装。年费里最贵的那部分，其实是服务和信息差——搞诈骗的也风风火火地拥抱了 AI。

根据联合国毒品和犯罪问题的办公室统计，在东南亚的 Telegram 灰产市场里，专门向电诈团伙卖深度伪造软件的供应商已经超过了 10 家。

一类换脸软件要求屏幕背后必须有一个人，而且这个人的“大模样”不能和目标差太远。

更为先进的一类 AI 实时视频模型，连人都省了。给它一张照片，屏幕里就能出现一个完整的 AI 角色。视频接通后，这个人会看着你说话，表情、眼神、语气和手势跟着聊天变化。甚至还能实时生成场景。

假如你问，“提了什么新车，给我看看实力。”AI 骗子一边和你聊天，一边走到车旁，拉开车门。

今年，OpenAI 检测到一个位于柬埔寨波贝的诈骗网络，这个网络用 ChatGPT 生成过假护照、法律通知、股票购买确认单、博彩平台页面和加密货币交易界面。

视频里的金融骗子，西装革履，言之有据，豪车傍身，拿得出履历证明。

几经挣扎，你终会彻底上钩。

精挑细选的受害者

当你要求开视频验人，还庆幸自己很警惕的时候，杀猪盘通常已经进行到后半段了。

在此之前，骗子筛选并定位目标，花上几天几个月通过各种方式建立起信任。这工作量可比换个脸多太多了。

一名叫 Safeer 的印度男子被贩运到缅甸的一座电诈园区。园区给他安排的新身份，是一名28岁的新加坡女性，名叫 Ella。

任务十分艰巨。四天之内让接触对象爱上自己，而且对象不止一个。

一个月内，Safeer 接触了大约 5 万名目标，来自至少 17 个国家。里面有德国的油漆工、土耳其的糕点师、俄罗斯的工程师，还有库尔德地区一名丧偶的裁缝。

Safeer 并不懂 17 国语言，也记不住上百个目标的喜好，他每个班次要同时操作几十个账号，和一百多人聊天，完全是靠一套叫“控天智能拓客(简称 KT)”的软件。

KT 接入十几种主流社交平台，同时管理多个账号和聊天对象，聊过什么也会留下记录。

利用内置的 GPT、Gemini 等模型，将“新加坡 28 岁女性 Ella”的职业、语气、经历和性格等等人设在聊天中发挥到极致。

Safeer 需要做的就是在消息和 AI 生成的回复之间粘贴和发送。

另一名被困在缅甸 KK 园区的肯尼亚男子，靠着 ChatGPT 冒充德州的牧场主和阿拉巴马州的大豆种植户。这个人从没在美国种过一天地，照样能陪人聊牲畜、收成和农场生活。OpenAI 发现，诈骗网络还会专门输入指令，要求模型回复时，不要用破折号这种“一眼 AI”的写法。(真是不怕骗子说假话，就怕骗子有文化。)

针对如此繁琐的“获客”流程，也有贴心的“上游”公司开发了“电诈套装”，名叫 007TG(太地狱了)。

打开 007TG 的官网，第一眼可能会以为这是一家服务跨境电商的正常公司。网站上有 Slack、Trello、AWS，也收录了代理 IP、批量社交账号、虚拟手机号、短信接码、浏览器指纹检测、USDT 地址查询和虚拟支付卡。

用一名前诈骗人员的话来说，007TG 就是工业化诈骗的“一站式商店”，园区需要什么，就从里面挑什么。

比如园区开工前，要先准备一大批能用的号码和社交账号。

007TG 里有工具可以生成二百多个国家的电话号码。号码准备好以后，另一款工具可以把多个社交账号分开运行，每个账号使用不同的 IP，尽量避免一封封一大片。

账号多了，又容易被平台发现“集中 IP 登录”，所以还有一款工具可以给不同账号，安排不同的代理 IP，让它们看起来像是从不同地方登录。

接下来，007TG 还可以把这些账号放进后台，一键群发消息。只要有人回复，就算对接成功，再交给 Safeer 们往下聊。

就算账号被封了，还有工具能转移原来的聊天记录和客户资料，换个账号接着聊。

这家公司甚至开发了一款组织管理软件(叫 Cloud007)，连园区内部怎么管人，也一并 AI 化。

这款工具不盯受害者，专门看守 Safeer 们。统计工时、随机截屏、再用 AI 生成工作报告，看今天聊了多少人，发了多少消息，推进到哪一步了。

“员工”们除了线上被记考勤，时不时还要担心被拿着电棍巡视的主管电击一杵子。

还有一款工具叫 SCRM Champion，会记录员工和目标之间的对话，分析对方回复中的情绪变化，再生成绩效报告。同时盯着员工和受害者。

007TG 的“办公套装”|c4ad

听起来很可怕吧!

你能想到的每一个流程都被“AI 化”了，每一个工具都是为成熟的骗局流程精心设计的。而且，购买电诈工具就跟企业购买办公软件一样便捷。

以前，骗子不敢开视频，只好骗对面说摄像头坏了。

现在，摄像头终于被 AI“修好”了。