日前,全国多地警方发布了多个“AI诈骗”的典型案例,案件披露后,“AI诈骗正在全国爆发”话题一度冲上热搜第一,引发网友热议。

如果你以为这样的诈骗成本高昂,那你就错了。换脸诈骗仅需正面半身照即可换脸,成本低至数十元。但是它的欺骗性却奇高,足以以假乱真。

两起案件掀开新骗术

继包头警方发布“福州市某科技公司法人代表郭先生10分钟内被人用AI换脸诈骗430万元”后,5月25日,安徽警方也通过当地媒体披露了一起类似案件,诈骗分子使用了一段9秒钟的智能AI换脸视频,佯装“熟人”,导致安庆经开区的何先生被诈骗245万。

在郭先生的案例中,“好友”通过微信视频联系他,表示自己的朋友在外地竞标,需要430万保证金,且需要公对公账户过账,想要借郭先生公司的账户走账。郭先生转账后拨打好友手机,才知道被骗。

而在何先生的案例中,其微信“好友”突然向其发起视频通话,手机接通后,何先生看到“好友”正在一间会议室内,并借故会议有事,通过QQ要求周转资金,导致何先生被骗。

有专家表示,此类AI换脸的诈骗手段都是定向针对性诈骗,而非传统意义上“广撒网,打打手机”的电信诈骗,往往干的也都是“大单”。源头上需要防止账号被盗用,不要轻易加陌生人,也要防止其他人用小号加你,过一段时间改成你亲友,然后再实施诈骗。

诈骗背后野蛮生长的行业

“众女星换脸女儿国国王谁更适配?杨超越、迪丽热巴……”在B站上,这样的明星换脸视频播放量往往突破10万次。除明星换脸外,电商平台上有商家抓住了人们对过世亲人的思念,推出“AI想念的人”等视频合成服务,一条合成视频收费50元,月销量超40件。

在这样的交易中,需要搜集大量的面部识别信息,而这恰恰是用户最核心的个人信息。个人信息一旦被比对之后,如果落到不法分子的手里,极易威胁到财产安全和人身安全。

其实,AI换脸技术并非直到近期才成熟。早在2019年起该技术就风靡全球。2019年换脸技术DeepFake一出现便引发了巨大伦理和法律争议,但彼时的技术已经证明,“一键换脸”起码从技术上来看,并不存在什么门槛可言。

不过,技术的细节迭代还是发生了。比如相比此前肉眼能够比较轻松识别、在生成式AI技术浪潮爆发的当下,AI换脸正在越来越变得毫无痕迹。

业内专家认为,随着AI技术发展越来越快,研究越来越深,AI换脸、换声音,破绽会越来越小。AI诈骗亟待更高层面监管,比如监管部门应该建立专门的人工智能安全机构,监督AI技术在不同领域内的应用。技术企业也应该加强数据合规建设,在人工智能设计中嵌入个人信息保护机制,并采用技术措施和管理制度,确保个人信息安全。现在已经到了大规模、集中化讨论AI风险的关键时刻。

图灵三巨头之一、蒙特利尔大学的教授Yoshua Bengio此前曾公开表示对AI技术的担忧。他在解释自己为什么签名赞成暂停超强AI研发时说,自从ChatGPT发布以来,大家发现不那么谨慎守规矩的玩家会有竞争优势,如果是这样的话,通过降低谨慎和道德监督的水平,就更容易出头。

防骗有技巧

识别对方是否AI换脸,也有一些小技巧可以应用。AI换脸目前在连续动作的实时渲染方面还是会存在技术缺陷,比如在说话的时候嘴部动作、眼部动作,如果仔细看都会存在一定的“不和谐”情况,如丢帧、嘴巴时大时小等问题。

此外,“AI假脸”的纹理特征也存在破绽。例如,伪造后的视频人物的眼睛或牙齿轮廓细节容易不一致;两只眼睛瞳孔的颜色不一样或瞳孔中心反射的细节不一样;很多伪造视频由于视频分辨率低于原始视频,伪造出来的视频牙齿边缘过于整齐等。

不过,没有经过训练的普通人想要用肉眼识别视频是否为AI合成,难度极高。骗子甚至不会给你详细判断的机会,几秒就挂断。公众与其花费大量精力分辨骗子发来视频的真假,不如在有怀疑时直接换一种渠道验证对方身份,业内称为“双因子身份验证”。比如好友视频聊天后要求转账,你就拨打对方手机号码再次确认;对方使用微信谈论交易,你就不妨用QQ再找他问问。多渠道验证要比肉眼分辨视频容易得多,也可靠得多。