年末将至,如何防范AI换脸、变声诈骗?警方教你识破高科技骗局
随着人脸识别技术的广泛应用和人工智能技术的进步,近年一些不法分子开始利用AI技术融合他人面孔和声音、制造逼真的合成图像来实施新型网络诈骗,类似骗局手段多样、门槛低、辨别难度大,经常让人防不胜防,短时间内造成较大损失。从形象到声音,如何警惕AI“深度造假”?

今年11月,市民王女士接到了一个微信好友添加的请求,见对方的头像和女儿的一样,便半信半疑地添加了。通过微信的语音通话,“女儿”向母亲求助,“妈妈,我们的大学教授家里出了变故,家人需要做手术。你可以先把钱转给他吗?比较着急!”
通话中听到了“女儿”的声音,王女士没有细加思考和核实便全盘相信了,立马便添加“女儿”发来的“教授”微信号,准备转账。然而,由于数额较大,微信转账失败了。为解“教授”的燃眉之急,王女士决定到银行柜台办理转账业务。幸好辖区民警及时赶到银行,把正在银行办理转账业务的王女士拦了下来,保住了40万元的存款。


据辖区派出所民警介绍,骗子通过骚扰电话等手段录取了王女士女儿的声音,再通过非法软件合成处理,从而可以通过伪造声音,在语音通话中获取事主的信任。骗子利用母女两人分隔两地、短时间内彼此互不了解对方的情形,编造事件“求助”,再通过科技手段伪造变声获取信任,进而实施诈骗。
记者通过梳理多起倒卖、非法利用用户人脸照片的侵公案件发现,AI换脸换声的基本逻辑是通过深度学习特定算法,将目标人物的人脸、表情、声音等嫁接进模仿的视频中,一般人很难发现伪装痕迹。

目前,AI诈骗主要有两种形式:第一种是通过技术手段合成换脸、换声的视频或语音,在视频聊天、普通电话中直接播放。这种诈骗主要出现于比较紧急的情况,如遭遇事故求助等,播放结束后就会中断连接,无法与被害人形成回合性对话;另一种是在视频通话中直接换脸并替换声音,或直接换声拨打电话。
公安部门提示,以上两种诈骗方式都受限于样本数量,市民可以通过延长通话时间、多次进行提问的方式让对方多说话,露出破绽。
虽然近年来,国家出台了《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等一系列规定防范AI诈骗。但是,要想从源头上预防此类诈骗案件的发生,关键仍然在市民对个人信息的自我保护。

公安部门强调,市民不要随意接听陌生电话,防止诈骗人员以电销推广等借口采集发音、语句;避免在社交账户上暴露过多个人照片、声音、视频等信息;对外提供人脸照片时需谨慎对待;不要随意点击陌生链接,链接中的木马程序会窃取用户手机内的照片、监听回传通话内容;开启定位服务、输入身份证号、录入人脸识别信息、指纹识别信息等个人生物信息时,一定要慎之又慎。
简单来说,就是要做到保护信息,杜绝泄露;多重核验,确认身份;谨慎转账,提高警惕。
文/图 佛山市新闻传媒中心记者 曹梓俊

