警惕！“AI换脸”诈骗出现涉政苗头~

别以为AI反诈离自己很远——最近北方某地警方通报的一起案子，着实让人后背发凉。

骗子利用“AI换脸”技术，通过微信视频和受害人聊了十多分钟，受害人愣是没看出破绽，直接转账数百万元。更值得警惕的是，骗子冒用的不是别人，而是受害人认识的一位领导干部。视频通话里，那张“脸”表情自然、声音逼真，受害人丝毫没起疑心，直到转账后打电话过去确认，才发现上当。

这可不是孤例。最近这段时间，从南到北，好几起利用人工智能“辅助”搞出来的反诈案被接连曝光。而冒充领导干部行骗，成了其中危害性最大的一类。

朱慧卿 图/《瞭望》

涉案的这笔“工程保证金”，不过是骗子精心设计的一个场景。但问题的关键不在于钱的数额，而在于：

为什么是领导干部？原因不难理解。工作性质决定了他们出镜率高、公开影像资料多。电视新闻里的同期声、会议视频中的面孔，都是极好的“训练素材”。国网信息通信产业集团的安全科研专家赵明明透露了一个让人揪心的细节：

也就是说，一段几十秒的新闻片段，就足以让骗子“复刻”你的声音。

眼见不一定为实

华北某地的一位地方干部最近就碰上了这么一档子糟心事。有人冒用他的名义，和他通讯录里的亲朋好友大范围添加微信好友。加完之后，还打了视频电话。虽然通话只有几秒钟，但朋友们都说“声音、画面都有点儿像”。等到朋友们打电话来核实，这位干部才知道发生了什么。他说：“估计下一步就要开始骗钱了。”那几天，他连着发了好几条朋友圈提醒大家提防。

有了足够的图像和音频素材，骗子的“武器库”确实越来越丰富。用AI换脸软件、声音合成工具，就能快速伪造出一个虚拟形象。

AI反诈四大趋势

中国信息通信研究院的相关负责人分析，当前AI“辅助”反诈呈现出四个越来越明显的趋势。

腾讯安全玄武实验室负责人于旸指出，随着技术进步，“深度伪造”“深度合成”已经成为可以低成本实现的技术。以前可能需要专用设备、大型服务器，现在一台性能不错的电脑加上开源软件就够了。

腾讯互联网安全专家杨建提到，现在的AI辅助反诈往往是复合型的。需要非法获取个人信息、构建熟人社交账号、实现“换脸换声”、破解手机摄像头权限……技术手段一个接一个，形成了一个完整的犯罪链条。

过去传统电信反诈，顶多自称“某派出所工作人员”“某网站客服”，身份模糊得很。但在AI反诈中，骗子可以精准扮演某位具体的人物——你认识的那位领导、你多年的老朋友、你在社交平台上关注的大V。这个转变，杀伤力是几何级增长的。

社交媒体平台的视频验证环节，以前是防范冒充的“防火墙”，现在反被骗子利用了——他们用换脸技术攻破了这最后一层验证，大大提高了反诈的可信度。专家判断，

这还没完。随着技术迅速迭代，公安、检察院等政法机关办案，会面临侦查破案难、电子证据调取难、认定处理难等一系列棘手问题。

多层面约束规范

不过，也不必过度恐慌。奇安信安全专家裴智勇分析，目前专业级别的AI深度伪造仍然需要较强的硬件在实验室环境下才能实现。也就是说，短期内大面积系统性风险爆发的概率不大。但“未雨绸缪”四个字，现在就得提上日程。

必须进一步加强公民个人信息的保护力度。尤其是生物特征这类隐私信息。杨建等专家建议，在技术保护和司法保护上都要加码。对领导干部而言，规范个人社交账号管理、提升账号安全意识，是能立刻上手的事情。

数字水印这类鉴伪技术需要更广泛地落地。赵明明解释说，数字水印可以把特定信息嵌入音频、图片或视频中，既能做版权保护，也能防止未经授权的复制和拷贝。建议推动这类技术为内容生产商和终端用户提供服务，从工具层面制约犯罪。

瑞莱智慧的高级产品经理张旭东则提出，涉及政务、安防、金融、消费等重要应用场景的人脸识别技术漏洞，需要尽快完善和升级。尤其要防范不法分子通过后台劫持手机摄像头权限。“涉众、涉密、涉及公共利益的平台和技术服务商，必须优先完成技术加固，对手机模拟器做好防范。同时推动更多手机厂商在系统升级时支持3D人脸识别。”

反电信网络反诈法、刑法等现有法律已经为打击各类网络反诈提供了基本框架。赵明明建议在此基础上进一步完善人工智能领域的相关法律，通过典型判例来建立侵权纠纷的法律框架、诉讼程序和赔偿标准。

新华三集团安全专家曹亮强调，对核心领域使用人脸识别技术的产品，监管部门应当建立分级别、多层次的标准——既有国家标准，也有行业标准。要督促相关应用开发企业履行好源头审查责任，把用户注册、算法机制审核、数据安全、个人信息保护、反诈制度、应急处置等机制一样一样建立起来、落实下去。

说到底，技术本身没有善恶，但用它的人有。技术越进步，我们越不能把信任交给一张“脸”或者一段“声音”。在AI时代，保护自己、识别真假，可能比以往任何时候都更需要常识和警惕。