“眼见”就一定“为实”吗？

当你津津有味地刷直播带货，原以为是当红女明星为你讲解产品，不曾想，所谓的当红“女明星”其实只是使用了AI实时换脸技术的普通主播。那么真却又那么假......

随着AI合成技术的开放开源，AI应用越来越广泛。使用AI技术合成的面部表情自然，完美接近本人，令人无法辨析，能够轻而易举去冒充他人身份，不少人利用“AI换脸”“AI换声”等虚假音视频实施诈骗。

而近期，“AI诈骗正在全国爆发”话题一度冲上热搜第一，引发众多网友热议。AI技术发展势如破竹，诈骗成功率接近100%，如此以假乱真，防不胜防，我们将如何破解？

AI诈骗的千层套路

AI换脸成熟人 9秒被骗走245万元

2023年4月27日，诈骗分子仅仅使用一段9秒钟的智能AI换脸视频佯装“熟人”实施诈骗。何先生认为“因为打了视频电话又是熟人”，“我就没多想，就转账了”，基于对“熟人”的绝对信任，他没有丝毫犹豫，立刻让家人将245万元到对方指定的账号上，直到事后拨打对方电话才得知被骗。

AI换脸成好友 10分钟内被骗430万元

2023年4月20日中午，郭先生的“好友”突然通过微信视频联系他，所谓的“好友”讲述其在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。直至郭先生拨打好友电话，才知道被骗。

AI换脸成领导 高管被诈骗150万元

2020年，上海某公司高管因对方使用AI换脸与人工生成的语音技术制作公司领导的面孔，并要该高管转账，致使该高管被诈骗150万元。

AI诈骗原理解析

要想“破局”，我们先来了解AI换脸技术的原理。

通过深度学习算法，AI人工智能技术可以从大量数据中提取特征，生成逼真的图像和语音。而AI换脸技术则可以将一个人脸图像中的面部特征替换成另一个人脸图像中的面部特征，同时保持原图像中其他部分不变。比如，一个人脸中的眼睛、鼻子、嘴巴可替换成另一个人脸图像中对应部位的眼睛、鼻子、嘴巴，而发型可以保持不变。

因为多数假脸使用睁眼图片合成，极少数会眨眼，因此，为了判断一个视频是否经过AI换脸处理，我们可以观察其中的人物是否缺乏眨眼的动作。有的合成技术不精细，我们可仔细留意其唇部、耳朵等地方是否出现不正常阴影，或者让对方做一些大幅度的摇头、张嘴之类的动作，细心查看画面是否有异常。

破套路，当以“法”打败“魔法”

应对波涛汹涌的AI骗局，除了上述提及的辨析方法，我们还可““以法治法”，这个法是指，有法律，还有办法。

2023年1月10日起施行的《互联网信息服务深度合成管理规定》，对人脸生成、替换、操控，合成人声、仿声等都有明确约束。今年4月，国家互联网信息办公室就《生成式人工智能服务管理办法（征求意见稿）》向社会公开征求意见，对人工智能服务产品和使用提出了多项明确规定，包括不利用生成内容损害他人形象、名誉以及其他合法权益，尊重知识产权等。未来相关部门将出台规范AI人工智能应用的措施和法律法规，更好地保护大众的合法权益。

此外，我们每个人都需做好个人信息安全第一责任人，避免将人脸、指纹等个人生物信息提供他人，也不要过度公开或分享动图、视频；倘若有自称“家人”、“朋友”、“领导”、“同事”等熟人通过社交软件进行视频通话，以各种名义要求转账，请务必通过电话、见面等多途径来确认对方是否为身边人，切忌未经验证转账；若遭遇诈骗信息，请至12321.cn反诈专栏举报，如发生资金损失请及时报警，追回损失。

上一篇：守国家安全 展亚运风采——市保密宣传教育下基层活动

下一篇：深入贯彻落实《商用密码管理条例》 奋力开创新时代商用密码工作新局面

推荐文章：

1、曝光！咨询巨头竟是境外情报机构帮凶！军事机密遭泄露！

2、【实用篇】看过来，保密防范四大知识点！

3、新形势下，2023年要从哪些方面开展保密工作？