（上海3日讯）中国官媒披露，已有多起AI（人工智能）诈骗事件，利用“换脸”及拟声技术冒充政府人员行骗，应当高度警惕。
台湾中央社报导，新华社旗下的《瞭望》新闻周刊微信公众号周一发文，指北方省分警方近日发布一起利用“AI换脸”的“涉政诈骗”案件。不法分子模拟伪造的是受害人认识的一名领导干部。“换脸”后的骗子在微信视讯通话中提出，其朋友有一笔工程保证金需要借用受害人公司的对公帐户。仅10多分钟交流，受害人就转账数百万元人民币。
这名视讯画面中经过“换脸”的AI骗子面部表情自然，声音逼真，所以受害人放松警惕，等转账后打电话确认，才知道被骗。
报导指出，一些领导干部由于工作原因上电视的机率相对较高，这为不法人士提供了丰富的面部识别素材；在电视、广播新闻中也可以找到一些领导干部的许多声音资料，这令“伪造成本”更低。
国网信息通信产业集团安全科研专家赵明明说：“只需提取最少10个字、最多32个字，就可以合成其声音。”
《天津日报》周一的报导引述天津科技大学人工智能学院副院长张贤坤说，“AI换脸拟声”并非新技术，但随著人工智能技术的不断发展和完善，特别是电脑算力的提升，现在的“换脸”效果更加逼真，在电影、电视、广告和游戏领域得到了广泛的应用。
报导指出，中国在2020年和2021年分别颁布的《民法典》、《个人信息保护法》都对生物识别资讯作出规定。最高人民法院2021年发布的《关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定》，以及2022年12月多部门联合发布的《互联网信息服务深度合成管理规定》也进一步做出规范。
不过，天津师范大学法学院焦艳玲教授认为，有这么多法律规定，利用AI换脸拟声违法的情况仍屡屡发生，“反映出核心问题并不在立法层面，而在于法律的执行层面以及公民的意识层面”，必须加大对违法行为的预防和监管。
张贤坤则认为，虽然AI换脸拟声如今可以做到以假乱真，但“假的就是假的”，通过电脑还是能辨别出来，未来应该很快会出现多种识别“AI换脸”图片或影音的应用软体。
延伸阅读：
