据媒体报道，今年四月，安徽安庆的何先生接到熟人视频电话，让他帮忙转一笔账。但9秒之后，对方以“在开会”为由，迅速挂断了电话，还称“微信和电话不能说，你加一下我QQ”。

(资料图片)

随后，“好友”在QQ上告诉何先生，目前有一个项目招标需要周转资金，希望何先生先行帮忙垫付。“因为打了视频电话，又是熟人，我就没多想，就转账了”。基于对“熟人”的信任，何先生放松了警惕，立刻让家人将245万元到对方指定的账号上，直到事后拨打对方电话才得知被骗。

发现被骗之后，何先生迅速报警，专案民警第一时间冻结相关账户，连夜赶赴北京市抓获3名涉诈嫌疑人。5月22日，警方将先行追回的132万元被骗款及时返还给何先生，目前案件正在进一步侦办中。

随着互联网技术的发展，各类诈骗模式层出不穷，AI诈骗更是让人防不胜防。常德网警巡查执法指出，AI诈骗成功率竟接近100%！

AI技术诈骗包括声音合成和AI换脸。其中，在声音合成AI诈骗中，骗子通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而用伪造的声音欺骗对方。而在AI换脸诈骗中，骗子先用AI技术进行换脸，伪装成某人，再通过视频的方式进行信息确认。在这种诈骗方式中，由于人脸效果更易取得对方信任，诈骗成功率更高。

此前，央视曾报道一起金额高达430万元的AI换脸诈骗，过程与此案基本相似，诈骗分子都运用到了AI换脸以及拟声技术：4月20日，福建某科技公司法人代表郭先生突然接到“好友”微信视频，对方称自己的朋友在外地竞标，需要430万元保证金，郭先生见视频中的面孔和声音确实是“好友”，于是放松了警惕，仅在10分钟之内就向对方转账430万元。在福建、包头两地警方、银行的帮助下，其中300多万元被拦截，目前仍有90多万还在追查中。

目前AI换脸技术不仅被运用于电信诈骗，还出现在明星直播带货中。此前有网友反映，有主播盗用明星的脸进行商业带货。网上还出现了一些“换脸直播”的教程，教程发布者声称实时变脸软件可以帮助用户轻松“变脸”，助力引流卖货。

发布者展示换脸为“成龙”的实时效果和软件界面（图源：央视新闻）

此外，还有报道显示，有人用“AI换脸技术”合成淫秽视频，收费供他人观看，甚至根据顾客的需要使用不同的女明星形象进行“私人定制”，还通过出售“换脸软件”非法获利。4月9日，据杭州市人民检察院消息，一80后男子虞某因涉嫌制作、传播淫秽物品牟利罪被提起公诉。

那么，如果AI换脸不用来牟利，只是娱乐搞笑，就可以吗？当然不是！

萧山检察官提醒，"AI换脸技术"即便只是用来搞笑或者制作恶搞照片，也有可能涉及侵犯肖像权、名誉权，造成严重后果的，还可能构成侮辱罪或者诽谤罪。北京岳城律师事务所高级合作人岳屾山表示，如果把明星肖像用于直播带货，属于是商业行为，在赔偿数额上一定会给予考虑，如果主观恶性、过错程度比较大，且因此获利，赔偿数额可能会更高。

面对花样翻新的AI诈骗，形形色色的“明星脸”，央视新闻指出，我们必须保持清醒，增强防范意识。

一是要保护信息，提高警惕。不要轻易透露自己的身份证、银行卡、验证码等信息，不要轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等。

二是要多重验证，确认身份。如果有人自称“熟人”“领导”等通过社交软件、短信以各种理由诱导汇款，或涉及网络转账交易行为时，务必通过电话、见面等多途径核验对方身份，不要未经核实随意转账汇款。

如不慎被骗或遇可疑情形，请注意保护证据，并立即拨打96110报警。

另外，AI换脸可以说是只能粗看但不能细究，乍一看或许可以达到“以假乱真”的地步，但只要仔细辨别，仍能发现“蛛丝马迹”。

据光明日报报道，专家提示，“AI假脸”的纹理特征存在破绽。例如，伪造后的视频人物的眼睛或牙齿轮廓细节容易不一致；两只眼睛瞳孔的颜色不一样或瞳孔中心反射的细节不一样；或是很多伪造视频由于视频分辨率低于原始视频分辨率，伪造出来视频的牙齿边缘过于整齐等。

另外，“AI假脸”有可能不符合正常人的生理特征，比如，一个健康成年人一般间隔2-10秒眨一次眼，每次眨眼用时秒，而在伪造视频中，人的眨眼频率可能不符合上述规律。

最后，由于人嘴部的运动是最为频繁且快速的，因此AI软件无法真实准确地渲染连续动作。因此，“AI假脸”的嘴部特征有可能辨别出真假。此外，伪造后的视频会造成一定的视频抖动，导致视频出现帧间不一致情况。

AI技术的滥用，也促使大家思考一个深层次问题。新技术不断面世，带给了人们便利，但可能被居心叵测之徒非法利用。人们固然不能因噎废食，但也不能忽略它的双刃剑效应。如果缺乏应有规束，AI技术则可能打开潘多拉魔盒。因势利导，使其趋利避害，这是我们要全力做到的。

本期CEO留言板推荐↓

这样创业注定失败！

科创四川记者 汪静综合整理