注意了！AI换脸以假乱真 媒体人怎么擦亮双眼 不被AI所骗？

近期，“AI换脸”成为大家关注的焦点。直播带货、电信诈骗……似乎成了“AI换脸”这一技术最先为大家熟悉的应用场景。

【资料图】

对媒体人而言，“眼见为实”似乎不再可靠，应该如何辨别真伪？面对“AI换脸”应用的泛滥，媒体人又可以做些什么？一起来看看！

1

“AI换脸”进入门槛低，

教程众多、获取便利 “AI换脸”小程序获取便利，小鲸输入“AI换脸”后，微信小程序中有30多款应用可供挑选，此外，网上出现了一些“换脸”教程，教程发布者生称实时变脸软件可以帮助用户轻松“变脸”。

“AI换脸”相关小程序与教程

大众在获取这一技术时门槛较低，这也导致了，近期“AI换脸”诈骗的不断出现。

据“平安包头”微信公众号消息，近日，包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，福州市某科技公司法人代表郭先生10分钟内被骗430万元。

今年4月，郭先生的好友突然通过微信视频联系他，称自己的朋友在外地竞标，需要430万元保证金，想借用郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天“核实”了身份，郭先生在10分钟内，先后分两笔把430万元转到了对方的银行账户上。

事后，郭先生拨打好友电话才得知被骗，原来 骗子通过AI换脸和拟声技术，佯装好友对其实施诈骗 。“当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备。”郭先生事后说。

5月22日，又一起AI换脸诈骗发生。这次金额达到132万，且 整个诈骗过程时间更短，只有9秒钟 。5月22日，安徽安庆的何先生接到熟人视频电话，让他帮忙转一笔账。但9秒之后，对方以“在开会”为由，迅速挂断了电话，还称“微信和电话不能说，加一下QQ”。

“因为打了视频电话，又是熟人，我就没多想，就转账了”。事发时，何先生放松了警惕。发现被骗之后，何先生迅速报警，专案民警第一时间冻结相关账户，连夜赶赴北京市抓获3名涉诈嫌疑人，追回何先生被骗的132万元。

来自国家反诈中心的短信提示

此外， 还有不少主播通过“AI换脸”冒充明星，通过直播带货赚钱。 北京岳成律师事务所高级合伙人岳屾山在接受央视新闻采访时表示，换脸直播用于公开传播可能涉嫌侵犯相关明星艺人的肖像权。如果涉及直播带货等商业行为，会成为加重情节。

2

如何避免被误导？

信源互证已成媒体人必备技能 当前AI换脸和AI拟声技术，涉及到“深度伪造”，是AI技术的衍生应用。将图片或视频合并叠加到源图片或视频上，借助神经网络技术进行大样本学习，将个人的声音、面部表情及身体动作拼接合成虚假内容。

通过合成技术也可以制造出假新闻。 在国外，利用深度合成技术制作的政治、经济、演艺界公众人物的假视频已屡见不鲜。如奥巴马在视频中大骂特朗普，扎克伯格吹嘘自己“窃取了数十亿人的数据”，《权力的游戏》主演“为剧集结局道歉”的视频，都是AI换脸的产物。

这又一次提醒新闻工作者，信源互证十分重要。面对单一信源必须慎之又慎。即使这个单一信源来自某个权威机构。

《新闻爱好者》刊发的文章《媒体融合时代提升媒体公信力探析》中，写到了信源互证的重要性。网络的便捷性大大丰富了新闻的消息源，但是要一分为二地看问题，如果仅仅注重所谓的便利，而不注重真实性，可能出现虚假的信息。作为媒体人要对信源的真伪加以核实，因为检验信源真假与否，是捍卫公信力的第一道防线。不能只抢时效，不管真假，尤其是不能将“谣言”谓之“新闻”。

3

当务之急，应该通过多种渠道告知受众

《北京青年报》今日发表评论文章《10分钟被骗430万元 “AI诈骗”应被零容忍》，其中写道：“当务之急，还是要加强有针对性的防骗教育和提醒。类似的‘AI换脸’诈骗案例，应该尽快通过多种渠道告知民众，尤其要提醒一些老年人。”

面对防不胜防的诈骗技术，有什么防范可以识别呢？ 据光明日报报道，专家提示，“AI假脸”的纹理特征存在破绽。例如，伪造后的视频人物的眼睛或牙齿轮廓细节容易不一致；两只眼睛瞳孔的颜色不一样或瞳孔中心反射的细节不一样；或是很多伪造视频由于视频分辨率低于原始视频分辨率，伪造出来视频的牙齿边缘过于整齐等。

另外，“AI假脸”有可能不符合正常人的生理特征，比如，一个健康成年人一般间隔2-10秒眨一次眼，每次眨眼用时0.1-0.4秒，而 在伪造视频中，人的眨眼频率可能不符合上述规律。

最后，由于人嘴部的运动是最为频繁且快速的，因此AI软件无法真实准确地渲染连续动作。因此， “AI假脸”的嘴部特征有可能辨别出真假。 此外，伪造后的视频会造成一定的视频抖动，导致视频出现帧间不一致情况。

为规范人工智能发展，去年12月，《互联网信息服务深度合成管理规定》正式发布，明确了合成数据和技术管理规范。其中提到：深度合成服务提供者对使用其服务生成或编辑的信息内容，应当添加不影响使用的标识。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。

关键词：