前沿热点:“AI换脸”诈骗,怎么防?

2023-05-31 10:10:34   来源:商业新知网

点开直播间乍一看,卖货的竟是当红女星。再定睛一看,“明星”其实是使用人工智能(AI)实时换脸技术的普通主播。他们冒充明星艺人,只为增加卖点,助力卖货……

近期,“AI换脸”的应用范围越来越广,但存在滥用之嫌,甚至有人利用AI换脸实施犯罪,例如伪造不雅视频、换脸诈骗等。前不久,就有一男子因AI“偷脸”,10分钟被骗430万元。


(资料图片仅供参考)

如此以假乱真,让人防不胜防。“AI换脸”的法律边界在哪?普通人又该如何防范?

公司老板遭遇AI换脸诈骗

10分钟被骗取430万元

近日,内蒙古包头警方发布一起利用AI实施电信诈骗的典型案例。

来自福建的郭先生是一家科技公司的法人代表。今年4月,他的好友突然通过微信视频联系他,称自己的朋友在外地竞标,需要430万元保证金,想借用郭先生公司的账户走账。

基于对好友的信任, 加上已经视频聊天“核实”了身份,郭先生在10分钟内,先后分两笔把430万元转到了对方的银行账户上。

事后,郭先生拨打好友电话才得知被骗, 原来骗子通过AI换脸和拟声技术,佯装好友对其实施诈骗。 “当时是给我打了视频的,我在视频中也确认了面孔和声音,所以才放松了戒备。”郭先生事后说。

AI换脸冒充明星带货

律师:或涉嫌侵权

除了佯装“熟人脸”实施诈骗,AI换脸还可能出现在直播带货中。最近,网上出现了一些“换脸直播”教程, 教程发布者声称实时变脸软件可以帮助用户轻松“变脸”,极大地助力引流卖货。

在一个展示换脸直播效果的视频中,使用者把名为“成龙”的模型载入相关软件后,摄像头前的人在直播画面中就有了与成龙相似的五官,但脸型和发型还保持原样。

记者发现,使用者歪头或变换表情时,五官动效切换得自然顺滑,只有手掌从脸前划过时,出现了比较明显的破绽。

发布者展示换脸为“成龙”的实时效果和软件界面(视频截图)

北京岳成律师事务所高级合伙人岳屾山表示, 换脸直播用于公开传播可能涉嫌侵犯相关明星艺人的肖像权。如果涉及直播带货等商业行为,会成为加重情节。

岳屾山解释,只要未经肖像权人同意,在直播中通过技术手段把自己的脸换成了明星的脸,就是对明星肖像的侵权。根据不同情况,承担的后果可能不同。 即便只是娱乐,不涉及盈利行为,也属于侵权。 如果把明星肖像用于带货直播, 属于是商业行为,在赔偿数额上一定会给予考虑。 如果主观恶性、过错程度比较大,且因此获利,赔偿数额可能会更高。

记者注意到,一些使用换脸技术的直播并不会直接提到相关明星艺人的名字,但也不会主动声明或者否认。岳屾山认为, 该行为涉嫌欺诈或是虚假宣传,让公众误以为就是明星在带货。 如果货品本身质量不好,或者主播在带货过程中说的话或行为导致公众对被换脸的明星产生负面评价,明星可以主张名誉权的侵权责任。

AI技术存在滥用风险

务必保持防范意识

为规范人工智能发展,去年12月,《互联网信息服务深度合成管理规定》正式发布,明确了合成数据和技术管理规范。其中提到:深度合成服务提供者对使用其服务生成或编辑的信息内容,应当添加不影响使用的标识。 提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的,应当进行显著标识, 避免公众混淆或者误认。

近期,也有平台和企业发布了“关于人工智能生成内容的平台规范暨行业倡议”, 明确禁止利用生成式人工智能技术创作、发布侵权内容,包括但不限于肖像权、知识产权等, 一经发现,平台将严格处罚。

对于个人而言,除了在形形色色的“明星脸”中保持清醒,避免陷入虚假宣传,更重要的是面对花样翻新的AI诈骗,必须保持防范意识。

保护信息,提高警惕。 不要轻易透露自己的身份证、银行卡、验证码等信息,不要轻易提供人脸、指纹等个人生物信息给他人,不过度公开或分享动图、视频等;

多重验证,确认身份。 如果有人自称“熟人”“领导”等通过社交软件、短信以各种理由诱导汇款,或涉及网络转账交易行为时,务必通过电话、见面等多途径核验对方身份,不要未经核实随意转账汇款;

如不慎被骗或遇可疑情形,请注意保护证据,并立即拨打 96110报警 。

整治AI换脸

要用“法”打败“魔法”

“短短10分钟,被骗430万元”“换脸冒充当红女星带货,赚得盆满钵溢”……这种“换脸”术和拟声术,让人防不胜防。如此种种,无不说明换脸术的滥用,已经对公共利益构成威胁。

整治AI换脸,当用“法”打败“魔法”。

这个法,是方法、办法的法。有人说,防骗最有效的一招就是不信,无论对方怎么“换”、怎么变、怎么翻着花样骗,就是“不听不信不转账”。最关键的是,优化“打法”,升级高招,用更有效的方法“破防”。“魔高一尺,道高一丈”, 面对骗子的新招数,我们的反诈术、防骗方法更要优化,总结出富有成效的好方法, 并做好宣传普及,构筑反诈防骗的全民阵线。

这个法,也是法规、法律的法。 此前,一款主打AI换脸的App很火,“只需一张照片,演遍天下好戏”。但很快,在监管部门约谈后,这款App下架,原因很简单,如此换脸侵犯了公民的肖像权。去年12月,《互联网信息服务深度合成管理规定》发布,对人脸生成、替换、操控,合成人声、仿声等都有明确约束。显然, 随着制度设计更精准,相关立法更健全,AI换脸空间将越来越逼仄。

AI换脸术滥用,也促使大家思考一个深层次问题。新技术不断面世,带给了人们便利,但可能被居心叵测之徒非法利用。人们固然不能因噎废食,但也不能忽略它的双刃剑效应。如果缺乏应有规束,AI换脸则可能打开潘多拉魔盒。因势利导,使其趋利避害,这是我们要全力做到的。

关键词:

精彩阅读

前沿热点:“AI换脸”诈骗,怎么防?

热点

AI换脸术滥用,也促使大家思考一个深层次问题。

AI接棒酸奶开发,效率提升之外还有哪些潜在意义? 每日播报

热点

随着食品行业加大对于人工智能研发系统的投入力度,未来将会有更多的食品类型可以借助AI系统实现本质上的优

天天动态:出门问问冲刺港交所:2020年就已开发出通用大模型,2022年营收超5亿元

热点

随着前述TicWatchPro5手表的上市,出门问问的AIoT解决方案的收入或将重回增长。

推进5G规模化应用!中国广电(湛河区)5G产业创新中心正式揭牌

热点

中国广电(湛河区)5G产业创新中心(以下简称5G中心)揭牌,湛河区政府、5G中心分别与合作对象签约。

热点资讯:比亚迪再回应争议;天涯社区直播首播遭滑铁卢……

热点

今年4月天涯社区因为无法支付电信机房费用而暂停访问。

热门看点:​永洪科技出席科博会:领先源于洞察

热点

企业是创新的主体,是推动创新创造的生力军。

GPT 应该存在吗?

热点

GPT是否应该存在呢?ScottAaronson认为在掌握更多信息之前,我们应该按兵不动。

苹果“我的照片流”服务将于7月26日关闭

热点

苹果“我的照片流”服务将于7月26日关闭。

IoT Analytics:预计2023全球物联网连接数同比增长16% 达到160亿-全球热议

热点

全球物联网连接主要由三个关键技术主导:即Wi-Fi、蓝牙和蜂窝物联网。

腾讯会议「上新」,为了2亿听障朋友

热点

对于使用助听器的听障朋友来说,并不是买一个助听器戴上就万事大吉了。

财富

环球播报:融资丨凌科药业完成2亿人民币C1轮融资

资讯

融资丨凌科药业完成2亿人民币C1轮融资,本轮融资将主要用于加速推进凌科药业核心产品的临床开发。

每日时讯!永辉超市症结之解

资讯

永辉超市症结之解,线上线下都做得好的企业,未来才能生存。

快播:谁会是新能源车险市场的“鲶鱼”?

资讯

谁会是新能源车险市场的“鲶鱼”?,沿着旧地图,找不到新大陆

ofo出走的创始人,散落在天涯-天天聚看点

资讯

ofo出走的创始人,散落在天涯,ofo故人难寻

「问题少年」逆袭成万亿美元掌门人!60岁黄仁勋或成LLM爆发背后最大赢家-天天快资讯

资讯

「问题少年」逆袭成万亿美元掌门人!60岁黄仁勋或成LLM爆发背后最大赢家,英伟达总市值正式突破万亿美元,成

陆正耀“绑上”加盟商去“复仇” 世界要闻

资讯

陆正耀“绑上”加盟商去“复仇”,最了解陆正耀的目标的人,除了钱治亚,可能就是郭谨一。

全球观点:AI诈骗效率高、成本低,“三个魔法”有效防范潜在威胁

资讯

AI诈骗效率高、成本低,“三个魔法”有效防范潜在威胁,魔法打败魔法:社交平台的关键角色

【时快讯】肯德基、西贝们,狂卷儿童餐

资讯

肯德基、西贝们,狂卷儿童餐,餐饮盯上新一代“带娃人”。

大厂砍业务,为“未来故事”烧钱的时代结束了

资讯

大厂砍业务,为“未来故事”烧钱的时代结束了,大厂告别规模扩张,开始务实,追求成熟业务和产品带来的“确

全球播报:穷人想薅羊毛,而有人想薅穷人的羊毛

资讯

穷人想薅羊毛,而有人想薅穷人的羊毛,临期店到底香不香?

AI接棒酸奶开发,效率提升之外还有哪些潜在意义? 每日播报

随着食品行业加大对于人工智能研发系统的投入力度,未来将会有更多的食品类型可以借助AI系统实现本质上的优

天天动态:出门问问冲刺港交所:2020年就已开发出通用大模型,2022年营收超5亿元

随着前述TicWatchPro5手表的上市,出门问问的AIoT解决方案的收入或将重回增长。

推进5G规模化应用!中国广电(湛河区)5G产业创新中心正式揭牌

中国广电(湛河区)5G产业创新中心(以下简称5G中心)揭牌,湛河区政府、5G中心分别与合作对象签约。

热点资讯:比亚迪再回应争议;天涯社区直播首播遭滑铁卢……

今年4月天涯社区因为无法支付电信机房费用而暂停访问。

热门看点:​永洪科技出席科博会:领先源于洞察

企业是创新的主体,是推动创新创造的生力军。

震撼!我军多型实弹射击演练点燃夏季练兵场

铁流滚滚,沙尘弥漫。近日,中部战区陆军第83集团军某合成旅在豫南某训练场,组织全要素多弹种实弹射击演练

北京高考在即,官方提醒考生勿将手机等通讯设备带入考点 每日短讯

北京高考在即,官方提醒考生勿将手机等通讯设备带入考点

资讯推荐:6名航天员太空“会师”名场面再现

“我是零号,倒计时30分钟准备!”“神舟十六号收到!”今天9时许,酒泉卫星发射中心,随着任务零号指挥员

今日讯!中国数字经济规模居世界第二

中国数字经济规模居世界第二

热头条丨探日卫星“夸父一号”观测到200多个太阳耀斑

新华社北京5月30日电(记者魏梦佳)记者30日从2023中关村论坛重大成果解读新闻发布会上获悉,我国首颗综合

奋斗圆梦中国人永远是坚定的行动派_热点

奋斗圆梦中国人永远是坚定的行动派