全球观焦点：“AI换脸”不能想换就换，深度合成技术新规落地

图源：新浪微博@人民日报

【资料图】

近期，国家网信办、工信部、公安部发布 《互 联网信息服务深度合成管理规定》——继算法推荐之后，深度合成技术也迎来单独规范 。《规定》将从明年1月10日起开始施行。

深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术 。比如近日OpenAI开发的聊天机器人ChatGPT以其远超出同类的高质量回答和极好的交互体验风靡全网。而就在前不久，AI绘画以其不输真人画家的“功力”掀起了一场行业地震。不过随着深度合成技术越来越成熟，它也被一些人应用于散播虚假信息、诈骗、色情内容制作上，亟须得到规范。

根据新发布的《规定》， 深度合成服务提供者应当基于移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式，对深度合成服务使用者进行真实身份信息认证 ，并采取技术或者人工方式对使用者的输入数据和合成结果进行审核。

1.对深度合成服务进行标识

引领技术走向规范

《互 联网信息服务深度合成管理规定》 要求，深度合成服务提供者提供智能对话、合成人声、人脸生成、沉浸式拟真场景等服务，应当进行显著标识，避免公众混淆或者误认。 这一措施可以起到怎样的作用呢？

科技财经作家醒客 表示，目前来看这一规定主要是为了防止以下两种情况。 第一种情况是深度合成服务使用公众人物的脸来误导观众 。例如以前做广告需要请真正的明星来拍摄，但现在可以用AI换脸将明星的脸换到普通人身上，从而让广告变得更有说服力和话题度，这就可能对观众造成误导。

第二种情况是深度合成服务直接侵害普通人的权益 ，例如将某人走路的视频嫁接到不好的视频上，就可能对被嫁接的人造成恶劣影响。

这项规定反映了深度合成服务正在逐步走向规范化。 我们可以联想到广告是如何走向规范化的：以前的报纸中经常有一些小豆腐块，它们看上去是文章，但实际上却是广告，因此相关部门作出规定，要求报纸必须给这种形式的广告注明。之后的电视和互联网中也曾有这种看上去与原内容有关联，实际上却是宣传的广告，相关部门随后都对此作出规范。

从广告规范化的例子中我们可以看到， 信息传播如果给人带来误导，会对整个社会造成负面影响，因此必须走上规范化之路 。这也是深度合成服务技术目前的趋势。

人脸合成技术（AI换脸）是深度合成服务最广泛的应用

2.深度服务技术界限模糊

安全评估必不可少

2019年，AI“换脸”应用ZAO一度爆红。人们只要上传一张自己的照片，就可以换脸成为影视剧主角。然而仅仅过了三天，ZAO就因涉嫌未依法依规 收集使用人脸信息被工信部约谈，之后直接下架。

对此，《规定》要求深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的， 应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意 。

《规定》还要求，具有生成或者编辑人脸、人声等生物识别信息的模型、模板等工具的深度合成服务提供者和技术支持者， 应当自行或者委托专业机构开展安全评估 。

很多人可能会觉得，就是“换个脸”玩一玩，怎么还需要“安全评估”？对此醒客认为，我们可以拿“换脸”和“美颜”进行对比。“美颜”这个词看短视频的人一定特别熟悉，一个年纪很大的人加了“美颜”，也可以变身萌萌可爱的小姑娘。这就容易给粉丝造成错觉和误导，我们之前也听过不少类似的新闻。而现在的问题就是， 这种过度“美颜”和“换脸”的边界又在哪里 呢？

醒客认为，实际上“美颜”、“换脸”和本人之间的界限是非常模糊的。这就容易造成一个问题—— 每个人所说的“换脸”都带有一定主观性色彩，因此需要权威部门或经验人士来做判断，评判这种对脸部的处理是否会造成信息误导等后果 。这就是为什么需要对深度合成服务进行安全评估。

现有规定认为，推动这种技术或服务的平台需要承担法律上的相关监督责任。平台需要对博主放上去的内容进行黄赌毒等相关监管， 而如果有人使用换脸技术误导观众，平台也负有一定的监督责任 。这就督促平台在产品上线时考虑自己的产品是否会被人有意无意抓住漏洞或被误用，导致产生不良的社会后果。

3.不同行业情况有别

具体要求有待细化

聊天机器人ChatGPT、“换脸”、AI绘画、虚拟主播等都是比较为人熟知的深度合成应用场景。在《互联网信息服务深度合成管理规定》正式施行后，这些应用会有哪些变化？《规定》对于深度合成领域的监管影响将会如何体现？

醒客表示， 因为规定需要一个逐步实现的过程，而且不同行业的情况千差万别， 所以这个规定在不同平台的具体要求可能会有些许差别 。

拿换脸相关的技术举个例子。这类技术在主播美颜滤镜上可能使用得最多，它最大的作用就是改变人物形象，而这就需要相关平台进行规定。例如很多带货主播就是以自己的美貌作为卖货的诱导，很多人也是冲着美女才下单， 这种情况下平台就需要对主播是否使用美颜滤镜进行提示 。因为如果用漂亮作带货点，又故意使用美颜滤镜来诱导用户，这就是对公众权益的妨害。

再比如，如果有人想应聘设计工程师，但他的作品是在某创作平台上制作的，应聘者就需要在提交作品时告诉公司自己的作品是在某平台生成的。因为如果不进行标识，就会误导公司对个人能力的评估。在这方面， 创作者可能会在今后被要求提供作品创作的渠道、手段等 。

转自： 新闻建外14号

- END -

本文由朔商研究部综合整理发布，转载请联系授权

关键词： 服务提供者 安全评估