ChatGPT丨AIGC与真伪鉴别AI的猫鼠游戏

前些天，一则 “杭州3月1号取消限行是用ChatGPT写的假新闻，警方已介入调查” 的官方通报无疑是在已经彻底火出圈的AIGC与ChatGPT上又添了一把柴。无数杭州人被ChatGPT写的假新闻骗了的尴尬场景已经成为众人茶余饭后的谈论话题。随后最开始发出这则假消息的人出来公开道歉，这一风波才算是平息。

由于ChatGPT的爆火，关于AIGC（人工智能生成内容）带来的法律风险已经有无数法律界专业人士进行了深入分析，今天我们换个话题，来聊一聊针对这类高仿内容，我们应该如何应对。

(相关资料图)

老规矩，既然祸起AI，那先来问一问AI自己的意见：

既然AI都提到了通过AI技术自身来进行虚假内容的识别，笔者通过检索已公开的相关专利信息，从专利技术的解决方案中一窥人类为对抗AI所做的努力：

武汉大学在2022年申请的一篇发明专利（CN115661893A）中公开了 一种人脸图像真伪的检测方法 ，就是针对Deepfake人脸伪造攻击的检测问题而产生的技术。

如今在国内外内容平台、社交平台上，深度合成内容呈现“量质齐升”的效果，不仅能够欺骗人眼，也为欺骗一些人脸核验机制，提供了可能性。这意味着，深度合成技术正在改变信息传播内容信任链的底层逻辑和复杂程度，风险隐患在迅速加大。

针对上述问题，专利中的解决方案为： 通过从3D人脸重建的角度出发，提取出人脸面部的几何细节，从而提取Deepfake人脸的伪造线索，实现对基于Deepfake多媒体内容攻击的检测和防御， 具体的鉴别模型的构建流程如下：

人 脸图像真伪检测方法流程图

不过，相比于依赖信息真伪的鉴别平台来说。作为普通民众，我们可能更加担心类似这样的问题：即如何防止自己对外公开的图像或视频素材，被不法分子收集后，利用AI训练生产虚假内容，再用于金融诈骗等非法领域。

针对此类困扰，也是在2022年，北京大学在专利中（CN115273247A）提出了一种新的解决思路：

1、主动防御水印生成模块用首先完成深度伪造模型接入，并调用基础水印生成算法，结合水印融合技术生成模型通用的主动防御水印；

2、主动防御水印嵌入模块训练编码器-解码器，利用编码器将主动防御水印生成模块生成的通用水印嵌入人脸图片；

3、水印防御效果评估模块用于评估水印使深度伪造模型输出的扭曲程度；

4、深度伪造检测模块通过主动防御水印嵌入模块提供的解码器，检测嵌入了水印的图片，以判断是否有深度伪造模型对这些图片进行了修改。

通过这种主动添加防御水印的方式，将该水印嵌入包含人脸信息的媒体后可使深度伪造模型的生成扭曲，并可通过该水印检测出该媒体内容是否经历过深度伪造，彻底防止深度伪造篡改。

主动防御水印的嵌入及深度伪造检测的示意图

其实，不仅专利中已有专门对抗识别AIGC虚假内容的技术方案，在ChatGPT大火之后，也出现了一些第三方平台，专门推出了针对GPT模型生产内容的防伪鉴别服务。

以下是笔者让ChatGPT即时生成的一则杭州取消现行政策的fake news，与前些天的新闻行文内容并不一致。但将其贴到GPTZero官网的文本检测框之后，很快就生成了如下判别结果，并且会从多个评价维度给出判定分数：

（https://app.gptzero.me/app/welcome）

很欣赏GPTZero官网的一句话：“Humans Deserve the Truth”。

因此如何看待当前AIGC的乱象，文章结尾，笔者打算让ChatGPT自己来提出解决这一问题的方案：

问

笔者问：

AIGC的迅速发展给我们的生活带来了许多便利和欣喜，但同时也给依赖于信息鉴别的平台和服务，以及本就面对海量真假难分信息的我们带来了新的挑战。在这个信息爆炸的时代，如何避免落入更大的信息茧房，是值得深入思考的问题。因此如何看待和解决这一现象？

答

ChatGPT答（以下文字为ChatGPT基于笔者上述问题生成的原始回答）：

首先，我们需要提高自己的信息鉴别能力。在接收信息的时候，要学会辨别信息的来源、真实性和可信度等关键要素。另外，我们也可以借助一些技术手段来辅助鉴别信息，例如使用专业的鉴别软件或者网站等。

其次，需要加强监管和管理。针对那些恶意生成虚假信息的行为，需要建立相关的法律法规和制度，并加强对相关行业和领域的监管和管理。同时，也需要引导和推动AIGC技术的健康发展，加强对AIGC算法和模型的审查和监管，防止其被用于不良目的。

最后，我们需要积极探索和研究新的信息鉴别技术。针对当前面临的鉴别难题，需要不断研究和开发新的技术手段，例如基于AI的鉴别技术、基于区块链的信息验证技术等，以提高我们对信息真伪的判断能力和鉴别水平。总之，解决信息真伪难辨的问题需要多方共同努力，不断加强自身的信息鉴别能力，加强监管和管理，积极探索和研究新的信息鉴别技术，才能有效应对这一挑战，让信息的价值真正得到体现。

最后的最后，留一个小彩蛋。 大家不妨猜一猜，左右两张“夕阳映照下的女孩”图中，哪个是真实拍摄图片，哪个是AIGC模型生成的虚假图像呢？

图片来源丨网络（侵删）

作者简介： 杨阳，集慧智佳双证咨询师，热爱音乐与美剧，紧跟科技互联网与知识产权最新动态。

关键词： 主动防御 我们需要