如果任由低质AIGC内容泛滥 互联网生态系统将会被摧毁

不久前ChatGPT突然走红，用户量迅速增加，很多人惊呼“生成式AI”革命已经到来，但最近几个月它的热度似乎在下降，用户量增速已经明显放缓。

(资料图)

The Verge撰文称，生成式AI必然会在科技史上留下一笔，但它带来的消极影响也的确值得我们重视。

什么消极影响呢？有人用ChatGPT生成垃圾网站，网上到处都是AI生成的垃圾；聊天机器人勾连在一起，引用彼此的误导信息；Snapchat和Instagram等社媒都希望用机器人陪你聊天……

关键的是，旧网络正在死亡，但新的网络还在挣扎，还没有出生。

网络的死亡与重生

网络一直在死亡中重生，比如APP改变了流量走向。2023年网络再次走向死亡，这一次有了新元素参与，它就是AI。

多年前，网络还是个体的天下，个体用户制作主页、论坛、邮件列表，金钱涌入，然后企业加入进来，创建功能丰富的平台，让每一个人都可以加入进来。现在AI正在改变旧格局。

有了金钱和算力，AI系统可以轻松扩张。AI生成文本和图片，很快将会制作音乐和视频。以前我们依赖新闻、信息、娱乐，它们创造了海量内容，但很快AI创造的内容数量可能会远远超过它们。

可惜，目前的AI系统仍然不够“聪明”，质量低劣，还是“寄生虫”。训练AI的数据来自旧时代，AI只是进行了再创造，这种创造还不完美。AI生成的内容不太可靠，系统还没有成熟，AI就与之前的旧平台展开了用户注意力的争夺。

内容平台首鼠两端

在美国，有些AI公司通过API获取Reddit数据，导致Reddit准备提价，让它们支付更多使用费。Reddit CEO Steve Huffman说：“Reddit数据库很有价值，我们不会将所有价值免费提供给一些大企业。”

Reddit准备今年年末上市，它想从平台中挖掘更多价值。AI企业疯狂抓取数据，这是机会，也是威胁，有人担心互联网企业可能会重新思考平台的开放性问题。

以前谷歌抓取维基百科信息不用付钱，但现在要付费了。维基百科对AI内容持双重看法，AI生成内容速度快，覆盖范围广，这是优点，但它们往往存在误导。

去年ChatGPT推出后没多久，Stack Overflow就给予“封杀”待遇。主要问题在于ChatGPT在一般情况下看起来很好，答案也容易生成，但出错率太高，要给结果排序太费神了，所以干脆禁止。

但后来Stack Overflow又改变态度，抬高了用户发布AI内容的门槛，让他们承担更多举证责任，不再封杀。Stack Overflow也准备向抓取数据的AI公司收费。版主认为AI内容不可信，但Stack Overflow高管觉得冒点险是值得的。

谷歌选择至关重要

最值得的关注的可能还是谷歌的态度。谷歌搜索是现代网络的支柱之一，它将注意力、金钱分散至庞大的网络。看到必应AI和ChatGPT走红，谷歌搜索感受到威胁，它正在做实验，想在搜索结果中增加AI内容，如果计划顺利推广，影响将是巨大的。

Tom’s Hardware主编Avram Piltch认为，谷歌新开发的系统从本质上讲是一个“剽窃引擎”。AI生成的内容许多时候是从网络一字不动抄袭的，谷歌有时将这些抄袭的内容放在源链接之上。

如果谷歌新引擎真的全面推广，将会严重损害整个互联网。未来那些财务欠佳的网站可能会倒闭，谷歌将耗尽人工生成内容，最终杀死创造价值的生态系统，或者以不可逆的方式改变生态系统，然后反受其害，威胁到自身生存。

综上，如果我们放任AI内容肆意传播将如何呢？从目前的证据看，网络内容的质量会降低。AI虽然有能力重新组合文本，但创造底层数据的依然是人。

AI创造的内容有许多错误，这些错误很难被发现，它生成的误导信息非常“狡猾”，这些信息并非依赖对真实世界的体验生产，发现其中的错误需要时间，需要专业知识。

人类也会制造许多误导信息，但人类专业知识生存的平台仍是积极力量，如果它们被AI系统击溃，未来想纠正错误将会变得更加困难。

关键词：