“LSTM之父”谈AI威胁论：AI将超越人类智力，但你无法阻止

大数据文摘授权转载自学术头条

(相关资料图)

他因在人工智能（AI）、深度学习和人工神经网络领域内做出的成就而知名，一度被称为“（现代）AI 之父”或“深度学习之父”。

他提出的长短期记忆网络（LSTM）被谷歌、苹果、亚马逊、Meta 等科技巨头公司应用于实际业务，以及疾病预测和音乐创作等，被《彭博商业周刊》称为“最具商业化的 AI 成就”。

他就是计算机科学家 Jürgen Schmidhuber，一位在 AI 社区充满争议的人物，“（现代）AI 之父” 或 “深度学习之父” 的称号也并不令所有人信服。

有人说，Schmidhuber 对技术进步速度的乐观是没有根据的，而且可能是危险的。如今， 身处由 ChatGPT 等 AI 大模型掀起的 AI 浪潮之中，他再次选择与同时代的许多人“决裂”，站在了他们的对立面 ：

“AI 的崛起是不可避免的，人们不应该感到害怕。”“你无法阻止它。”“呼吁暂停 AI 是一种误导。”

当前，以 ChatGPT 为代表的 AI 大模型，涌现出了越来越多另人难以置信的能力，这让越来越多的人对这场 AI 军备竞赛感到恐惧。

从谷歌辞职后，“AI教父” Geoffrey Hinton 在 MIT Technology Review 的一场半公开分享会上讲述了他对 AI 的所有恐惧和担忧：

一旦AI在人类灌输的目的中生成了自我动机，那以它的成长速度，人类只会沦为硅基智慧演化的一个过渡阶段。AI 会取代人类，它有能力这么做，在当下的竞争环境下也没有什么办法限制它，因此这只是一个时间问题。

在此之前，马斯克等上千人共同签署了一封来自生命未来研究所（FLI）的公开信，认为“AI 实验室陷入了一场失控的竞赛，他们没有办法理解、预测或可靠地控制自己创造的大模型”，并呼吁“所有 AI 实验室应立刻暂停训练比 GPT-4 更强大的 AI 模型，这一时间至少为 6 个月。”

马斯克透露，他上个月与谷歌的联合创始人 Larry Page 闹翻了，因为他认为佩奇没有足够重视 AI 的安全，而是试图创造一个“digital god”。

然而，据英国《卫报》报道，在 Hinton、马斯克等业内人士相继对外发表“AI 威胁论”之后，Schmidhuber 却表示“即将到来的事情是不可避免的，我们应该学会拥抱它”。

更有意思的是，Schmidhuber 认为， AI 将发展到超越人类智力的地步，将不会对人类产生大的兴趣，而人类将继续受益并使用 AI 开发的工具。

Schmidhuber 在 20 世纪 90 年代对神经网络的研究如今已被发展为语言处理模型，被用于谷歌翻译和苹果的 Siri 等技术中。《纽约时报》曾在 2016 年表示，当 AI 成熟时，可能会叫Schmidhuber 一声 “Dad”。

如今，这个成熟期貌似已经到来，虽然一些 AI 的先驱们正惊恐地看着 AI 生成的作品——呼吁为该技术的不可思议发展按下暂停键，但Schmidhuber却说这些呼吁是被误导的。

在他看来，政府、大学和公司之间存在着竞争，都在寻求推进这项技术，这意味一场 AI 军备竞赛已经存在了，无论人类是否喜欢它。

“在 95% 的情况下，AI 研究实际上是为了‘让人类的生命更长久、更健康、更轻松’。”

Hinton 此前表示，如果 AI 变得比人类更聪明，它可能会被包括权力者在内的坏人利用。

但 Schmidhuber 认为，这些担忧在很大程度上是多余的。他曾与 Hinton 和业内其他人就 AI 问题发生过长期争执。

他说，对付坏人使用 AI 的最好办法，是用 AI 开发更好的工具。“现在用来改善生活的工具可能被坏人利用，但它们也可以用来对付坏人。”

“我更担心核弹这些旧威胁，而不是我们现在看到的关于AI的新的小危险（new little dangers）。”

这是他多年来一直在讨论的一个主题，他曾在一次会议上被指责他的论断“破坏了科学方法”。

对此，你怎么看？

关键词：