“ChatGPT之父”等350名业内人士签署公开信并警告:AI可能灭绝人类

2023-06-01 09:17:26   来源:商业新知网

人们对 AI 技术的发展和应用有了更加深入的思考与探讨。

日前,超过350名人工智能(AI)领域的行业高管、专家和教授签署了一封公开信,他们在信中警告称,AI可能给人类带来灭绝风险。

这份公开信发布在非营利组织人工智能安全中心(Center for AI Safety)的网站上,签署者包括OpenAI首席执行官山姆·奥特曼、DeepMind首席执行官Demis Hassabis、Anthropic首席执行官Dario Amodei以及微软和谷歌的高管等。

公开信的核心只有一段话:“减轻AI带来的灭绝风险,应该与流行病和核战争等其他社会规模的风险一起,成为全球优先事项。”这份公开信由超过 350 名从事人工智能工作的高管、研究人员和工程师签署,他们呼吁加强监管和管理,避免类似的问题出现。


(资料图片仅供参考)

来源:官网截图

自聊天机器人ChatGPT掀起AI热潮以来,对这项技术潜在风险的担忧持续增加。此次公开信引发了广泛关注和热议,也使得人们对 AI 技术的发展和应用有了更加深入的思考与探讨。

其实早在今年3 月,就一篇有关叫停 6 个月 AI 研究的公开信火遍了全网。

包括特斯拉CEO埃隆·马斯克在内的1000多名行业高管和专家签署公开信,呼吁在6个月内暂停高级AI的开发。马斯克等人在信中写道,高级AI可能会对社会和人类构成深远的风险。

公开信的原文如下:

人工智能具有与人类竞争的智能,这可能给社会和人类带来深刻的风险,这已经通过大量研究得到证实,并得到了顶级AI实验室的认可。正如广泛认可的阿西洛马尔人工智能原则(Asilomar AI Principles)所指出的,先进的 AI 可能代表地球生命历史上的重大变革,因此应该以相应的关注和资源进行规划和管理。不幸的是,即使在最近几个月, AI 实验室在开发和部署越来越强大的数字化思维方面陷入了失控的竞争,而没有人能够理解、预测或可靠地控制这些数字化思维,即使是它们的创造者也无法做到这一点。现代 AI 系统现在已经在通用任务方面具有与人类竞争的能力,我们必须问自己:

我们应该让机器充斥我们的信息渠道,传播宣传和谎言吗?

我们应该将所有工作都自动化,包括那些令人满足的工作吗?

我们应该发展可能最终超过、取代我们的非人类思维吗?

我们应该冒失控文明的风险吗?这些决策不应该由非选举产生的科技领导人来负责。只有当我们确信AI系统的影响是积极的,风险是可控的,我们才应该开发强大的AI系统。这种信心必须得到充分的理由,并随着系统潜在影响的增大而增强。

OpenAI 最近关于人工智能的声明指出:「在某个时候,可能需要在开始训练未来系统之前获得独立审查,对于最先进的努力,需要同意限制用于创建新模型的计算增长速度。」我们同意。现在就是那个时刻。因此,我们呼吁所有 AI 实验室立即暂停至少 6 个月的时间,不要训练比 GPT-4 更强大的 AI 系统。这个暂停应该是公开和可验证的,并包括所有关键参与者。如果无法迅速实施这样的暂停,政府应该介入并实行一个暂禁令。

AI 实验室和独立专家应该利用这个暂停时间共同制定和实施一套共享的先进 AI 设计和开发安全协议,这些协议应该由独立的外部专家严格审核和监督。这些协议应确保遵守它们的系统在合理怀疑范围之外是安全的。

这并不意味着暂停AI发展,而只是从不断迈向更大、不可预测的黑箱模型及其突现能力的危险竞赛中退一步。AI 研究和开发应该重点放在提高现有强大、先进系统的准确性、安全性、可解释性、透明度、鲁棒性、对齐、可信度和忠诚度。与此同时,AI 开发者必须与政策制定者合作,大力加速 AI 治理体系的发展。这些至少应包括:

专门负责 AI 的新的、有能力的监管机构;

对高能力 AI 系统和大型计算能力池的监督和跟踪;

用于区分真实与合成内容、跟踪模型泄漏的溯源和水印系统;

健全的审计和认证生态系统;对 AI 造成的损害承担责任;

技术AI安全研究的充足公共资金;

应对 AI 引起的巨大经济和政治变革(特别是对民主制度的影响)的资深机构。人类可以在 AI 的帮助下享受繁荣的未来。在成功创造出强大的 AI 系统之后,我们现在可以享受一个「AI 盛夏」,在其中我们收获回报,将这些系统明确地用于造福所有人,并让社会有机会适应。在面临可能对社会造成灾难性影响的其他技术上,社会已经按下了暂停键。在这里,我们也可以这样做。让我们享受一个漫长的AI盛夏,而不是毫无准备地冲向秋天。

关键词:

精彩阅读

“ChatGPT之父”等350名业内人士签署公开信并警告:AI可能灭绝人类

热点

人们对AI技术的发展和应用有了更加深入的思考与探讨。

斯坦福大学李飞飞团队新作:孪生掩码自编码器SiamMAE,刷榜视觉自监督方法

热点

SiamMAE在不依赖于数据增强、基于手工跟踪的前置任务或其他技术来防止表征崩溃的情况下,实现了非常有竞争

「问题少年」逆袭成资产350亿美元CEO!60岁黄仁勋或成LLM爆发背后最大赢家 世界滚动

热点

上周六,仅仅在一天内,英伟达的市值就暴涨了超2000亿美元,震惊了美股市场。

北森新品发布会,揭露了中国SaaS的真相|当前快讯

热点

作为一家赛道领先的企业,稳扎稳打又与时俱进的北森,很可能将进一步巩固自己的领先位置。

环球播报:智享未来:如何打造网络安全新人才?进阶网络安全工程师大佬必看

热点

互联网时代,唯变不变,我们驭时代之风,以变应变,以数字技术助力未来发展。

基于LLM的生成式AI正在快速变革RPA人机交互

热点

可以预见,接下来随着LLM成为RPA的标配,它也将全面变革大模型时代的RPA。

焦点信息:在阳台的一平米里挖呀挖呀挖,“石头”在小红书里开出了花

热点

近年来,居家时间的增加让我们对于居住环境的实用性、舒适度、颜值要求、性价比都上升到新的高度。

全球动态:欧盟官员将于6月会见OpenAI CEO:讨论人工智能法规

热点

欧盟产业主管埃里·布雷顿将于下月在旧金山与美国人工智能研究公司OpenAI首席执行官山姆·阿尔特曼会面。

跨过万亿美元市值的门槛

热点

根据预测,预计第二财季英伟达营收将达到110亿美元左右,较市场预期的71 8亿美元高53%。

全球看点:LLM推理提速2.8倍,CMU清华姚班校友提出「投机式推理」引擎SpecInfer,小模型撬动大模型高效推理

热点

随着ChatGPT的出现,大规模语言模型(LLM)研究及其应用得到学术界和工业界的广泛关注。

财富

谁在疯抢头部主播?

资讯

谁在疯抢头部主播?,为何这些在抖音成长起来的主播,会纷纷转战淘宝?大主播的尽头是淘宝吗?

世界快看点丨马斯克需要中国

资讯

马斯克需要中国,时隔三年,马斯克再次高调访华。

【报资讯】低谷“窒息”四年,贾跃亭爬出深渊?

资讯

低谷“窒息”四年,贾跃亭爬出深渊?,FF成立以来的所有“反转”都来自于两点:公司对资金的渴求和贾跃亭对

潮玩之后,未来巨大的商业机会是什么?

资讯

潮玩之后,未来巨大的商业机会是什么?,IP不是靠钱砸出来的。

风头盖过马斯克访华,贾跃亭新车220万开卖,FF 91最全解析来了

资讯

风头盖过马斯克访华,贾跃亭新车220万开卖,FF91最全解析来了,贾跃亭:与AI一起再次为梦想窒息

焦点热议:燃油车不够卖,电动车被抢光,劳斯莱斯、宾利为何越卖越好?

资讯

燃油车不够卖,电动车被抢光,劳斯莱斯、宾利为何越卖越好?,现在下单劳斯莱斯,2025年才能提车。

焦点速看:Meta连裁体育高管业务转给娱乐代管,背后发生了什么?

资讯

Meta连裁体育高管业务转给娱乐代管,背后发生了什么?,Meta的体育业务似乎正在走向边缘化。

618“首战”:淘宝直播“内容化”,小红书力扶章小蕙加入战局? 最资讯

资讯

618“首战”:淘宝直播“内容化”,小红书力扶章小蕙加入战局?,平台间的攻城略地继续上演。

0成本做增长,匿名社交的风又吹到了韩国_天天看热讯

资讯

0成本做增长,匿名社交的风又吹到了韩国,近期火热的匿名社交App们给了这些思路。

天涯死在“乌托邦”里

资讯

天涯死在“乌托邦”里,最后的挣扎还是葬歌?

斯坦福大学李飞飞团队新作:孪生掩码自编码器SiamMAE,刷榜视觉自监督方法

SiamMAE在不依赖于数据增强、基于手工跟踪的前置任务或其他技术来防止表征崩溃的情况下,实现了非常有竞争

「问题少年」逆袭成资产350亿美元CEO!60岁黄仁勋或成LLM爆发背后最大赢家 世界滚动

上周六,仅仅在一天内,英伟达的市值就暴涨了超2000亿美元,震惊了美股市场。

北森新品发布会,揭露了中国SaaS的真相|当前快讯

作为一家赛道领先的企业,稳扎稳打又与时俱进的北森,很可能将进一步巩固自己的领先位置。

环球播报:智享未来:如何打造网络安全新人才?进阶网络安全工程师大佬必看

互联网时代,唯变不变,我们驭时代之风,以变应变,以数字技术助力未来发展。

基于LLM的生成式AI正在快速变革RPA人机交互

可以预见,接下来随着LLM成为RPA的标配,它也将全面变革大模型时代的RPA。

OPPO Reno10系列6月1日开售,支持50 应用断点续读_全球今头条

OPPOReno10系列将在6月1日正式发布,今天OPPO官方介绍了Reno10系列的功能:支持50应用断点续读,48个月久用

村晚的诗意翻译(村晚的诗意)-全球快报

1、译文:绿草长满了池塘,池塘里的水呢,几乎溢出了塘岸。2、远远的青山,衔着彤红的落日,一起把影子倒映

从世界智能大会 看智慧生活新图景

从世界智能大会看智慧生活新图景

全球快看:图片打印软件哪个好

今天来聊聊关于图片打印软件哪个好的文章,现在就为大家来简单介绍下图片打印软件哪个好,希望对各位小伙伴

生吃苦瓜的功效与作用有哪些 生吃苦瓜的功效与作用

今天来聊聊吃苦瓜的功效与作用有哪些,生吃苦瓜的功效与作用的文章,现在就为大家来简单介绍下生吃苦瓜的功

全球今热点:“村里的孩儿”音乐班:用歌声编织梦想

新华社哈尔滨5月31日电 题:“村里的孩儿”音乐班:用歌声编织梦想新华社记者戴锦镕、何山、谢剑飞“希望