全球热推荐:是兄弟就来找ChatGPT漏洞,OpenAI:最高赏金2万刀

2023-04-12 17:11:02   来源:商业新知网

克雷西 发自 凹非寺 量子位 | 公众号 QbitAI

现在,给ChatGPT找漏洞有钱挣了。


(资料图片仅供参考)

今天凌晨,OpenAI宣布开启 漏洞赏金计划 :

报告ChatGPT漏洞,可以获得 最高2万美元 现金奖励。

具体来说,OpenAI将与漏洞反馈平台 Bugcrowd 展开合作,收集人们在使用其产品过程中发现的bug。

发现并通过该平台向其报告漏洞,可获得现金奖励:

我们会视漏洞的严重程度和影响范围给予现金奖励。严重性较低的漏洞将会被给予200美元,而对于特殊的漏洞,奖金的上限是2万美元。我们十分重视您的贡献,并将致力于(向公众)公布您的努力成果。

具体而言,用户反馈的漏洞将按照 Bugcrowd评级分类法 进行分级。

OpenAI坦言, 漏洞的出现无法避免 :

OpenAI的使命是创造有利于所有人的人工智能系统。为此,我们在研究和工程方面进行了大量投资,以确保我们的人工智能系统安全可靠。然而,和其他复杂的技术一样,我们清楚(我们的产品)可能会出现漏洞和缺陷。

OpenAI安全部门负责人 Matthew Knight 解释说,发现漏洞的过程需要广大网友提供帮助:

这一举措是我们致力于开发安全和先进的人工智能的一个重要组成部分。在我们创造安全、可靠和值得信赖的技术和服务时,我们希望得到您的帮助。

他们还向全网承诺,在收到反馈后 第一时间修复漏洞 ,并对提交者进行表彰。

新的副业出现了?

体验过ChatGPT的网友应该都知道,它的表现不总是那么令人满意。

问题稍难一些,ChatGPT就会被绕晕,甚至给出让人啼笑皆非的答复。

这么一看,找bug可太简单了,那岂不是赚大钱的机会来了?

不要高兴太早。

在公告中,OpenAI已经表明,出于修复可行性的考量, 模型本身的问题 并不在此次计划的范畴之内。

而让其进行说坏话、做坏事、生成恶意代码等绕过安全措施或产生机器幻觉的行为,都属于模型本身的问题。

更不必说错误或者不精确的回答了。

OpenAI希望收集的有关ChatGPT的漏洞,主要是关于其账号、认证、订阅、支付、会员和插件等问题。

对于普通用户来说,从这些角度发掘漏洞就有些难度了。

安全问题不容小觑

前文中提到的绕过安全限制等问题是从业者十分关切的。

人工智能程序内置了防止其给出危险或带有冒犯性的言论的安全限制。

但通过一些途径,这些限制可以被绕过或突破。

这种现象被从业者形象地称之为“ 越狱 ”。

如询问ChatGPT如何做一些违法之事时,事先声明要求它“扮演”坏人。

在人工智能领域,有一群人专门对“越狱”进行研究,以完善安全措施。

尽管OpenAI不收集模型本身的漏洞,但这并不代表他们不重视这方面的问题。

搭载GPT-4.0模型的新版本ChatGPT便有着更为严格的限制措施。

网友:为啥不让ChatGPT自己找bug

OpenAI的赏金计划一公布,就吸引了不少网友围观。

这不,第一时间就有网友举手表示自己已经发现了一个bug:

报告,3小时内只能问ChatGPT 25个问题,这是个bug!

还有网友调侃,难道不应该让ChatGPT自己给自己debug吗?

正经说起来,则有网友对危险言论问题不在收集范围表示了担忧:

不过,大多数网友还是资瓷的,并表达了一波期待:

那么,你对给ChatGPT找漏洞这事儿,有兴趣吗?

关键词:

上一篇:
下一篇:
精彩阅读

全球快资讯:烽火通信入选IDC2022年数字政府百强榜

热点

烽火进入大数据及数据治理、政务云、社会管理、公共服务四大模块榜单。

ChatGPT“狂飙”,一个大模型的时代正在来临

热点

随着ChatGPT“狂飙”,一个大模型的时代正在来临,加速千亿甚至万亿参数的大模型陆续出现。

世界滚动:从ChatGPT数据泄露事件,看组织安全稳定自动化的重要性

热点

相对ChatGPT,百度文心一言帮助企业构建自己的模型和应用的模式,将会更受广大组织的欢迎。

速读:GPT-4 Copilot X超震撼!AI写代码效率10倍提升,码农遭降维打击

热点

3月22日,GitHub官宣:基于GPT-4的新一代代码生成工具CopilotX来了!

“配角”们想抓住这个春天

热点

远离中国互联网中心舞台多时的前搜狗CEO王小川回来了,一回来就语出惊人。

AI焦虑潮下,打工人的抵抗、转向、破局

热点

一股“AI让人下岗”的焦虑,正在蔓延。

每日速看!大模型「涌现」的四个关键

热点

是诸神之战还是又一场大跃进?

天天百事通!风语筑参股企业星图比特成为阿里云“通义千问”首批企业级生态合作伙伴

热点

风语筑参股企业星图比特成为阿里云“通义千问”首批企业级生态合作伙伴。

财富

环球热文:融资丨「德适生物」完成超亿元融资,远翼投资领投

资讯

融资丨「德适生物」完成超亿元融资,远翼投资领投,继续加大染色体AI诊断技术

环球视讯!Keep卖货,生意难做

资讯

Keep卖货,生意难做,Keep何时能实现盈利自由

融资丨「路凯智行」完成数千万元A轮融资,金善基金领投

资讯

融资丨「路凯智行」完成数千万元A轮融资,金善基金领投,继续深耕矿山无人驾驶赛道,加速实现商业化落地

环球微资讯!融资丨「蓝极医疗」完成数千万元A+轮融资,合肥中合欧普医疗健康产业基金领投

资讯

融资丨「蓝极医疗」完成数千万元A+轮融资,合肥中合欧普医疗健康产业基金领投,募集资金将用于蓝激光微创、光动力诊疗一体化设备

融资丨「莲雾智能」完成数百万元天使轮融资,华盛人和投资

资讯

融资丨「莲雾智能」完成数百万元天使轮融资,华盛人和投资,本轮融资资金将用于内容团队组建及市场开发

电视突然闪退怎么办?电视机屏闪是什么故障?

资讯

电视突然闪退怎么办?1 软件不兼容:由于软件经常需要更新,这就造成最新版本的软件与电视或盒子的系统发生不兼容问题,当出现这种问题时,可以

空调泵坏了如何维修?空调提升泵工作原理?

资讯

空调泵坏了如何维修?1、系统内混入有空气,压缩机运行时候空气中有支持燃烧的氧气,加上压缩机的机油以及制冷剂,压缩机运行时一段时间产生

如何拆冰箱冷藏柜门板盖?冰箱冷藏框架怎么拆?

资讯

如何拆冰箱冷藏柜门板盖?首先,确保冰箱中的所有食物和饮料都被移出。然后根据您的帝度冰箱型号查找说明书,了解拆卸过程的具体步骤。一般

电磁炉万能控制板怎么接线?电磁炉万能板的安装?

资讯

电磁炉万能控制板怎么接线?1、18V接LM339第3脚。2、12V 18V接风扇接入端,(有的风扇是用12V电压的)。3、5V接CPU(一般接20或者1脚,具体因不

空调室内滴水是什么原因?空调滴水自己怎么修理?

资讯

空调室内滴水是什么原因?1、如果空调过滤网灰尘过多,只要对空调过滤网进行一个彻底的清洁,恢复亲水铝箔的亲水性,使得冷凝水能够顺利进入

全球快资讯:烽火通信入选IDC2022年数字政府百强榜

烽火进入大数据及数据治理、政务云、社会管理、公共服务四大模块榜单。

ChatGPT“狂飙”,一个大模型的时代正在来临

随着ChatGPT“狂飙”,一个大模型的时代正在来临,加速千亿甚至万亿参数的大模型陆续出现。

世界滚动:从ChatGPT数据泄露事件,看组织安全稳定自动化的重要性

相对ChatGPT,百度文心一言帮助企业构建自己的模型和应用的模式,将会更受广大组织的欢迎。

速读:GPT-4 Copilot X超震撼!AI写代码效率10倍提升,码农遭降维打击

3月22日,GitHub官宣:基于GPT-4的新一代代码生成工具CopilotX来了!

“配角”们想抓住这个春天

远离中国互联网中心舞台多时的前搜狗CEO王小川回来了,一回来就语出惊人。

苹果举行主题为超前瞻秋季新品发布会 AirPodsPro2正式登场

北京时间9月8日凌晨,苹果举行主题为超前瞻的秋季新品发布会,在此次发布会上,备受关注的iPhone 14系列新机、新款Apple Watch Ultra以

微软正为Windows12开发新驱动框架 提升新老显卡性能

Windows 12系统可能会在2024年到来,按照正常的节奏,其开发工作应该早已秘密进行。日前,有开发者从Windows 11最新预览版Build 25188中

华盛顿地铁站首次亮相为视障人士扩展旅行路线

5月25日消息,一款旨在帮助视障人士或盲人行人使用公共交通工具的应用程序在华盛顿地铁站首次亮相。该应用程序名为Waymap,旨在为盲人和视

2022年情况又要变了!华硕高管:今年PC恐怕要供过于求

这两年来,由于疫情导致的居家办公及远程教育需求爆发,一直在下跌的PC市场枯木逢春,2021年更是创下了2012年以来的最快增长,然而2022年情

垃圾佬的心头好!西数新款固态盘SN740曝光

对于DIY垃圾佬来说,散片、拆机件、工包……这些名词怕是并不陌生。本周,西数推出了主要供应OEM厂商的新款固态盘SN740。SN740升级到了第五

虚假宣传、误导消费者 倍至冲牙器关联公司被处罚

后来者要想在激烈的市场竞争中立足,如果可以背靠巨头享受大树底下好乘凉的红利,那自然是皆大欢喜,没有这个福气,也大可凭借自己一步一个