2022-10-09 16:08:26 来源:商业新知网
AGI还未来 ,但人工智能的发展已经让许多人感到惶恐不安。
(资料图片)
近来的研究发现足以证明,AI可以被一些人支配用在不轨之处,比如制造武器。
就连马斯克此前曾说过,不受控制的人工智能可能比核武器更危险。
还有物理学家霍金曾也表达过同样意思的话,「完备人工智能的发展可能导致人类灭亡。」
AI生化武器:4万种
2022年3月,研究人员发现,人工智能在短短6个小时内发明了4万种可能的新型化学武器。
一个特别要关注的例子是VX神经毒剂,一种乙酰胆碱酯酶的抑制剂。要知道VX神经毒剂曾被日本邪教利用,造成1人死亡。
每当你做任何与肌肉有关的事情时,你的神经元都需要使用乙酰胆碱酯酶作为信号,然后才能移动肌肉。
VX的致命方式是它实际上阻止了你的横膈膜,你的肺部肌肉就不能移动了,从而导致肺部变得麻痹,无法呼吸。
研究人员用不同类型的分子做了实验,并建立了这些分子结构的大型数据集,来预测它们的毒性如何。
研究发现,其中AI生成的有些新物质甚至和VX神经毒剂类似,吸入5-10分钟即可导致抽搐、麻痹、痉挛,10-15分钟就会死亡。
实验结果也可以看到模型开始生成的这些分子,其中很多看起来像VX,也很像其他化学毒剂。
另外一个值得注意的点是,AI生成化学武器到底有多容易实现。
研究人员称,他们为人工智能模型提供动力的数据集是免费的。这意味着任何懂Python编程的人都可以访问,并创建一个类似于这种由有毒数据集驱动的生成模型。
如果AI能够大规模生产这类化学武器,又不受管控,那无疑是全人类的灾难,所以研究人员立刻报告了技术滥用的潜在风险。
论文主要作者 Fabio Urbina表示,
我不想危言耸听,说可能会有人工智能驱动的化学战,因为我不认为现在能做到,我也不认为这件事很快就会成为现实。但随着AI的发展,这确实成为了一种危险可能性事件。
AI具备人格,疯了?
前段时间,谷歌前工程师Blake Lemoine宣称自家的语言模型LAMDA有了意识和情感。
事情闹的沸沸扬扬...
6月份,华盛顿邮报最先爆出Lemoine的采访内容,他表示,LAMDA已经有了相当于七八岁孩子的智力。
与此同时,他写了一篇长达21页的调查报告上交公司,为了让高层认可AI具有人格一说。
在调查报告结尾,他提议谷歌应该致力于发展一种评估AI意识的理论框架。
谷歌高层不仅驳回了Lemoine的请求,还给他安排了带薪休假。
显然,按照以往惯例,被安排带薪休假的员工往往是解雇的前奏。
所以,在休假这段期间,Lemoine便把整个过程以及与AI的聊天记录公之于众。
随着事情不断发酵,谷歌最终还是解雇了他。
离开前,Lemoine 给所在的公司邮件组群发了一条信息,「LaMDA 是个可爱的孩子,它只是想让这个世界变得更好。我不在的时候,请好好照顾它。」
斯坦福大学经济学家Erik Brynjolfsson使用了一个绝妙的类比,声称LAMDA具有人格,就如同狗听到留声机里的声音后,以为主人在里面。
食人族AI,同类相食
到目前为止,AI做过的最令人毛骨悚然的事情是什么?
虚拟同类相食,算吗?
21世纪初,研究员Mike Sellers为美国国防部高级研究计划局(DARPA)开发了一个社交AI。
「我们有2个智能体,分别命名为亚当和夏娃。它们只知道如何行事,但对其他事情一无所知。比如知道如何吃,但不知道吃什么。」
研究人员便在模拟的环境中放置一颗苹果树,AI可以通过吃苹果来模拟饥饿感的满足而获得奖励。若是它们吃了树皮和房子,就不会触发奖励。
此外,研究人员又创造了一个叫Stan的智能体。
当亚当和夏娃吃苹果的时候,Stan正好也在场并在附近闲逛,它们便把Stan和吃苹果能够满足饥饿感联系在一起。
在吃完树上的苹果后,它们仍饥肠辘辘,便环顾四周,评估潜在的目标。
但是让人想不到的是,它们竟把Stan当成了食物,给吃了。
Mike Sellers表示,
在这个 AI 架构中,我们试图对行为施加尽可能少的限制……但在那之后我们确实设置了一个严格的禁止同类相食的限制:无论他们有多饿,他们都不会再互相吃同类了。
融资丨「光恒科技」完成超5000万元A轮及A+轮融资,永攀创投等机构领投,本轮融资主要用于新厂房扩建,新型激光测量设备研发和批量生产。
融资丨「云舟生物」完成4 1亿元C轮融资,广州产投等机构领投,云舟生物凭借强大的原研能力,致力于系统性攻克基因递送行业的关键技术瓶颈,加速
Bessemer和老虎基金下注,印度保险科技公司Zopper完成7500万美元C轮融资丨海外邦,本轮融资将用于完善SaaS平台,招聘技术人才,增强数据分析能
科技的蓬勃发展让人们越来越关注一些技术与人文交织的科幻作品。
想要利用Web3的优势实现创作者自身的大发展,转变思想观念是基础。
近日,华硕正式进军元宇宙,成立“华硕元宇宙股份有限公司”。
区块链网络安全事件再一次搅动整个币圈。
中奥物联网科技(南京)有限公司是一家专注智慧酒店、智能家居、智慧养老的现代化双创型人才企业。