视点!张钹 | 纯粹数据驱动的人工智能不可靠 存在危险

2022-08-26 09:53:46   来源:商业新知网

来源:中国机器人网

作者:张钹中国科学院院士、清华大学人工智能研究院院长

纯粹靠数据学习生成的人工智能不可解释,处于不可控状态,为了避免危险,需要发展安全、可靠、可信的智能机器人。


(资料图片仅供参考)

8月19日,中国科学院院士、清华大学人工智能研究院院长张钹在机器人大会主论坛上表示,纯粹靠数据学习生成的人工智能不可解释,处于不可控状态,为了避免危险,需要发展安全、可靠、可信的智能机器人。此外,张钹对机器人的伦理行为也提出了自己的思考,他认为让机器人完全遵守道德规范和机器人的智能化存在矛盾,需要通过研究新的伦理分析工具等方式解决该问题。

要把知识加到数据驱动中

“目前机器是人的奴隶,我们叫它做什么它就做什么。但是我们希望进一步发展智能机器人,这就存在另一种可能性,即机器人会不会成为我们的主人?现在,大家越来越认识到这个可能性是存在的,阿西莫夫、霍金也提出过相关观点,如果机器的智能超过我们,我们就失去对它控制,对于这样的机器人要加以限制,加以治理。”张钹说。

张钹表示,当前机器人智能还很低的时候就处于不可控状态,这让人类面临危险。“比如用深度学习的方法处理事情,生成的人工智能算法危险、不鲁棒 (鲁棒性,指系统对异常情况的适应能力) ,没有可靠性保证,如果使用这种人工智能算法,必然会对人类带来伤害,这已经成为现实问题。参考当前人工智能的发展状况,此担心看起来是一个近忧,而不是远虑。”

在他看来, (人工智能) 纯粹靠数据驱动的方法必然不鲁棒,必然不可解释,必然不可靠。人在从事人工智能工作的时候就一定要考虑到相关的可能性,要解决这类问题,唯一的可能性就是加上知识,加上模型,办法很简单,但执行起来很困难,因为把知识加到数据驱动中去,方法上要有很多改变。

张钹表示,我们提出的第三代人工智能就是要解决第二代人工智能算法不安全,不可靠,不可信,不可控的状态。第一代人工智能主要靠知识驱动,第二代人工智能主要靠数据驱动,这两个方法都有片面性,必须把这两个方法加起来,才有可能发展安全的、可靠、可信的智能机器人。

机器人如何遵守道德规范?

张钹表示,提出过著名“机器人三定律”的阿西莫夫曾说,如果机器人有了意识,如何让机器人能够按照伦理准则行动是一个问题。但实际上,什么是道德以及什么是不道德本身就存在非常大的争议,如存在电车难题这样的困惑,而且对于机器来说还要把道德和伦理形式化,这需要法律、道德、伦理各界的共同研究。

他认为,假设给机器一个道德规范,也涉及机器人的行为可控不可控的问题,“给机器加上人工智能就不可控了,因为完全按照一个规则来执行的,不是智能机器人,只有给予其一定的灵活性,机器人才能有创造性,才能自主解决问题,这是必然要付出的代价。”

“而且我们对于一些技术本身都做不到预测,都不知道怎么做出来的,例如用深度学习做模式识别,识别率提高非常多 (记者注:深度学习的输入和输出的部分通俗易懂,但其中间的运算部分的构造是一个极其复杂难以理解的‘黑箱’) ,大家没有预计到这种方法鲁棒性非常差。目前,机器人被滥用的现象非常严重,机器人在设计的过程中,要做很好的评估和预测,不能随便定一个规划,对智能机器人要做非常严格的评估。”张钹表示。

在他看来,可以通过研究新的伦理分析工具进行更好的伦理分析结果预测,利用深度学习方法对不道德和道德行为给出样本进行分析,以及通过仿真模拟大量实验来解决安全性的问题和伦理问题。

声明

来源 :中国机器人网 , RAD极客会推荐阅读,不代表RAD极客会立场,转载请注明,如涉及作品版权问题,请联系我们删除或做相关处理!

关键词: 人工智能 智能机器人

上一篇:
下一篇:
精彩阅读

视点!张钹 | 纯粹数据驱动的人工智能不可靠 存在危险

热点

纯粹靠数据学习生成的人工智能不可解释,处于不可控状态,为了避免危险,需要发展安全、可靠、可信的智能机器人。

全球动态:Soul成诈骗关键环节,灵魂社交何以救赎?

热点

为提高用户留存率,Soul打出社交+内容牌。如果只做陌生人社交,缺乏具体场景支撑,陌生人社交平台很难满足用户们的需求。

焦点要闻:专访丈八网安王珩:守正出奇,开创网络靶场的新思路

热点

当前,数字空间安全直接影响着国防安全、社会稳定、经济发展和科技进步。

报道:多伦科技披露2022年半年报,实现营收3.38亿元

热点

A股上市公司多伦科技(代码:603528 SH)发布2022年半年度业绩报告。

【世界新视野】中国通信服务2022年上半年归母净利同比增长4.64%

热点

港股上市公司中国通信服务(代码:00552 HK)发布2022财年中报。

前沿热点:慧聪网即日起停止运营,16年前曾被张向东评论不看好其未来

热点

近日,网上流传着一张慧聪网发布的停工待岗通知。

当前速读:你为什么要拥有NFT

热点

最近对NFT艺术的需求呈爆发式增长。但是,仍然有很多怀疑。毕竟,NFT通常与数字文件相关联。

【独家】从PSVR到PSVR 2,六年时间里索尼走了多远?

热点

索尼官方下场终结了一年多以来的发布“传言”。

焦点短讯!患上盗版依赖症,百度还会好吗?

热点

盗版横行,这是互联网初期的特征,而这种特征,仅适用于追求流量不求生态完整的蛮荒时期。

财富

世界焦点!把咖啡做成冻干块,「一块小宇宙」在赛道内卷中玩出新花样

资讯

把咖啡做成冻干块,「一块小宇宙」在赛道内卷中玩出新花样,一块小宇宙不仅是一个新消费品牌,更是一家食品科技公司。

全球今日报丨融资丨「NewBanker」完成数千万元C轮融资,中金资本旗下基金投资

资讯

融资丨「NewBanker」完成数千万元C轮融资,中金资本旗下基金投资,融资资金将重点用于北京和成都研发中心的进一步建设。

当前讯息:融资丨SCRM系统「微小团」获近千万元战略融资

资讯

融资丨SCRM系统「微小团」获近千万元战略融资,本轮的融资将主要用于技术研发以及品牌宣传推广。

视焦点讯!海外创投丨「Digital Diagnostics」获7500万美元B轮融资,KKR 领投

资讯

海外创投丨「DigitalDiagnostics」获7500万美元B轮融资,KKR领投,融资资金将用于加速其产品研发,扩大其分销,并用于大量营销。

今日聚焦!“夺命大乌苏”红利褪去,重庆啤酒遇增长瓶颈

资讯

“夺命大乌苏”红利褪去,重庆啤酒遇增长瓶颈,随着乌苏大单品的放缓,重庆啤酒高端化的故事还能否继续讲下去?

世界观察:快手首次盈利背后

资讯

快手首次盈利背后,快手需要新动力

环球今日讯!融资丨「边界无限」完成Pre-A轮融资,元起资本领投

资讯

融资丨「边界无限」完成Pre-A轮融资,元起资本领投,当前边界无限正在沿着ADR(ApplicationDetection&Response)的方向打磨产品。

当前观察:融资丨「棱镜全息」完成近亿元B轮融资,当虹科技独家战略投资

资讯

融资丨「棱镜全息」完成近亿元B轮融资,当虹科技独家战略投资,本轮融资资金将用于技术迭代研发、视觉算法与AI技术优化,丰富产品图谱、拓展商

天天视点!董承非:我为什么旗帜鲜明看好火电?

资讯

董承非:我为什么旗帜鲜明看好火电?,火电股的攻守道

快看点丨融资丨非血管介入领军品牌「卡本医疗」完成数千万preA+轮融资,金鼎资本、深圳中小担联合领投

资讯

融资丨非血管介入领军品牌「卡本医疗」完成数千万preA+轮融资,金鼎资本、深圳中小担联合领投,本轮融资将主要用于卡本医疗新产品的渠道建设,

全球动态:Soul成诈骗关键环节,灵魂社交何以救赎?

为提高用户留存率,Soul打出社交+内容牌。如果只做陌生人社交,缺乏具体场景支撑,陌生人社交平台很难满足用户们的需求。

焦点要闻:专访丈八网安王珩:守正出奇,开创网络靶场的新思路

当前,数字空间安全直接影响着国防安全、社会稳定、经济发展和科技进步。

报道:多伦科技披露2022年半年报,实现营收3.38亿元

A股上市公司多伦科技(代码:603528 SH)发布2022年半年度业绩报告。

【世界新视野】中国通信服务2022年上半年归母净利同比增长4.64%

港股上市公司中国通信服务(代码:00552 HK)发布2022财年中报。

前沿热点:慧聪网即日起停止运营,16年前曾被张向东评论不看好其未来

近日,网上流传着一张慧聪网发布的停工待岗通知。

华盛顿地铁站首次亮相为视障人士扩展旅行路线

5月25日消息,一款旨在帮助视障人士或盲人行人使用公共交通工具的应用程序在华盛顿地铁站首次亮相。该应用程序名为Waymap,旨在为盲人和视

2022年情况又要变了!华硕高管:今年PC恐怕要供过于求

这两年来,由于疫情导致的居家办公及远程教育需求爆发,一直在下跌的PC市场枯木逢春,2021年更是创下了2012年以来的最快增长,然而2022年情

垃圾佬的心头好!西数新款固态盘SN740曝光

对于DIY垃圾佬来说,散片、拆机件、工包……这些名词怕是并不陌生。本周,西数推出了主要供应OEM厂商的新款固态盘SN740。SN740升级到了第五

虚假宣传、误导消费者 倍至冲牙器关联公司被处罚

后来者要想在激烈的市场竞争中立足,如果可以背靠巨头享受大树底下好乘凉的红利,那自然是皆大欢喜,没有这个福气,也大可凭借自己一步一个

吉利几何EX3功夫牛高居榜首,4月投诉量230起

近日,车质网发布了2022年4月车型投诉排行八卦(前30名),其中有不少产品的出现属实让人没想到。具体来看,吉利几何EX3功夫牛高居榜首,4月

“说好了未达到目标全额退款,结果都是骗人的!”

春天不减肥,夏天徒伤悲。一波减肥大军抱着坚定的信念踏上征途,发现身边各式各样的高端减肥训练营正打着健康减肥封闭管理保质保量包吃包住