阻止“TA们”监听你,AI能做到吗?

2022-04-22 11:52:26   来源:商业新知网

大数据文摘转载自学术头条

你或许,甚至大概率遇到过这样的情况:

当你打开手机中的某一款 App 时,第一眼看到的内容正是你几分钟前和朋友或者家人们谈论的东西。第一次,你会觉得很惊讶。但时间久了,你就会觉得习以为常、见怪不怪了。 而其中作祟的元凶之一,就是如今已无处不在且时刻“偷听”你的麦克风(Microphones),它们被嵌入手机、电视、手表等设备中,实时将你的声音传输到神经网络和人工智能系统中,帮助推荐系统为你作出“定制化”的推送服务。

那么,如何才能避免这样的情况发生呢?网络上有很多方法,比如放一首完全不相关的歌曲,将声音调到最大,主动制造一些噪音;比如不授权长期开启麦克风权限,而是选择采取一次一授权的方式等。

如今,来自美国哥伦比亚大学的研究团队提出了一种新方法:他们研发了一种人工智能系统,只需要在房间内播放一种该系统产生的极为轻微的声音,就可以避免“监听”事件的发生。 也就是说,这一系统会把人们交谈的声音进行伪装,在不影响正常对话的前提下,不被麦克风等监听系统听到。 相关研究论文以“Real-Time Neural Voice Camouflage”为题,已发表在预印本网站 arXiv 上。 而且,研究人员还表示,这种人工智能系统很容易部署在电脑、手机等硬件上,可以时时保护你的隐私。

用 AI 击败 AI

由人工智能利用的问题,要由人工智能来解决。

虽然该团队干扰麦克风等系统的成果理论上在人工智能领域是可行的,但要以足够快的速度将其用于实际应用,仍然是一个艰难的挑战。 问题在于,在某个特定时刻干扰麦克风监听人们谈话的声音,或许并不能干扰接下来几秒的谈话。当人们说话时,他们的声音会随着他们说出的不同单词和语速而不断变化,这些变化使得机器几乎不可能跟上人说话的快节奏。 而在此次研究中,人工智能算法能够通过预测一个人接下来要说的话的特点,有足够的时间来产生合适的耳语(whisper)。

哥伦比亚大学计算机科学系助理教授 Carl Vondrick 表示,这一算法能够以 80% 的效率阻止流氓麦克风听清(人们的)对话,甚至在人们对流氓麦克风的位置等信息毫无察觉的情况下,也能发挥作用。

为此,研究人员需要设计一种可以实时破坏神经网络的算法,这种算法可以在说话时连续生成,并适用于一种语言的大部分词汇。在以往的研究中,没有一项工作可以同时满足以上三个要求。 新算法使用了一种称之为“预测攻击”(predictive attacks)的信号,这种信号可以干扰任何被自动语音识别模型训练来转录的单词。此外,当攻击声音在空中播放时,它们需要足够大的音量来干扰任何可能在远处的流氓“窃听”麦克风。攻击声音需要像声音一样传播相同的距离。 该人工智能系统通过预测未来对信号或单词的攻击,以两秒钟的输入语音为条件,实现了实时性能。 同时,研究团队还对攻击进行了优化,使其音量类似于正常的背景噪音,让人们在房间内可以自然地交谈,而不会被麦克风等系统监控。 此外,他们成功证明了这一方法在有自然环境噪声和复杂形状的真实房间中的有效性。 但 Vondrick 也表示,目前该系统还只是对大多数英语单词有效,他们正在将该算法应用到更多语言中。

我们能为 ethical AI 做些什么?

有人说,在大数据时代,我们的个人信息都处于“裸奔”的状态,身边也有越来越多的智能设备在偷窥着我们的个人隐私。

如果这一研究成果在未来能够应用于更多语言,在更多场景内落地,或许能够帮助我们免受各式各样人工智能的利用。 正如宾夕法尼亚大学(University of Pennsylvania)计算机与信息科学系教授 Jianbo Shi 评价道:他们提出了一个新问题,即如何使用人工智能保护我们免受无意识的人工智能所利用? 同时,Shi 也建议道,在未来的工作中,研究人员需要从最初的设计阶段就“有意识地”思考人工智能会对人类和社会产生的影响,不要再问有道德的人工智能(ethical AI)可以为我们做些什么,而是要问我们能为 ethical AI 做些什么? 一旦我们相信这个方向,ethical AI 的相关研究就会充满趣味和创意。

关键词: 人工智能 人工智能系统

上一篇:
下一篇:
精彩阅读

阻止“TA们”监听你,AI能做到吗?

热点

由人工智能利用的问题,要由人工智能来解决。

超算云如何登上“东数西算”的快车

热点

“中国超算电网”是数据与超算算力流动所需的“毛细血管”,更是并行超算云服务模式价值创新重要的载体。

​对于现阶段GameFi发展而言,兼容EVM重要吗?

热点

从融资角度分析,GameFi的热度居高不下。

多家平台宣布,将上线显示用户IP属地功能

热点

多家平台宣布,将上线显示用户IP属地功能。

丰田再次宣布停产,5月全球销量将为75万辆

热点

面对即将到来的5月,丰田汽车再次发出了停产通知。近日,丰田宣布,5月其位于日本本土的数家工厂将停产数日,原因是疫情扩散等导致零部件供

继物物地图之后,合其家集团董事长林昕杨推出运营增效新模式

热点

近期,有网友爆料公司安装了行为感知系统,更有监控系统后台的界面截图。

又闯红线?中国联通某分公司因违法行为被警告

热点

中国联通某分公司因违法行为被警告。

为了保护隐私?谷歌安卓商店颁布新规定:通话录音软件全凉了

热点

目前很多安卓手机都自带“通话录音功能”,谷歌Pixel系列的电话应用也集成这一功能。

财富

当下自动驾驶商业化落地过程中的五大难点

资讯

当聊到自动驾驶商业化落地的时候,我们通常可能会想到Robotaxi、物流、矿山、港口码头、固定路线区域接驳、无人环卫、自主泊车等等。每一个

石头科技披露2021年年报及2022年一季报 净利润14.02亿元

资讯

4月21日晚间,石头科技披露了2021年年报及2022年一季报。年报显示,2021年石头科技实现营业收入约58 37亿元,同比增长28 84%;归属于上市公

致欧科技更新招股书,财务资料过期被交易所中止申报

资讯

随着移动互联网技术的发展,电商已成为人们购物的重要方式之一。作为世界工厂的中国,凭借着在供应链方面的优势,在亚马逊、ManoMano、Cdis

微信也有热搜榜了!内测“搜索发现”功能,可删除搜索词

资讯

现在各大新闻平台都有热搜榜,让用户一眼就能看到当前最火的内容。而一直标榜小而美的微信,似乎也要上线类似功能了。近日,有网友发现微信

天孚通信2021年净利润3.06亿元,同比增9.77%

资讯

苏州天孚光通信股份有限公司(以下简称天孚通信)昨日发布2021年年度报告。报告显示,公司2021年实现营业收入10 32亿元,较上年同期增长18 2%

第一台实现4096量子体积的商用量子计算机诞生

资讯

Quantinuum在寻求建造世界上性能最高的量子计算机方面达到了另一个里程碑。本周,Quantinuum系统模型H1-2的性能翻了一番,成为第一台实现40

工信部:坚决遏制囤积居奇、哄抬物价等不正当竞争行为

资讯

4月19日消息,针对近期新能源汽车和动力电池疯狂涨价的问题,工信部也作出了相关回应。据中国网报道,工信部新闻发言人罗俊杰在会上表示,

微软将Windows11和Android整合到一个部门

资讯

在一份新的职位列表中,微软已经证实它正在将其Android工作整合到一个名为"Android微软平台和体验"的部门。此举可能使Windows 11和Android

网信办:整治网络直播、短视频领域乱象

资讯

据网信办官网消息,按照2022年清朗系列专项行动安排,中央网信办、国家税务总局、国家市场监督管理总局自4月15日起,开展为期两个月的清朗

华联股份突曝利空,2021年预盈变预亏1.5亿元

资讯

4月15日、18日连续斩获两个涨停板后,华联股份(000882)突曝利空,2021年预盈变预亏。4月18日晚间,不少投资者在华联股份股吧表示,玩完、准

超算云如何登上“东数西算”的快车

“中国超算电网”是数据与超算算力流动所需的“毛细血管”,更是并行超算云服务模式价值创新重要的载体。

​对于现阶段GameFi发展而言,兼容EVM重要吗?

从融资角度分析,GameFi的热度居高不下。

多家平台宣布,将上线显示用户IP属地功能

多家平台宣布,将上线显示用户IP属地功能。

丰田再次宣布停产,5月全球销量将为75万辆

面对即将到来的5月,丰田汽车再次发出了停产通知。近日,丰田宣布,5月其位于日本本土的数家工厂将停产数日,原因是疫情扩散等导致零部件供

欧菲光:公司8P镜头项目已研发成功,目前处于试产阶段

曾经为苹果提供镜头模组的欧菲光今日在互动平台表示,公司团队历经多年技术攻坚,突破高端镜头技术壁垒,一亿像素7P光学镜头已量产,长焦镜

支付宝:处置69375个违规账号和参与“跑分”的账号

4月19日下午,支付宝安全中心官方发布了 关于持续打击电信网络诈骗、租售账号等违规行为的公告 。为保障用户账户安全,营造清澈、安全的

华润啤酒频现“超标排放”环保问题遭罚款

4月18日,北京商报记者在聊城市生态环境局注意到,华润雪花啤酒(聊城)有限公司(以下简称雪花聊城公司)因涉嫌超标排污被聊城市生态环境局罚

Eurocom推出15.6英寸笔记本电脑工作站

Eurocom 正推出 15 6 英寸的 Raptor X15 Mobile Supercomputer,该工作站采用 LGA1700 插槽的英特尔第 12 代桌面处理器。通过最

帅丰电器发布2021年年报,净利润同比增长26.95%

4月13日,帅丰电器(605336)发布2021年度报告,报告期内公司实现营业收入977,641,254 43元,同比增长36 93%;归属于上市公司股东的净利润246,

Stellantis集团与标致雪铁龙荷兰财务公司达成转让协议

4月13日,Stellantis集团宣布,神龙汽车有限公司(以下简称神龙公司)和Stellantis集团旗下Banque PSA Finance的全资子公司标致雪铁龙荷兰