澳门新莆京免费网址欢迎您

澳门新莆京免费网址欢迎您 13
澳门新莆京免费网址欢迎您移动互联式微 产业互联势起

澳门新莆京任正非谈鸿蒙系统:技术难度不大 建立生态最关键

语音人工审查:谷歌、苹果先后放弃,亚马逊给出「禁用」选项

随着AI语音技术的发展,个人隐私受到了巨大的挑战,你说的每句话都有可能正在被“偷听”。“隐私不应该成为一种奢侈品,不能只提供给有能力购买高端产品和服务的人。”谷歌CEO桑达尔·皮扎伊(Sundar
Pichai)曾在有关媒体上公开表示。然而,这一态度与事实相去甚远。日前,据媒体报道,谷歌员工会收听来自Google
Home智能音箱以及语音助手应用程序里的音频文件。其中,许多音频文件是在无意中收集,甚至无需用户激活用户的设备。此外,谷歌承包商泄露了超1000份用户与谷歌助理交谈的录音。对此,谷歌回应称,这是为了更好地开发语音技术,改善用户体验。谷歌搜索团队产品经理大卫·蒙西斯(David
Monsee)发文称,部分音频是用于开发语音识别系统,从而更好地适应各种语言、口音和方言。无独有偶,今年四月份亚马逊也陷入隐私监听丑闻。亚马逊在全球雇佣数千名员工,收听Echo智能音箱用户家中和办公室录制的对话。而在国内,今日头条、美团、饿了么等平台也曾经陷入监听风波。语音助手之困与美团、饿了么回应称的“技术达不到”不同,亚马逊、谷歌均表示,之所以搜集用户录音,是为了更好的研发语音系统,使之能够理解用户发出的语音命令。“我们认真对待客户个人信息的安全和隐私。”亚马逊发言人在一封电子邮件声明中表示,“我们只会标注一小部分Alexa录音,以便改善客户体验。这些信息有助于我们训练语音识别和自然语言处理系统,这样Alexa可以更好地了解您的请求,并确保服务适合每个人。”蒙西斯在其博文中也同样解释,语言专家审查并转录一小部分音频内容,以帮助我们更好地理解这些语言。这是构建语音技术过程中的关键部分,也是创建像Google
Assistant这样的产品所必需的。与谷歌和亚马逊类似,苹果的Siri也有人工助手,他们负责判断Siri对用户命令的解释是否与用户所说的一致。根据苹果公司的安全政策显示,他们审查的录音不关联用户个人识别信息,并与一个随机标识符绑定存储6个月。之后,数据将从随机识别信息中剥离出来,但可能会存储更长的时间,以提高Siri的语音识别能力。但是,这些智能音箱、语音助手等产品,在生活中的介入越来越多。个人信息被泄露的风险也相应增大,也引发了用户的担忧。比如智能语音助手可以帮助用户支付账单、获取银行账户信息。甚至许多智能语音助手,还能够根据消费者的历史购物记录,提供新产品推荐和建议。一名AI语音行业资深人士在接受21世纪经济报道记者采访时认为,谷歌的行为不是严格意义上的窃听,窃听是指在非唤醒状态下还在监听录音。“服务商应该是帮谷歌做标注,比如我如何去识别你的口音,怎么知道你说的这句话是什么意思,这个是需要人去标注出来的。只要谷歌保证数据脱敏,以及服务商遵守隐私协议,不把录音泄露出去,从法律上是不存在问题的。人脸识别也是一样的问题,如果没有人标注,告诉机器这张照片是什么,那AI是无法工作的。”立法亟待落实随着AI语音技术及相关产品的发展,智能音箱、语音助手服务等已经成为主流的应用。据Canalys发布的2019年一季度全球智能音箱产品统计报告显示,2019年一季度全球智能音箱产品出货量,相比2018年一季度增长了131.4%达到2070万台,全球智能音箱安装量将自2018年的1.14亿台上升到2019年的2.079亿台,同比增长82.4%,中国内地将成为今年全球增长最快的市场。21世纪经济报道记者发现,当在今日头条、百度等应用上浏览或搜索特定内容时,在其他应用上也能看到类似的内容,甚至是精准推送的广告。此外,在人工智能的大力普及后,一大批平台的客服已经转为智能语音系统。奥纬咨询董事合伙人Gokhanedge
Ozturk认为,保护客户隐私也是一个问题,通过智能语音助手提出的要求,会留下数字跟踪的痕迹。虽然大部分人们接受通过智能语音助手收集的数据,可能用于定向广告,但他们对透露敏感性销售,或揭示现金短缺的财务信息的感受可能有所不同。“一旦拥有足够的数据,人工智能程序可以为任何人生成相当令人信服的音频文件。黑客们甚至可以达到欺骗语音助手的目的。”也有技术行业人士认为,分析声音命令并训练软件,以更清晰地识别口头语言,是没有问题的,但谷歌应该有严格的方法来辨别、处理和删除个人信息。没人愿意因为使用AI新技术而泄露个人信息,在AI技术的发展过程中,如何更有效地保护用户的信息,是需要整个行业思考的问题。1月21日,谷歌曾因违反欧洲《通用数据保护条例》(GDPR)被法国国家数据保护委员会处以5000万欧元的罚款。《通用数据保护条例》(GDPR)自2018年5月25日生效,条例对用户数据收集等相关内容进行了一些规定及保护。但是,全球各地的落实状况也不一致。2016年11月7日,中国全国人大常委会颁布《中华人民共和国网络安全法》,首次从立法层面对个人信息进行了定义和不完全列举。除此之外,世界上还有许多国家也在相继推进自己的隐私立法,有的已经出台,有的还在起草酝酿阶段。这对消费者隐私保护来说是一个好消息,但随着新技术的不断发展,相关法案的补充、完善与更新就显得尤为重要。

这一段时间来,亚马逊、谷歌和苹果都纷纷曝出监听、录制和分析用户隐私语音的新闻。这其中,标榜“不作恶”的谷歌故作而言他,亚马逊更是打起太极拳,只有苹果在低调处理了一个月之后,终于通过官方途径对此事进行了正式回应。

图片 1

苹果公司日前在官网上发布声明,表示“道歉”。

雷锋网消息,本周五,亚马逊官方表示,将允许Alexa用户选择不再对他们的录音进行人工审查,新政策本周五正式生效。用户可以通过Alexa智能手机应用程序设置菜单中的选项,允许用户从由亚马逊人工审核和分析的库中删除他们的录音。这是面对当下用户对个人隐私越…

在这份回应声明中,苹果公司表示为打消用户顾虑,将对Siri进行一些更改。并且在默认情况下,苹果将不再保留Siri互动的录音。“隐私是一项基本人权,苹果设计的产品和服务是为了保护用户的个人数据。Siri是一款开创性的智能助手,其目标是为用户提供最佳体验,但前提是要保护好用户隐私。”声明最后指出:我们意识到自己并没有完全实现这个崇高理想,为此我们深表歉意。”

雷锋网消息,本周五,亚马逊官方表示,将允许Alexa用户选择不再对他们的录音进行人工审查,新政策本周五正式生效。用户可以通过Alexa智能手机应用程序设置菜单中的选项,允许用户从由亚马逊人工审核和分析的库中删除他们的录音。

谁都别标榜“不作恶”

这是面对当下用户对个人隐私越来越注重、各国针对隐私推出越来越多隐私保护法案后,亚马逊的妥协。面对用户这样的“拷问”,妥协的不只有亚马逊,还有谷歌和苹果。

要不是一个月前英国《卫报》的一篇报道,公众不会知道,苹果委托的承包商,会进行如此繁重的“监听”工作:每人每天听取近千条Siri录音,并将内容发送回苹果公司进行分析。

亚马逊交出“语音审核权”

记得今年3月份,苹果CEO蒂姆·库克在接受媒体采访时,就公开批评了Facebook在用户隐私方面的做法,并表示:“我认为这是对隐私的侵犯。”“我们不会陷入这种处境。”

据雷锋网此前报道,今年4月彭博社曾披露,亚马逊在全球拥有一支数千名员工的团队,监听Echo使用者家中和办公室等应用场景中录制的录音,并通过将录音转录、注释,并反馈到软件中,以消除Alexa对人类语言理解与实际语义的差距。

谁知道几个月不到,多家外媒连续的曝光,就让苹果这项巨大的监听项目公诸于世。当时苹果很快对《卫报》给予了回应,宣称“每天发送的录音请求不到1%,而且通常只有几秒钟。”但是想象一下全球数亿苹果手机及智能手表用户,每天都在使用语音功能,其总量的1%又怎能令人视而不见。

彭博社援引知情人士消息,该团队由承包商和全职亚马逊员工组成,团队员工签署了保密协议,禁止他们公开谈论该计划。据亚马逊布加勒斯特办事处的两名工作人员透露,他们每天工作9小时,每位评论员每班解析多达1000条音频片段。

可以说,在智能语音交互领域,用户隐私绝对是一个时刻处在危险边缘的“美食”,包括巨头亚马逊、苹果和谷歌,恐怕都不是初犯。

在彭博社爆料后,亚马逊官方发表声明,表示:

早在今年4月,海外媒体就报道关于亚马逊的监听事件。这家智能音箱行业领头羊聘请了一个上千人的专业团队,专门听取用户向语音助手Alexa发出的语音指令,目的是所谓的“提高软件技术水平”。据报道这个团队除了听取录音,还会整理分析录音内容,并向亚马逊进行汇总。实际上,报道披露一些雇员听取的录音内容里,很可能包含了用户姓名和住址等机密信息。

亚马逊十分注重客户的隐私安全。我们收集用户对Alexa的指令,是为了更好地训练语言识别系统和自然语言处理系统,以便于改善用户体验。目前,亚马逊已有严格的技术和措施来保护用户的个人信息,即便是公司的员工也无权访问。

事件发酵不久,今年七月中旬,比利时广播公司又曝光了一则新闻,超1000个谷歌助手录音内容被其承包商泄露,这些内容来自Google
Home智能音箱以及语音助手应用程序里的音频文件,有些录音甚至是在设备没有被激活时录制的,很可能会爆露用户个人隐私。

雷锋网了解到,此类数据收集行为在行业中属于常态,部分国内厂商其实也会通过此类方法收集用户信息,以提升智能语音助手的能力。与此同时,国内大部分智能音箱都支持用户创建训练计划。

这些报道曝光了了许多人都不知道的事情,但是公众有什么办法?

亚马逊官方表示,Alexa应用程序将在设置菜单中包含免责声明,确认人们可以通过Alexa查看录音。通过「设置——Alexa隐私——管理您的数据如何善Alexa的操作」操作步骤,关闭「帮助改善亚马逊服务和开发新功能」选项。在这个页面中,亚马逊会提示用户“启用此设置后,您的录音可用于开发新功能并进行人工审核以帮助改进我们的服务。手动审查只有极少部分的录音。”

相关事件发生后,亚马逊、谷歌和其他开发语音辅助技术的公司却对此表示,这些举措是为了确保技术的进步,用户的录音只是被他们称为“语言专家”的人员进行记录和分析。

早在今年5月,在被曝出“监听门”后,亚马逊官方曾对相关能力作出过调整,据当时官方公布的信息显示,亚马逊为Alexa添加了新的隐私保护功能,允许Echo用户通过“Alexa,删除我今天所说的一切”、“Alexa,删除我刚刚说的内容”此类语音指令来删除保存在亚马逊服务器上的录音。

比利时广播公司为此发布了一段视频,重点介绍了承包商如何处理Google Home
Assistant记录的语音数据量和列表。由于这一事实,谷歌只得允许VRT
NWS的记者查阅了那些用于审查或分析录音的软件。

此次,亚马逊并没有直接取消人工审核,而是将是否开启人工审核的选择权让出,交到用户手中。这样的设置模式类似当下部分国内厂商设置的用户训练计划的模式。

VRT
NWS听取了通过Google智能助理收录的超过一千个声音片段。在听取这些录音后,VRT
NWS指出它显然能够听到地址以及其他敏感的用户信息。“这让我们很容易找到所涉及的人物,并与录音对上号,”VRT
NWS表示。

显然,之所以谷歌、苹果、亚马逊会妥协,一方面是确保其产品、技术的影响力更深远,覆盖人群可以更广阔,同时也是为了持续的品牌影响力。

谷歌方面对VRT
NWS解释,公司只是将监听任务外包给外部专业人员,他们只能接触到部分经过安全筛选和脱敏的信息内容,其中包含要分析的音频提取列表。大约有三个消息来源证实了谷歌监听录音的工作方式:通过语音识别软件自动生成记录脚本;然后监听的雇员必须以准确的语言描述声音属性:它是女性的声音,还是男性或者儿童的声音?他们在说什么?这些雇员必须仔细地写下并描述他们听到的内容。

谷歌、苹果放弃人工审核

那么,收集来的数据又将如何帮助谷歌不断改进搜索引擎,从而更好地响应用户的需求?我们无从知晓。

同样在语音方面面临人工审核遭控诉的不只亚马逊一家,谷歌、苹果此前也面临同样的困扰。

如何杜绝互联网巨头的监听

今年7月10日,外媒VRT
NWS曝出荷兰语和佛兰芒语的谷歌语音助手存在监听用户语音的事件。文中还提到,谷歌承认它与世界各地的语言专家合作改进语音技术。谷歌比利时发言人表示:“这是通过制作少量音频文件的成绩单来实现的”。他补充说:“这项工作对于开发支持谷歌智能语音助理等产品的技术至关重要。”
谷歌声称他们的语言专家只判断“约占所有音频片段的0.2%”。该公司补充道,这些与任何个人或可识别信息无关。

显然,从亚马逊到谷歌再到目前道歉的苹果,对于自己的产品和服务始终会认为“我们对你所说的内容不感兴趣,这一点是确认的。”然而,监听录音事件是一个明显的提醒,人们对语音助手或他们的亲友所说的任何内容,都会被机器默默地记录下来。

在谷歌的智能语音助手被曝出监听事件后,同样是今年7月,英国《卫报》曝出苹果智能语音助手Siri涉嫌泄露用户隐私一事,称“苹果公司的承包商经常听到机密的医疗信息、潜在毒品交易,以及不可描述的声音,作为其工作的一部分,为苹果的语音助手提升服务质量,例如请求是故意还是误报,是否意外触发Siri,或者响应是否有帮助”。报道中还提到,苹果并没有明确告知消费者,一小部分录音会被发送给承包商以改善Siri。

我们可以理解,这些科技巨头本意不是在针对某些人,想知道某些群体的隐私。而且,为了保证不会涉及到具体的个人,科技巨头也都做了一些相应的“预防和保护”措施。在被比利时广播公司曝光后,谷歌公司发言人对此回应,“这项工作对于开发维护Google智能助理等产品的技术至关重要。”根据Google的指示,只有0.2%的音频样本由其语言专家进行审核。发言人还补充说,声音片段与审核过程中的用户帐户没有关联,承包商不会转录对话内容或其他声音。

随后,苹果公司在回应《卫报》的官方声明中称,只有不到1%的Siri响应会被分析以改善服务。“仅有一小部分Siri请求会被分析用以改善Siri和听写。用户请求与用户的Apple
ID并无关联。Siri响应会在安全的环境下进行分析,所有审核人员都有义务遵守Apple严格的保密要求。”

比利时广播公司在报道中也指出,为了防止摘录的信息与具体的用户“挂钩”,负责分析提交列表的员工会将用户关联的信息进行脱敏。他们会删除用户名并将其替换为匿名序列号。而雇员们也认为,自己也完全没有必要特意去来寻找某些人的身份,“我们只需仔细聆听所听到的话语。”

苹果公司特别强调:被上传的语音信息只是一个非常小的随机子集,不到Siri日活的1%,用于评分,通常只有约几秒钟。

可是比利时广播公司也指出,谷歌或许不会拿这些信息去换钱,但是如何保证承包商不会监守自盗?这些信息被记录和存储,不可避免地会成为黑客、灰产或者相关机构的买卖商品。

在谷歌和苹果被曝出“监听门”后,虽然官方随后均对此事作出了解释,但是据据彭博社报道,德国隐私监管机构开始调查谷歌这一计划后,谷歌决定停止人工审核;苹果公司也在本周四对外表示,已经暂停了对Siri查询的人工审查,同时也表示,Siri还将在未来发布软件更新,让Siri的用户选择是否参与这一计划。

所以,对于某些人和机构来说,尽管这些声音文件看似毫无价值,但是依然会因为包含了实用信息而处在泄露的边缘。“我想没有人会相信亚马逊、谷歌、苹果或其他任何企业,能完全保证他们的安全和隐私措施以及数据的机密性”。比利时广播公司在报道中总结。

大数据时代,数据更易获取,隐私更难保证

据外媒道道,8月初美国和欧洲的监管机构和立法机构都先后宣布,正在对谷歌、苹果和亚马逊进行调查,审核这三家企业是否涉嫌侵犯用户隐私,聘用外部雇员听取用户使用其产品时发出的相关语音指令。

大数据时代,随着数字化进程日益加快,人类生活的各类信息也逐渐被数字化,越来越多的数据被各类智能终端搜集,并集中到互联网公司各地的数据中心中。正如最初进入互联网时代,大家都在担心网络安全问题一样,大家现在也开始担心个人数据、个人隐私安全问题。

此前,爱尔兰和英国的相关监管机构已经开始调查上述企业是否违反了欧洲的隐私法律法规,而德国数据保护机构近期也对苹果和谷歌发起了相关调查。

这样的担心并非没有道理,据包括雷锋网此前报道,2017、2018年已经出现过多起大型数据泄露问题,泄露的数据包括社交、酒店、企业等各个领域,涵盖各类个人隐私、企业机密数据。

早在今年1月中旬,谷歌就曾因违反欧洲《通用数据保护条例》被法国国家数据保护委员会处以5000万欧元的罚款。《通用数据保护条例》在2018年5月25日就已经正式生效,欧盟通过立法对用户数据收集等相关行为进行了严格的规定。

数据泄露似乎成为了当下大家都在关心,却难以避免的问题。而这样的困局也将在相关法规、企业监管、产业环境进一步完善后,建立起大数据时代的规则和文明。

不过,立法对于科技巨头的“监听风云”很可能治标不治本。就全球数亿台智能音箱、数十亿智能手机的用户而言,语音的“隐私”何时能被真正保护,仍然任重道远。

IT之家注:本文来源于微信公众号懂懂笔记,作者:秦军,IT之家获授权转载。

相关文章

No Comments, Be The First!
近期评论
    功能
    网站地图xml地图