简单网页设计作品欣赏,重庆建网站优化,深圳响应式网站建设,一般做自己的网站需要什么源#xff5c;新智元文#xff5c;好困 David你绝对想不到#xff0c;自己在家上厕所的「实时动态」#xff0c;不仅被拿去给AI做了训练数据#xff0c;而且还被发到了网上#xff01;最近#xff0c;《麻省理工科技评论》在一篇万字长文调查中#xff0c;就曝光了这样…源新智元文好困 David你绝对想不到自己在家上厕所的「实时动态」不仅被拿去给AI做了训练数据而且还被发到了网上最近《麻省理工科技评论》在一篇万字长文调查中就曝光了这样触目惊心的一幕——图中一位女士穿着淡紫色T恤的年轻女子正坐在自家的马桶上而她的短裤已经脱到了大腿中部。萌萌的TA竟然是个偷窥狂时间回到2020年秋天一系列从低角度拍摄的照片突然出现在了网络论坛上。其内容全是家庭生活中场景——家具的陈列电视播放的节目内容甚至连家庭成员的脸都看得一清二楚。比如在下面这张图中一个八九岁的男孩正趴在走廊的地板上并很高兴地注视着面前的这个物体。根据爆料这些图片全部由iRobot开发的Roomba J7系列扫地机器人拍摄之后则会被发给Scale AI进行处理也就是那个大名鼎鼎的人工智能数据标注公司。Scale AI成立于2016年在其专有的众包平台Remotasks上公司会以十分低廉廉的费用与较不富裕国家的远程工人签订合同并由此建立了一个非常成功商业模式。而这家公司的创始人Alexandr Wang曾经从MIT辍学并白手起家并在今年也就是25岁时成为了全球最年轻亿万富翁。值得注意的是人脸信息在原图中其实是清晰可见的。我们看到的灰框框是《麻省理工科技评论》为了保护隐私特地手动打上去的。那么问题来了这些信息理论上应该是在严格的存储和访问控制之下的。然而实际情况却是它们被负责标注的工人分享到了网上。这些由机器人拍摄的画面展示了世界各地的家庭房间有些是人住的有些是狗住的。家具、装饰品和位于墙壁和天花板上的物体被矩形框勾勒出来并附有「电视」、「植物或花」和「天花板灯」等标注。对此世界上最大的扫地机器人供应商iRobot证实这些图像是由自家的Roombas在2020年拍摄的。公司在一份声明中表示所有这些图像都来自 「经过硬件和软件修改的特殊开发机器人这些机器人现在和将来都不会出现在iRobot的消费者产品上」。此外iRobot还表示他们已经与Scale AI分享了超过200万张图片并与其他数据标注平台分享了数量不详的图片。机器学习革命带来了什么今天越来越多的扫地机器人已经转向计算机视觉通过训练算法从图像和视频中提取信息来接近人类的视觉甚至配备激光雷达该技术被广泛认为是当今市场上最精确但最昂贵的导航技术。计算机视觉依赖于高清摄像头越来越多的公司在其机器人真空吸尘器中安装了前置摄像头用于导航和物体识别以及越来越多的家庭监控。为了使扫地机器人中的计算机视觉真正按预期工作需要在高质量、多样化的数据集上对其进行训练以反映它们可能看到的巨大范围。与自动驾驶汽车相比扫地机器人面临的家庭环境更难以标准化训练难度可想而知。这时候训练数据往往需要是更加个性化、私密化的而且需要以大量的用户基数为支撑收集这样的数据需要用户的同意。以本文iRobot为例其95%以上的图像数据集来自真实的家庭这些家庭成员要么是iRobot的员工要么是由第三方数据供应商招募的志愿者。根据iRobot的一份声明使用开发设备的人同意让iRobot在设备运行时收集数据包括视频流并可由此换取「奖励」。但公司拒绝说明这些激励措施是什么只说它们「根据数据收集的长度和复杂性」而有所不同。《麻省理工科技评论》采访的大多数扫地机器人公司明确表示他们不使用客户数据来训练他们的机器学习算法。然而在东北大学研究物联网设备安全漏洞的博士生Dennis Giese在对这些机器人进行逆向工程之后发现它们的管理软件中有一个名为「AI服务器」的文件夹并有图像上传功能。这么看来这些公司所谓的「摄像头数据永远不会被发送到云端」其实很难成立。但即便如此如果这些公司自己不说或者没有遭到黑客攻击的话没有人能够验证他们以「训练模型」为由从客户那里具体收集了什么。我们的数据是怎么泄露的众所周知机器学习算法的训练需要投喂大量的数据。过程中所依赖的标注数据则需要消耗非常多的人力资源才能完成。作为一个新兴但不断增长的行业数据标注预计到2030年将达到133亿美元的市场价值。目前来说负责对数据进行标注的通常是发展中国家的低薪合同工。他们通过转录低质量的音频改善语音识别软件并通过标记照片和视频帮助扫地机器人识别环境中的物体。2020年Scale AI发布了一项全新的任务——Project IO。其特点是视角从地面以大约45度向上图像内容为世界各地的墙壁、天花板和地板以及上面的各种东西当然也包括人。通常来说这些负责标注的工人会在Facebook、Discord和其他社交平台上建群然后在其中讨论和工作有关的各种问题比如分享处理延迟付款的建议谈论报酬最好的任务或请其他人帮忙等等。对此iRobot表示在社交媒体群组中分享图片违反了Scale与它的协议Scale AI也表示合同工分享这些图片违反了他们自己的协议。但现实情况是这种行为在众包平台上是几乎不可能被监管到的。惊喜你可能已经同意了扫地机器人制造商自己也认识到设备上的摄像头带来的更大的隐私风险。对于摄像头带来的隐私风险iRobot表示公司已经对此采取很多保护措施包括使用加密定期修补安全漏洞限制和监控内部员工对信息的访问并向客户提供有关其收集的数据的详细信息。但是公司谈论隐私的方式和消费者理解隐私的方式之间存在很大差距。Mozilla的隐私安全项目的研究员Jen Caltrider表示在企业看来数据安全指的是产品的物理和网络安全或者它对黑客或入侵的脆弱性。而数据隐私是关于透明度知道并能够控制公司拥有的数据如何使用为什么分享是否保留、以及保留多久等等。他们有时会使用微妙的措辞差异比如使用「共享」数据而不是出售数据这使得如何处理隐私对于非专业人士来说特别难以解析。只不过当一家公司说它永远不会出售你的数据时它很可能会使用或与他人分享这些数据。根据公司措辞含糊的隐私政策这些广泛的数据收集定义往往是合乎规定的几乎所有的隐私政策都包含一些条款允许将数据用于「改善产品和服务」用语非常广泛基本上拿来干什么都行。事实上《麻省理工科技评论》审查了12个扫地机器人的隐私政策所有这些政策包括iRobot的都包含类似的表述。此外大部分公司也都没有回应关于所谓「产品改进」是否包括机器学习算法的问题。在隐私条款中列明的「不公平」或「欺骗性」的做法基本上都是狭义的也就是说除非隐私政策明确规定 「嘿我们不会让承包商看你的数据」然后还是分享了数据否则公司方面在法律上就是没问题的。扫地机器人只是个开始对数据的渴求在未来几年只会增加。扫地机器人只是在我们生活中大量出现的联网设备中的一小部分而扫地机器人领域的大公司包括iRobot、三星、Roborock和戴森等都表示出了比「扫地」更宏大的野心。机器人技术包括家用机器人技术长期以来一直是真正的香饽饽。而且真正的重点不在于扫地而在于机器人。2018年时任iRobot技术高级副总裁的Mario Munich就在一次演讲中解释过这个问题。在关于该公司第一台计算机视觉扫地机器人Roomba 980的演示中他展示了来自该设备有利位置的图像包括一个有桌子、椅子和凳子的厨房旁边是机器人算法对它们的标记和感知。实际上的挑战不在于吸尘而在于机器人他解释说。如果我们能够更充分了解环境就能够改变机器人的操作。制造扫地机器人的公司已经在投资其他功能和设备使我们更接近机器人的未来。可想而知的是这样的业务多样化大潮带来的是对数据标注在深度和广度上巨大需求的双重增长一旦这种需求没有有效监督或者超出了监管的能力对隐私的侵犯就变得几乎不可避免。而很多时候这种侵犯是以一种便捷、易用、智能的方式进行的。后台回复关键词【入群】加入卖萌屋NLP、CV、搜推广与求职讨论群 [1]https://www.technologyreview.com/2022/12/19/1065306/roomba-irobot-robot-vacuums-artificial-intelligence-training-data-privacy/
