网站名字怎么取最好,培训班网站建设,手机系统网站,中国建设银行移动门户网站来源#xff1a;科学网近日#xff0c;一款名为“ZAO”的换脸APP引发舆论关注。用户上传照片#xff0c;就可以把影视剧主角的脸替换成用户自己的脸。在过把“明星瘾”的同时#xff0c;也让大众关注到“换脸”带来的个人信息泄露风险。信息时代#xff0c;“脸面”不仅仅… 来源科学网近日一款名为“ZAO”的换脸APP引发舆论关注。用户上传照片就可以把影视剧主角的脸替换成用户自己的脸。在过把“明星瘾”的同时也让大众关注到“换脸”带来的个人信息泄露风险。信息时代“脸面”不仅仅是一个人的名片刷脸打卡、刷脸登录、刷脸进站、刷脸付款……面部信息成为个人财产保险箱的一把钥匙。而一旦钥匙掌握在别人手中将会对个人财产安全等构成极大威胁。为此《中国科学报》走访了科研院所、人工智能AI科技企业请技术专家解析以刷脸为代表的生物识别技术背后的安全风险同时进一步探索应如何设置保障措施来应对AI技术打开的潘多拉魔盒人眼难辨造假越来越容易“人工智能带来的安全和隐私问题早已引起国内外的关注AI换脸只是最近出现的一个新例子而已。”中国科学院院士、清华大学人工智能研究院院长张钹开诚布公地说。早在20多年前基于三维模型的AI换脸技术已经走进研究领域但换脸的效果不尽如人意。近年来随着生成对抗网络技术的引入换脸效果大幅提升人眼已经很难发现换脸痕迹。换脸的本质是面部生物信息在人工智能领域的应用此外人类早已实现指纹、虹膜、掌纹、手形、静脉、笔迹、步态、语音等生物信息的应用。但是个人生物信息泄露引发的安全问题从未如此备受关注。谈及原因清华大学孵化的人工智能公司RealAI(瑞莱智慧)算法科学家萧子豪表示一方面近年来大众越来越关注个人隐私问题另一方面AI技术发展迅速技术越来越成熟效果越来越逼真操作越来越简单使得应用领域和场景越来越多。“以前世界顶尖科研团队才能完成的‘换脸术’现在寻常人躺在沙发上动动手指就能轻松实现大大降低了造假成本。” 萧子豪告诉记者。北京邮电大学模式识别实验室教授邓伟洪认为“ZAO”收集的人脸图像和人脸生成技术如果被滥用将会带来极大的风险。此前鉴于对个人隐私获取的担忧美国旧金山、萨默维尔市先后禁止人脸识别的应用。过度攫取用户信息滥用风险加剧“ZAO”引发关注的另外一个重要原因是该应用中含有涉及个人隐私保护的“霸王条款”。该APP最初的用户协议规定用户自行上传的内容一旦发布平台即默许已获得用户和影片原主人公的肖像授权且ZAO及其关联公司有权在全球范围内“完全免费、不可撤销、永久、可转授权和可再许可”地使用、修改、编辑这些内容素材。用户如果不同意协议便无法使用该APP。该规定很快引发公众对个人信息安全及隐私保护的质疑。与此同时相关生物识别技术应用需要用户上传越来越多的个人信息。以“ZAO”为例该APP要求用户提供个人高清图片外还要求上传点头、眨眼等活体检测的视频。萧子豪对记者说软件应用开发方获取大量的个人生物信息后能够丰富训练数据用以模型优化可大大提高应用精度和准确率进而增强用户体验但这也意味着个人信息的完全暴露。今年8月中国信息通信研究院发布的《人工智能数据安全白皮书》显示AI应用可采集的人脸、指纹、虹膜等信息具有强个人属性且具有唯一性。个人数据的过度采集将加剧隐私泄露风险。针对 “ZAO”App用户隐私协议存在不规范行为、存在数据泄露风险等网络数据安全问题9月3日工业和信息化部网络安全管理局对北京陌陌科技有限公司以下简称陌陌科技相关负责人进行了问询约谈。该局要求陌陌科技要“组织开展自查整改依法依规收集使用用户个人信息”同时责令其“规范协议条款强化网络数据和用户个人信息安全保护”。换脸或能突破支付数据管理仅靠自律ZAO引发大量关注之后“支付宝安全中心”8月31日通过官方渠道发布声明称不管换脸有多逼真都无法突破刷脸支付。支付宝安全中心解释说刷脸支付采用的是3D人脸识别技术在进行人脸识别前会通过软硬件结合的方式进行检测来判断采集到的人脸是否照片、视频或者模拟生成的能有效避免各种人脸伪造带来的身份冒用情况。话虽如此但考虑到刷脸支付还没有得到大规模应用潜在的安全风险可能还并未浮出水面。邓伟洪也告诉记者尽管目前还没有利用个人面部信息突破刷脸支付等功能的案例但这并不代表刷脸功能的绝对安全。并且造假生成技术不断升级未来存在突破现有刷脸支付功能的可能性。他介绍了一种可能性AI换脸软件收集了大量人脸图像这些信息如果被滥用技术上可以准确地恢复出用户的三维面部信息结合三维打印模型和面具足够对刷脸支付等系统进行攻击。邓伟洪提出管理部门和学术界应该重视这些风险问题并制定或研发出效的防御策略。应如何保障个人生物信息安全张钹表示至少应该加强管理和约束包括数据的管理和合理使用。他举例最近一些公司的语音合成技术已经达到足可乱真的水平这与“换脸”技术一样很容易被滥用。从这点出发这些公司已经制定了自律规则对这类AI技术加以限制使用以保障用户个人生物信息的安全。“目前个人生物信息获取多少又该如何使用缺乏行业标准。如何制定规则有效管控个人生物信息的使用是当务之急。”张钹告诉《中国科学报》。今年4月清华大学成立了战略与安全研究中心开展国际战略与安全相关的学术研究和政策研究工作。其中AI安全政策的制定正是该中心的一项重要内容。“真相”“假脸”难辨防反之争或将旷日持久目前有没有技术手段能够鉴别哪个是“真相”、哪个又是“假脸”呢答案是既肯定又否定。邓伟洪告诉记者由于原始人脸图像特征已经完全被覆盖目前没有特别可靠的技术可以反推出原始头像。但计算机视觉技术比人眼更精密可以有效地检测出因为换脸留下的图像痕迹。他举例说去年美国国防部发布了一款AI侦测工具对换脸的检测精度可达到99%以上。加州大学伯克利分校的科研人员也提出了通过特定人物的面部行为细节准确地“揪出”模仿各种名人的假视频。邓伟洪所在的科研团队也据此进行了初步的实验。实验结果显示假视频的检测率可达到98%以上。不过在见识了美国国防部研发的“反AI变脸”刑侦工具后达特茅斯大学的数字取证专家Hany Farid 认为目前的一个关键问题是机器学习系统可以接受更先进的训练然后超越当前的反变脸工具。这也就意味着这些“以AI攻AI”的反变脸工具仅仅是个开始——AI视频伪造者和数字刑侦人员之间或将展开一场长期持久的AI军备竞赛。技术滥用频频何以解忧引人深思引发个人信息安全及隐私保护问题的AI技术不只有换脸。近日一组课堂上学生行为分析的视频截图在网上引发热议。照片中摄像头通过计算机视觉算法获取学生的课堂表现并以标签的形式计算出“听讲、阅读、举手、趴桌子、玩手机、睡觉”等动作次数。截图显示该技术方案来自旷视科技。尽管旷视科技随即在9月3日回应称此系该公司“技术场景化概念演示”目前“仅停留在技术展示阶段尚未落地应用”也难免教育界人士直呼智慧课堂行为分析已变成“全景敞视监狱”。AI技术发展至今以“赋能”之姿已在安防、医疗、教育、工业等各行各业带来了巨大变化甚至扮演着颠覆行业的角色。然而面对一波未平一波又起的技术滥用问题AI应用背后的个人隐私保护问题、信息安全问题如何规范使用AI技术的确发人深思。美国一些城市以及欧盟的做法是严字当头甚至采取禁止法案。正如前文提及在旧金山政府机构擅自使用人脸识别技术、“靠人脸识别技术获得某些信息”都是被禁止的违法行为在瑞典一所高中因试验用人脸识别系统统计学生出勤率而被瑞典数据监管机构处以20 万瑞典克朗约合14.8 万元的罚款理由是“数据的所有者及数据的管理者之间存在明显的信息不对称”。“围绕个人隐私、群体安全问题对于人脸识别等技术的使用需要一个平衡。” 商汤科技联合创始人徐冰在近期的一次采访中对记者说“这个平衡就是一个好的规则规范——不仅要去规范人脸识别技术企业还要去规范使用这些技术的政府。”“实际上人脸识别技术所创造的价值是被认可的。”徐冰不希望诸如人脸识别这样的新技术只是简单粗暴地被一禁了之“作为发明和使用新技术的人们都要去认真思考这些问题并且一起努力促使新规范的形成而不是直接禁止掉。”《崛起的超级智能》一书主要阐述当今天人类为人工智能的春天到来而兴奋为人工智能是否超越人类而恐慌的时候一个更为庞大、远超人类预期的智能形态正在崛起种种迹象表明50年来互联网正在从网状结构进化成为类脑模型数十亿人类智慧与数百亿机器智能通过互联网大脑结构正在形成自然界前所未有的超级智能形式。这个新的超级智能的崛起正在对人类的科技产业、经济军事国家竞争产生重要而深远的影响。作者刘锋 推荐专家张亚勤、刘慈欣、周鸿祎、王飞跃、约翰、翰兹未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能互联网和脑科学交叉研究机构。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
