专业网站设计制作费用,wordpress uc,凡科网站建设推广,找人做一个网站需要花多少钱来源#xff1a;AI科技评论编译#xff1a;辛西娅审核#xff1a;维克多对于人类社会#xff0c;人工智能#xff08;AI#xff09;带来的最大威胁是什么#xff1f;好莱坞科幻电影的“想象”提供了答案#xff1a;它逐渐进化#xff0c;获得人类思考能力#xff0c;… 来源AI科技评论编译辛西娅审核维克多对于人类社会人工智能AI带来的最大威胁是什么好莱坞科幻电影的“想象”提供了答案它逐渐进化获得人类思考能力然后变成霸主奴役或毁灭人类。也有些观点认为在AI不知不觉杀死所有人之前会存在许多危险情形。2022年1月份IEEE Spectrum访谈了多位技术专家列举出了当前6种AI危险事例这些危险比科幻电影的描述“风平浪静”却同样具有威胁性如果放任自由会有意想不到的后果。它们分别是虚拟定义现实、AI军备竞赛、隐私透明、斯金纳箱现象、AI偏见以及过度担忧AI影响。1当虚拟定义现实……当人类无法区分数字世界中的真实与虚假时会发生什么设想这样一个场景AI已经拥有完美生成的能力利用先进的机器学习工具生成的图像、视频、音频和文本已经“以假乱真”。但如果决策者陷入假信息旋涡并做出决断不可避免会导致危机。当上升到国家高度甚至会发动战争。乔治敦大学的研究员安德鲁•罗恩Andrew Lohn认为AI已经能够产生大量以假乱真的信息。而且AI的特点是“随着大量信息的生成系统会不断与真实信息进行对比并且升级生成能力”。AI信息生成技术也被称为“DeepFake”其带来的恶作剧已经造成了某些影响。例如去年5月份一些欧洲高级议员收到了一些“俄罗斯反对派人物”的视频会议邀请还煞有其事地讨论了克里米亚问题之类的政治事务结果发现在这些所谓的“俄罗斯反对派人物”都是别人用Deepfake换脸假冒的。这些受骗者包括拉脱维亚议会外交事务委员会主席Rihards Kols以及来自爱沙尼亚和立陶宛的议员……2一场危险的逐底竞赛当谈到AI和国家安全时开发速度既是重点也是问题所在。由于AI系统能为用户带来速度优势所以最先开发军事应用的国家将获得战略优势。但是一味追求速度可能会牺牲哪些设计原则呢首先是“质量”问题。例如黑客会利用系统中微小的缺陷。乔治敦大学的海伦·托纳Helen Toner表明“从一个无伤大雅单点故障开始然后所有通信失灵人们恐慌经济活动陷入停滞随后持续的信息缺乏再加上其他错误计算可能导致局势失控。”另一方面瑞典的斯德哥尔摩国际和平研究所高级研究员文森特•布拉南警告可能发生重大灾难“大国为了赢得先发制人的优势而‘偷工减料’如果一个国家将开发速度置于安全、测试或人为监督之上那么这将是一场危险的竞逐。”例如为了获得速度优势国家安全领导人可能会倾向于授权指挥和控制决策取消黑盒机器学习模型的人为监督。想象一下如果自动发射导弹防御系统处于无人监督的环境下会发生什么3隐私和自由意志的终结使用数字技术的过程中产生了大量的电子数据例如发送电子邮件阅读文本下载购买发帖等等。当允许公司和政府访问这些数据时也意味着赋予工具监视和控制我们的权限。随着面部识别、生物识别、基因组数据分析等技术兴起。安德鲁•罗恩担心“我们有时候并没有意识到大数据跟踪和监视技术的不断发展会使我们进入了未知的危险领域。”数据一旦被收集和分析其作用就会远远超出跟踪和监视的功能例如AI的预测性控制功能。今天AI系统可以预测我们将购买哪些产品我们将观看哪些娱乐节目以及我们将点击哪些链接。当这些平台比我们自己更了解我们时我们可能不会注意到这种微小的变化但它剥夺了我们的自由意志并使我们受到外部力量的控制。4人类的斯金纳箱实验曾经在20世纪70年代有位叫做Walter Mischel的研究专家在美国斯坦福大学附属幼儿园基地内进行了著名的“棉花糖”实验又称——“延迟满足”实验。而这个实验的观察数据以及后期对这些孩子的追踪观察说明那些延迟满足能力强的孩子自我控制能力也就越强可以在没有外界监督的情况下自主性的控制调节自身行为在某一个任务完成程度上要更胜一筹。当前具备延迟满足能力孩子也会屈服于AI算法给出的诱惑。进一步社交媒体用户已经成为实验室中的老鼠生活在斯金纳盒子里。这些用户沉迷于手机被迫牺牲更多宝贵的时间和注意力在数字平台上。海伦·托纳认为“算法经过优化可使用户尽可能长时间地‘留’在平台上。”著名作家马尔科姆·默多克解释道“通过以喜欢评论和关注的形式提供奖励算法会缩短我们大脑的工作方式让我们不自觉地去参与下一个。”为了最大化广告利润公司把我们的注意力从工作、家人、朋友责任甚至爱好上转移。更糟糕的是如果推送内容质量下降用户会痛苦和暴躁。海伦·托纳警告“我们在平台上花费的时间越多花在追求积极、高效和充实生活上的时间就越少。”5人工智能设计的“暴政”把更多的日常生活交给人工智能机器是有问题的。即使出于最好的意图AI系统的设计包括训练数据和数学模型也反映了编程人员的“狭隘”经验和兴趣。当前许多AI系统没有考虑到不同人的不同经历和特征AI模型的训练往往基于有偏见的观点和数据无法充足考虑每个人的独特需求来解决问题因此此类系统在人类社会中缺乏一致性。甚至在AI大规模应用之前对日常生活中常见物品的设计往往也是迎合了特定类型的人。例如研究表明汽车、包括手机在内的手持工具甚至办公室环境中的温度设置都是为适合中等身材的男性而设置的这使得包括女性在内的各种身材和体型的人处于劣势有时甚至会对他们生活造成危害。当不属于有偏见规范的个人被忽视、边缘化和排斥时AI就会变成卡夫卡式的守门人拒绝提供客户服务、工作、医疗等服务这些设计决策的目的约束人们而不是将他们从日常事务中解放出来。此外这些选择还可以将一些最恶劣的偏见转化为种族主义和性别歧视造成严重缺陷和有偏见的判决结果。6对人工智能的恐惧剥夺了人类的利益构建机器智能的过程最终以数学为中心正如默多克所言“如果我们不注意的话线性代数会做非常疯狂而强大的事情。”但是如果人们变得极度害怕AI并且督促政府通过剥夺“AI便利”方式对其进行监管那会怎样呢毕竟AI已经帮助人类实现了重大科学进展例如DeepMind的AlphaFold模型通过氨基酸序列精确预测蛋白质折叠结构方面取得了重大突破使科学家能够识别98.5%的人类蛋白质的结构这一里程碑将为生命科学的快速发展提供坚实的基础。考虑到这些AI好处政府为防范“AI作恶”而采取的下意识监管行动也可能适得其反并产生它们自己意想不到的负面后果在这些后果中我们对这项巨大技术的威力感到如此恐惧以至于我们拒绝利用它为全世界带来实际好处。参考链接Via https://spectrum.ieee.org/ai-worst-case-scenarios未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市大脑研究计划构建互联网城市大脑技术和企业图谱为提升企业行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
