wordpress建站苏州,个人网站建设简历,网站首页网址应该有对应的域名,站长之家psd素材来源#xff1a;36氪无法理解人工智能“黑箱”#xff0c;人工智能就能帮我们理解世界吗#xff1f;编者按#xff1a;机器学习和互联网意味着海量数据和复杂的联系#xff0c;同时也意味着人类无法理解的运行过程——人工智能的“黑箱”是近期学界热议的一个话题#xf… 来源36氪无法理解人工智能“黑箱”人工智能就能帮我们理解世界吗编者按机器学习和互联网意味着海量数据和复杂的联系同时也意味着人类无法理解的运行过程——人工智能的“黑箱”是近期学界热议的一个话题当我们无法理解算法和它生产出的内容它会怎样改变人类的思想和整个世界的运行与此同时完全无法理解这些数据意味着什么的人工智能真的是在分析世界吗技术发展伴随而来的是人类对自身的怀疑也许在未来关于世界的知识和对世界的理解之间的鸿沟会日渐加深。原文标题为Machine Learning Widens the Gap Between Knowledge and Understanding摘自David Weinberger的新书《日常混乱技术、复杂性以及我们如何在一个充满可能性的新世界中发展》EVERYDAY CHAOS: Technology, Complexity, and How We’re Thriving in a New World of Possibility。Deep Patient的程序不知道被敲头会让人类感到头晕也不知道糖尿病人不应该一次吃5磅的三角巧克力它甚至不知道肱骨和腕骨相连。它只知道研究人员在2015年给它提供的东西70万名患者的医疗记录。这是一堆完全没有可理解框架的混乱数据。然而在分析了这些数据之间的关系之后Deep Patient不仅能够诊断出个别患者罹患特定疾病的可能性在某些情况下它甚至比人类医生更准确包括一些迄今为止完全无法预测的疾病。深度学习如果你问你的医生为什么Deep Patient认为现在就开始服用他汀类药物或做个预防性手术可能比较明智你的医生可能没法告诉你原因但这不是因为他/她不够聪明也不是因为他/她医术不高。Deep Patient是一种深度学习的人工智能它本身就是机器学习的一种尽管它不知道这些数据代表什么但它可以发现数据之间的关系。基于此它组装了一个信息点网络——每个信息点都有权重能够决定它所连接的点有多大可能会“触发”该触发会影响它们所连接的点就像触发大脑中的神经元一样。举个例子Deep Patient认为某个病人有72%的几率患上精神分裂症想要理解它为什么会作出这样的诊断医生就必须进入这数百万个信息点以及它们之间的联系和权重网络之中——这实在是太多了他们之间的关系也太复杂了。当然作为一名患者你可以选择拒绝接受Deep Patient的概率性结论但这样做是有风险的。现实情况是在某些情况下Deep Patient比人类医生的预测准确得多但是它完全无法解释它的预测这是一种人工智能“黑箱”。这也是未来远超医学这一个领域。你手机的导航系统、输入预测、语言翻译、音乐推荐等等功能都依赖于机器学习。随着人工智能变得越来越先进它会越来越神秘。谷歌的AlphaGo对围棋一无所知“只是”从13万场有记录棋局中分析出6000万步棋但它依然击败了全世界排名最高的人类棋手。如果你研究AlphaGo的原理想弄明白它为什么会下这一步棋而不是那一步棋你可能只会看到数据之间一组复杂得难以形容的加权关系。AlphaGo可能无法用人类能够理解的方式告诉你为什么它会下这样一步棋。然而AlphaGo的一步棋让一些评论者哑口无言围棋大师樊麾说“这不是人类的一步棋。我从来没见过人类这么走。”然后他轻轻地感叹“太美了太美了。”深度学习的算法之所以有效是因为它们比任何人类都能更好地捕捉到宇宙的复杂性、流动性甚至是宇宙之美——每件事都在影响着其他事物世界是普遍联系的。诸如机器学习这样的工具和策略正越来越多地让我们直面我们日常生活中难以理解的错综复杂。但这种好处是有代价的我们需要放弃我们对于理解世界和世界上发生的事情的坚持。肤浅理解我们人类长期以来都有这样的印象如果我们能够理解事物发生背后那不可改变的规律我们就能够完美地预测、计划和管理未来。例如如果我们知道天气变化的原理天气预报就能告诉我们上班时是否要带把伞如果我们知道是什么让人们在Facebook信息流中点击这个帖子而不是另一个帖子我们就能策划出完美的广告方案如果我们知道流行病背后的发生机制我们就能阻止它的传播……通过发现支配我们世界的规律和模式我们了解了事情是如何发生的我们对理解世界感到义不容辞。考虑到我们的知识总是不完善的这个假设建立在一个更深奥的假设之上可知论。似乎我们与宇宙之间有一个不成文的约定那就是如果我们足够努力、足够清晰地思考宇宙就会交出它的秘密因为宇宙是可知的至少在某种程度上是顺从我们意志的。但是现在我们的新工具特别是机器学习和互联网让我们认识到我们周围数据和信息的广泛性我们开始接受世界的复杂性远远超过我们以往用来解释它的法则和模型。我们创造的这些新的、容量大的机器比我们更接近于“理解世界”的层次。而它们作为机器什么都不理解。David Weinberger的《日常混乱技术、复杂性以及我们如何在一个充满可能性的新世界中发展》EVERYDAY CHAOS: Technology, Complexity, and How We’re Thriving in a New World of Possibility封面这反过来又挑战了我们在更深层次上持有的另一种假设宇宙可知是因为我们假设我们人类足够独特能够理解宇宙的运行。至少从古希伯来人开始我们就认为自己是上帝创造的独一无二的生物有能力接受上帝对真理的启示。自古希腊以来我们就把自己定义为理性的生物能够看到世界表面混乱之下的逻辑和秩序。我们最基本的战略依赖于我们和世界之间的这种特殊关系。放弃人类这个物种的传统自我认知是无比痛苦的。感觉被信息过载压碎紧张地等待接下来的发生在商业、政府、文化中的混乱……这些情绪只是深层问题的局部痛感我们并不像我们认为的那样能很好地适应我们的宇宙。我们的大脑无法像人工智能那样准确、快速地分析或预测事件。进化给了我们适应生存的思维但这种思维只是顺便发现了真相。我们的物种与众不同我们有情感、直觉、创造力这种主张开始变得过于一厢情愿甚至有点绝望。这种幻灭是我们应该接受的——不仅仅是因为不管我们接受与否它都在发生。我们理解和管理未来的能力正开始经历伟大飞跃我们开始制定相关策略开始考虑世界的复杂性而不是总要把世界缩小到一个我们可以预测、控制、感到舒适的大小。我们正在经历这一飞跃因为它已经使我们能够更高效、更有成效地与更多人、更多想法接触更有创意更快乐。它已经使我们在商业和个人生活中的许多最基本的想法和最习惯的做法重新语境化。它正在我们文化的每一个角落产生回响。这些迹象在我们周围随处可见但在许多情况下它们隐藏在看似正常且显而易见的实践和想法中。例如在机器学习出现之前互联网已经让我们习惯了这些变化。A/B测试之谜当巴拉克·奥巴马Barack Obama第一次参加总统竞选时他在自己的网站上试用了两个版本的注册按钮结果发现与“现在加入我们Join Us Now”或“现在注册Sign Up Now”此类按钮名称相比标有“了解更多Learn more”的按钮吸引了更多的点击。另一项测试显示奥巴马一家的一张黑白照片获得的点击量出人意料地远超此前使用的彩色照片。然后他们在同一页面放入“了解更多”按钮和黑白照片结果是注册人数增加了40%。图片来源网络总的来说在竞选中1300万邮件列表名单中将近三分之一的名单、大约7500万美元的捐款都是由于这样的A/B测试提高了网站的表现。A/B测试即网站把一个广告或内容的不同版本分发给一定量的几组随机用户然后用测试结果来决定用户最终将会看到哪个版本的内容。更令人惊讶的是奥巴马团队发现与纯文本信息相比奥巴马在集会上煽动群众的视频点击率要低得多。考虑到奥巴马作为演说家的才能着实不一般这种差异该怎么解释啊团队并不知道他们也并不需要知道。数据告诉他们应该在竞选网站上发布哪些内容即使没有告诉他们原因他们也照做不误。结果很好更多的点击、更多的捐款、可能更多的选票。A/B测试已经成为一种常见的实践谷歌的搜索结果是A/B测试的结果Netflix上电影的布局来自A/B测试甚至《纽约时报》使用的一些标题也是A/B测试的结果……2014年至2016年必应的软件工程师进行了2.12万次A/B测试其中三分之一的测试给服务带来变化。A/B测试有效果甚至不需要懂它为什么有效。为什么在亚马逊上如果笑容灿烂的女性图片在网页左边的话该广告会提高销量呢我们可以制造一个理论但我们仍然建议针对下一个广告的位置进行A/B测试。奥巴马的黑白照片吸引了更多点击并不意味着他的对手约翰·麦凯恩John McCain也应该弃用他的彩色照片。亚马逊为户外烧烤架进行推广活动时使用蓝色背景而不是绿色背景这让我们没有理由认为它有可能会适用于室内烧烤。事实上影响人们偏好的因素完全有可能是微观的、短暂的。也许50岁以上的男性更喜欢模特在左边的广告但前提是广告的标题很有趣而来自底特律的女性在两天阴沉沉的天气之后终于呼吸到灿烂的阳光她们这会儿更喜欢模特在右边的广告。也许有些人刚看完对比度强烈的视频他们现在更喜欢黑白照片而其他人则可能因为洋基队刚输掉一场比赛而更喜欢彩色的版本。也许会出现一些能够归纳的理论也许不能我们不知道。原因可能和世界本身一样千差万别。我们从小就相信世界的真相和现实是由一些不可改变的规律来表达的。学习规律你就能做出预测。发现新的规律你就能预测更多的事情。如果有人想知道你是如何做出预测的你可以向他们展示你所掌握的规律和数据。但是在A/B测试中我们通常没有心理框架来解释为什么一个版本的广告比另一个版本更好。想想扔沙滩球。你认为球将向你扔的方向呈抛物线运动因为我们的心理模型——我们思考事物相互作用的一套规则——考虑了重力和动能。如果球向另一个方向运动了你也不会认为模型错了相反你会认为你没有考虑到一些因素也许你手滑了一下。这正是我们在A/B测试中不需要做的事情。我们不需要知道为什么一张黑白照片和一个“了解更多”按钮会增加竞选捐款。如果我们发现民主党人的竞选广告经验对他/她的共和党对手不起作用——他们很可能确实不会起作用——那也没关系因为再做一次A/B测试就好A/B很便宜。A/B测试只是一个例子它在不知不觉中向我们表明原理、规律和归纳并不像我们想象的那么重要。也许只是也许当我们无法处理现实的细枝末节时我们才会用到原理。复杂性的有效性我们刚刚看了两个基于计算机的技术案例它们完全不同一个是编程技术机器学习另一个是全球性的空间互联网我们在互联网遇到更多的人欣赏他们对意义和创造力的表达。当然这些技术通常是相互交织的机器学习需要使用互联网大规模收集信息越来越多基于互联网的服务同时使用、喂养机器学习。这两种技术至少有三个共同点巨大性、联系性、复杂性这三个共同点一直在教导我们世界是如何运行的。巨大性——即它们的规模——与我们参观世界上最大的麻绳球故乡或想象把世界上所有的土豆都堆在一起时完全不同。巨大性的重要性在于机器学习和互联网能达到的细节水平。这两种技术都依赖于细节和独特性而不是通过归纳或压制“边缘”信息和思想来摆脱细节。联系性意味着这两种技术所包含的各个部分可以相互影响而无需顾虑物理距离造成的障碍。联系性对这两种技术至关重要只能连接两个部分、一次只能连接一对的网络可不能叫做互联网只能叫做旧的电话系统。我们新技术的联系性是规模巨大的、多途径的、无距离的也是必不可少的。机器学习和互联网的巨大性和联系性导致了它们的复杂性。规模巨大的碎片之间的联系有时会导致一连串的事件而这些事件的结局可能与它们开始的地方相去甚远。微小的差异可能导致这些系统出现意想不到的巨大转折。我们不是因为这些技术的巨大性、联系性、复杂性而使用这些技术我们使用它们是因为它们有效。我们利用这些技术的成功——而不是技术本身——向我们展示了世界比我们想象的更加复杂和混乱这反过来鼓励我们探索新的方法和策略挑战我们对理解和解释的本质和重要性的假设并最终引导我们对世界有一个新的认识。未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能互联网和脑科学交叉研究机构。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
