怎样设计静态网站页面,百度云服务器一年多少钱,网站的栏目和板块,爱给网素材官网app作者#xff1a; 思颖、李诗概要#xff1a;日前 AAAS 在 reddit 上组织了一场问答#xff0c;Facebook 人工智能研究院 Yann LeCun#xff0c;微软研究院院长 Eric Horvitz#xff0c;谷歌研究总监 Peter Norvig 共同出席此次活动#xff0c;回答了观众提出的一系列问题… 作者 思颖、李诗概要日前 AAAS 在 reddit 上组织了一场问答Facebook 人工智能研究院 Yann LeCun微软研究院院长 Eric Horvitz谷歌研究总监 Peter Norvig 共同出席此次活动回答了观众提出的一系列问题。日前 AAAS 在 reddit 上组织了一场问答Facebook 人工智能研究院 Yann LeCun微软研究院院长 Eric Horvitz谷歌研究总监 Peter Norvig 共同出席此次活动回答了观众提出的一系列问题包括如何研究更通用的人工智能如何看待深度学习热AI 的下一个突破点量子计算是否会对 AI 产生影响用户的安全隐私问题等。Q现在为了让 AI 在围棋中战胜人类选手或者使用深度学习解决特定的科学任务我们投入了很多人力物力。取得的成就虽然很棒但 AI 能解决的问题极其有限。能否找到一种苏格拉底式的 AI能阐明它胜任的所有任务背后的原理。目前不将上百万种特定的 AI 组合在一起你没法构建一个通用的 AI 系统。如何将只能解决特定问题的人工智能转为更通用的人工智能Yann LeCun在我看来让机器通过观察来学习预测模型是 AGI通用人工智能的最大障碍。这并不是唯一方法。人类婴儿和许多动物似乎通过观察世界、与其交互得到一种常识 (与我们的 RL 系统相比需要的交互非常少)。我的直觉是大脑中很大一部分相当于预测机器它训练自己去预测它所能预测的一切 (从观测中预测出未观测到的变量例如通过过去和现在预测未来)。可以用预测模型计划和学习新的任务这一过程中只需与世界进行极少的交互。目前的「无模型」RL 系统像 AlphaGo Zero需要与「世界」进行大量的交互来学习 (尽管他们确实学得很好)。这种系统在围棋和象棋上都做得很好因为这里的「世界」很简单是确定的而且可以在多个电脑上同时高速运行。与这种「世界」进行互动是可行的成本极低。但这在现实世界中行不通你不可能为了让系统只是学会不在悬崖边开车而让它在悬崖边开无数次车。大脑中的模型告诉我们在悬崖边开车是个坏主意。我们只需要一次就知道这个道理了。而如何让机器来学习这样的模型?Eric Horvitz是的可以这样形容最近一系列取得胜利的 AI 系统——聪明而又片面的「学者」。人类智力背后存在着无数的未解之谜我们并没有取得多大进展。包括「人工智能」其背后也存在一系列亟待解决的问题。这些问题中包括人们如何在开放的世界中以一种「无监督」的方式学习人类「常识」背后的机制和原理以及人类是如何轻松将事情进行归纳总结的。目前有几个研究方向可以回答这些挑战其中包括不断推动在特定领域和某些应用领域的研究那里一定会出现突破。然而我认为我们需要追求更通用的人工智能。方法之一是采用综合人工智能我们是否能将多种能力 (如语音识别、自然语言、视觉、规划和推理) 整合起来探究整合过程中的需要解决的难题。另一种方法是不断推动 DNNs 这种核心方法的发展并追求更通用的解决问题的方法。我认为这一领域的突破很难实现但将非常有价值。下面这篇文章是关于通用 AI 框架的一些有意思的发展方向http://erichorvitz.com/computational_rationality.pdfQ目前很多关于机器学习的研究都转向了深度学习。1这会减少机器学习研究的多样性吗2为了支持深度学习研究其他的范式如概率图模型、支持向量机等的研究会被抛弃吗正如 90 世纪的深度学习一样也许现在这些表现不好的模型在未来会表现得很好。Yann LeCun随着我们在 AI 上取得进步我的感觉是深度学习只是解决方案的一部分。在复杂的可能是动态的图形中集成参数化模块并从数据中优化参数的想法并没有过时。从这个意义上说只要我们还没有找到不需要使用梯度来优化参数的好办法深层学习就不会消失。也就是说正如我们今天所知道的那样深度不足以构成「完整」的人工智能。我一直喜欢说定义动态深层结构的能力即按照程序定义计算图其结构随着新的输入而改变的能力可以将深度学习推广为可微编程方法。但事实上我们至少遗漏了两件事1可以推理的机器而不仅仅是感知和分类2机器可以通过观察世界来学习而不需要人类策划的训练数据不需要与世界进行太多次交互。有些人称之为无监督学习但这个短语太模糊了。我们需要机器学习的一种方式是学习人类的婴儿和动物他们主要通过观察来建立世界模型并且有非常少量的交互作用。这是下一个十年的挑战。至于问题2深度学习和图形模型之间没有对立。你可以这样使用图形模型比如因子图其中的因子是整个神经网络。这些是正交概念。人们曾经在深度学习框架的基础上建立了概率规划框架。例如 Uber 的 Pyro它是通过 PyTorch 建立的概率编程可以看作图形模型的推广、类似可微编程是深度学习的泛化推广。事实证明在图模型中使用反向传播进行推理是非常有用的。当数据匮乏并且可以手动特征化时SVM、核方法、树模型等更好用。Eric Horvitz人们对于深度神经网络在预测任务和分类的能力感到很兴奋。将其应用于对象识别、语音识别、翻译结合强化学习思想等的准确率不断提高。然而AI 是一个宽广的领域有着大量有前途的分支学科——并且 AI 的机器学习分支也还有着大量的分支。我们需要继续开发有潜力的 AI 技术包括概率图模型、决策理论分析、逻辑推理、规划、算法博弈论、元推理和控制论等已有的丰富成果。我们还需要将领域进行扩展例如将有限理性模型推广到开放世界中研究智能体。在微软研究室我们在 DNNs 上付出了不少努力投资更广泛的 AI 项目。我们也对如何结合逻辑推理、DNNs 和其他的机器学习感兴趣。例如你可以看看我们用 DNNs逻辑来自动编程的例子。Q你认为深度深度学习只是一时的潮流还是长期的趋势虽然我了解到基于深层学习的模型使得计算机视觉和 NLP 方面有了巨大的改进。你认为深度学习是解决视觉和 NLP 问题的模式吗或者不久就会有新的范式出现Peter Norvig我认为「深度学习」这个品牌已经创造了很大的价值因此不管基础技术有多大变化它还会维持很长一段时间。即使 CNNs 和 Relus 兴起我认为「深度学习」这个名字还将持续。至于基本概念或方法我认为我们在模式匹配问题上做得很好但在关系推理和规划方面做得并不好。我们可以做一些抽象的形式所以我们需要大量的新思想。Q我想知道是否有人试图设计一种模仿情感的奖励系统。我相信人工智能系统必须与世界有某种联系「情感」是真正把我们与环境结合在一起的粘合剂。我正在想象 AI 通过完成一项任务能达到的某种状态。例如我们有可以打败国际象棋大师的计算机但我们能拥有想要赢的计算机吗一个想法可能是分割数据如果完成了一个任务就会打开一个分区。所有的生命形式都通过一种奖励制度进化。Peter Norvig事实上阿尔法狗等系统在围棋对弈以及其他游戏中取得的成果主要来源于一个系统的奖励我们称之为「强化学习」。Alpha Zero 只从输掉一盘游戏或者赢得一盘游戏中获益没有任何预先的专家知识有的只是游戏的规则和「尝试更多能获得积极奖励的行为更少获得消极反馈的行为」。所以从某种意义上说Alpha Zero 唯一「想要」的是赢。在另一个意义上说它不想任何东西它没有感受或好或坏的事情的感觉它只是想从计算上获得最大的比分。Q很多传统统计模型的价值在于我们能清楚地知道模型在做什么它们是如何得出结论的在推断/预测时的不确定因素。深度学习的方法在预测方面也很不错但它们往往是「黑箱子」。对于 ANNs 等模型的内部机制我们有哪些了解了解模型的内部机制是否重要我认为在做重大决策例如自动驾驶、临床决策时了解模型的内部机制极其重要。Peter Norvig这是当前研究的一个重要领域。你可以从 Big Picture blog 或 Chris Olah 的博客中看到谷歌是如何来进行这一研究的。我认为理解上的困难更多的是来自于问题本身而不是解决方案。当然二维线性回归极易理解但它不适用于非良好线性模型问题。同样地随机森林或者标准的 Python/Java 代码中「if/then」规则很容易理解但是如果这些规则真的是一目了然的话代码中就不会有 bug 了。我想说的不仅仅是「理解」还有「可信度」。我们什么时候可以信任一个系统特别是当系统做出重大决策的时候。有很多方面是否可以理解代码/模型模型是否长期在很多案例上得到过验证是否能确信世界没有发生变化将我们带入模型从未见过的状态模型能否抵抗对抗性攻击模型能否抵抗 degradation 测试即故意削弱模型的一部分看其他部分如何工作过去是否有成功的相似技术模型是否被持续监控、验证和更新模型外部采取了哪些检查措施有其他系统检查输入和输出系统吗采取什么语言与系统通信能问系统正在做什么吗我能给它一些建议吗如果它出错了我只能给它成千上万个新的训练案例吗是否可以直接对它说「不你得出的 X 是错误的因为你忽略了 Y。」……这是一个很伟大的研究领域希望未来看到更多的工作。Q你认为 Capsule 网络怎么样除了 MultiMNIST你们在其他数据集上有成功应用过它吗当输入更多数据时CNN 和它相比如何Yann LeCun将胶囊网络应用于大规模的数据集是个不错的想法Geoff Hinton 已经思考了几十年。他一直在寻找将其成功用于 MNIST 上的方法如果想要将其成功用于 ImageNet 或其他数据集上也需要花费很多的精力。此外也不知道其在性能上是否存在优势。胶囊网络可以看成是一种具备特殊池化方式的卷积网络。Q你们在研究 AI 时发现最吓人的事情是什么Yann LeCun: 这项研究没有什么可怕的与一些小报有时声称的相反。可怕的事情只发生在人们试图过早地部署 AI 系统时。特斯拉自动驾驶仪功能超酷但是作为一个司机你必须理解它的局限性以便安全地使用它它使用的是卷积网。Eric Horvitz: 对于如何在安全关键领域部署人工智能我们有一些自己的理解——例如当机器和人员协同工作时我们努力实现「人工智能协作」。我们在 AAAS 会议上有讨论这个话题https://aaas.confex.com/aaas/2018/meetingapp.cgi/session/17970Q当人工智能机器人能够比任何一个团队更好地预测/引起市场波动然后以闪电般的方式买卖股票、产品、土地等会发生什么我们能采取什么样的保障措施来防止 AI 的一些先驱者称霸世界市场Peter Norvig多年来有大量交易者将先进的统计模型运用到股票市场取得了不错的成果。无论你有多聪明你始终不知道还有多少空间能让你把事情做的更好。就我个人而言我认为我们应该提前几年就采取行动通过控制交易的速度/或在交易上施加更高的成本来抑制定量交易的效果。比我更了解交易的人或许有更好的保障办法但我不认为 AI 从根本上改变了规则。Yann LeCun你越能准确地预测的市场你就使得市场越难预测。完全有效的市场是完全不可预测的。因此如果市场完全由一系列完美的或准完美的自动交易系统组成每个人都会得到完全相同的回报这与市场指数的表现相同。Q量子计算的进步驱动了 AI 研究吗如何看待二者在未来的融合Peter Norvig目前我想做的很多事情量子计算都帮不上忙。我经常想要通过一个相对简单的算法来处理海量文本而量子计算对此并无帮助。不过量子计算可能有助于更高效地搜索深度网络的参数空间。我不知道是否有人做出了这样的量子算法不需要考虑如何用硬件来实现如果在理论上可行也可能会有所帮助。Yann LeCun驱动当然不是量子计算对于 AI 的影响如何说实话我目前还不清楚。我认为它在短期内不可能对 AI 产生影响。Q许多人在使用搜索引擎和 SiriGoogle Home 等语音助手时都会担心隐私泄露。当 AI 成为我们生活中密不可分的一部分时有什么措施可以使得用户在使用 AI 的同时保护其行为数据Eric Horvitz我能理解这种担心我们公司的员工对于终端用户数据采取了严格的匿名措施数据短暂停留后就会被删除并且为用户提供了多种方法来观察控制和删除数据。我相信 Google 和 Facebook 也采用了同样严格的方法对此我没有什么不满。随着欧盟发布的「一般数据保护条例」(GDPR) 开始实施对于用户数据的把控会越来越严格。在保护用户隐私方面的努力让人觉得很棒例如私下训练 AI 系统和为用户提供更多选择。在几年前 IAPP 的会议上曾讨论过后者的解决方案可以在这里查看http://erichorvitz.com/IAPP_Eric_Horvitz.pdfQ这些发展 AI 的公司特别是 Facebook背后的动机是什么呢在我看来用户并不像 AI 公司那样关心 AI。一些公司借助 AI 来手机用户数据来盈利更是激化了用户与公司之间的矛盾。如何让像我这样的用户相信这些产品不是打着 AI 的旗号实际上是为了收集用户数据Peter Norvig你提到了数字助手我认为这个技术明显是站在用户一边的你的数字助理将是你的——你可以训练它去做你想做的事情在某些情况下它只会在你的设备上运行你的私人数据没有其他人可以访问它的内部工作。它将作为你的代理人你不用直接去一家大公司的网站希望他们能提供给你有用的东西而你的代理人会整理这些产品确保你得到你想要的东西。Yann LeCun这对于我们科学家来说不成问题。真正的问题是「你信任你的数据吗」你相信你的手机公司你的 ISP你的手机/操作系统制造商你最喜欢的搜索或社交网络服务你的信用卡公司你的银行你使用的每一个移动应用程序的开发者吗看看它们的数据政策选择你可以信任的产品确认他们不向第三方销售或泄露你的数据。在数据上遵从伦理并不会带给公司利益冲突因为从长远来看遵从数据伦理是唯一的好政策。Eric Horvitz我同意彼得的观点。在构建个人代理方面存在着一些有趣的可能性这些代理只根据他们所服务的人的偏好共享数据并且这些代理只会根据所有者的指令行事。这是一个不错的研究领域。Q 我是本科新生几年前我就想在 AI 领域工作但是除了我的教授们我没有任何的资源。我的学校很小要参加招聘会都得去别的城市我如何能与 AI 领域产生更多的联系呢Peter Norvig我建议你自己通过课程或讨论论坛在线交友继续学习。明显地要凭借小学校的项目找到 AI 方面的工作很难。但是你可以在一家大公司获得软件工程师的职位一旦你到了那里表达你对 AI 的兴趣在工作中学习密切关注你所能从事的与 AI 相关的项目并且很有可能在更短的时间内取得博士学位你将成为公司中一个公认的人工智能专家。Q我是一名学习核工程/等离子体物理学研究生正计划转向 AI 研究。关于 AI 领域AI 研究的下一个里程碑会是什么目前需要攻克哪些挑战来达到这些里程碑关于专业技能我需要具备哪些关键技能/知识刚入门的人该如何学习Yann LeCun深度无监督学习、可以进行推理的深度学习系统是下一个里程碑。无监督学习需要面临的挑战学习世界的层次化表征以理解变化的解释因素。如何在不完全可预测的世界中进行预测这是机器需要学习的。关键技能良好掌握数学线性代数、多变量微积分、概率统计、优化学等、熟练的编程技能、科学方法论。总的来说创造力和知觉也很重要。Peter Norvig我对能真正理解人类语言、能进行实际对话的助理很感兴趣这将是很重要的里程碑事件。其中挑战是结合抽象推理和规划将模式匹配目前我们只能在非常形式化的领域如围棋中才能做的很好而在现实世界中还远远不够。作为物理学家是你的一大优势你的数学背景、实验、建模和处理不确定性、误差的思维很适合学习 AI。我见到过很多物理学家在 AI 领域做得不错。未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能互联网和脑科学交叉研究机构。由互联网进化论作者计算机博士刘锋与中国科学院虚拟经济与数据科学研究中心石勇、刘颖教授创建。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
