沈阳网站优化培训,推荐网站建设的电销该怎么打,图片展示网站织梦源码,网站主机要怎么做原文来源#xff1a;arXiv作者#xff1a;Gary Marcus「雷克世界」编译#xff1a;嗯~是阿童木呀纽约大学Gary Marcus教授一直是深度学习的反对者#xff0c;他认为深度学习并没有主动学习能力#xff0c;且鲁棒性较差。同时#xff0c;他始终认为人工智能应该多在“先天… 原文来源arXiv作者Gary Marcus「雷克世界」编译嗯~是阿童木呀纽约大学Gary Marcus教授一直是深度学习的反对者他认为深度学习并没有主动学习能力且鲁棒性较差。同时他始终认为人工智能应该多在“先天结构”领域中开展研究。最近Gary Marcus教授发文他认为AlphaGo及其后代被严重夸大了人工智能领域需要关注“天赋innateness”这样的概念。一般来说在人工智能环境中我们很少讨论关于“天赋innateness”的概念。一旦对其进行讨论时往往是试图减少给定系统中的先天性机器innate machinery的数量。在本文中我将Silver等人最近发表关于AlphaGo及其后代的一系列论文视为一个测试案例这些论文被认为是“即使在最具挑战性的领域仍然可以在没有人类的示例或指导下进行训练从而达到超越人类的水平”“从零开始starting tabula rasa”的论据。我认为这些说法有些夸夸其谈原因有很多。我认为在人工智能领域中应该关注关于天赋这样概念并且我提出了一些关于天赋应该是怎样的观点和看法。一个关于机器时代的古老辩论思想史上最古老的辩论之一就是围绕着“天赋”概念展开的。人类的思维有多少是内在的又有多少是由经验构建而成的柏拉图是先天论主义的首批倡导者之一在他与Meno的对话中他辩称一个奴隶男孩有几何知识尽管他未曾接受过任何正式的训练。在现代Noam Chomsky也许是最为著名的拥护先天论主义的学者他认为人类儿童不可能以几乎普遍的方式获得人类语言除非他们天生就有一种“语言习得机制”Chomsky于 1965年提出。或者是Pinker将其称之为的“语言本能”。相比之下诸如Locke这样的经验主义者、后现代发展心理学家Elizabeth Bates以及认知科学家Jeff Elman则提出一种近似于“空白板”或tabula rasa的观点认为我们的知识来自于经验是通过感官传递的。而几乎所有的现代观察学者都会认为基因与经验实协同工作的是“先天与后天”而不是“先天VS后天”。例如没有任何一个先天论主义者会怀疑我们天生就具有一种特定的生物机制可以让我们进行学习。Chomsky的语言习得机制应该被看作是一种先天的学习机制而像Pinker、Peter Marler以及我自己这样的先天论主义者持有的是这样一种观点即认为生物天生的装备不是由具体知识而是由学习机制构成的这是一种使学习成为可能的天赋。正如下面所描述的那样我们有足够的理由相信人类和许多其他生物天生具有大量的先天机制。当前论文的指导性问题在于人工智能系统是否应该类似地被赋予大量的先天机制或者最近开发的强大的学习系统是否应该被赋予先天机制从而使得这些系统能够以自上而下或从零开始的方式进行学习。自然生物的天赋一篇关于自然生物学本文作者于2004年所著的书评中我对所谓的“prewiring”和“rewiring”进行了基本的区分并提出这两个过程的生物学证据是具有压倒性意义的。可以这样说大约超过90的基因是在大脑发育中得以进行表达的其中有相当一部分基因是进行有选择性的表达即使在没有经验的情况下也可以使大脑进行自我组装甚至能够达到某种不平凡的程度。细胞分裂、细胞分化、细胞迁移、细胞死亡和轴突导向等机制结合起来形成了人类大脑的一份丰富的草稿即使这是在先于经验也可以进行该过程。即使没有突触传递能够将经验传递给大脑的主要机制新生大脑的基本结构也能够得以保留下来。机器的天赋人们可能会把认知看作是具有四个变量的函数 其中a 先天性算法无论是特定领域还是通用领域r 先天性表征格式同样是特定领域或其他k 先天知识也是特定领域或其他e 经验。也就是说对于给定智能体生物性或人工性来说他们的认知是一个关于其先天性算法先天性表征形式、先天性知识和经验的函数。一个真正的“空白状态”应该是将k和r设置为零将a设置为一个极小的值例如一个用于调整相对于强化信号权重的操作而将其余部分留给经验。这基本上就是Locke1964所阐述的观点。所有的想法都来自于感觉或反思。那么让我们假设正如我们所说思维就像一张白纸一样所有字符都是无效的且没有任何想法。它是如何提供的 ....从哪里获得有关理性和知识的所有材料对此我将用一个词进行回答经验。深度学习的先驱YannLeCun似乎也相信ar和k应该接近零正如他在2017年10月5日在纽约大学与我一起辩论时所阐述的那样。特别是在我自己的评论中我提出了一个个人认为对AI来说很重要的十个候选元素的清单主要是在代表性方面。当主持人David Chalmers对列表进行质疑时LeCun以John Locke的精神强化了经验主义的观点认为这10个要素中没有一个对人工智能系统来说是先天性的他也没有提出任何其他建议。DeepMind是如何构建他们的研究结果以及它们该如何进行解释DeepMind在2017年的《自然》论文中将其研究结果作为一个强有力的经验主义观点的具有含蓄性、有时明确性的论据。他们将这种强烈的反先天论的框架置于论文标题以表明他们已经证明“在没有人类知识的前提下就可以掌握围棋游戏”。摘要也具有类似的声称他们提出的系统通过“从零开始”取得了无可置疑且令人印象深刻的结果。结论报告指出该论文已经证明“即使在最具挑战性的领域中纯粹的强化学习方法也是完全可行的在没有人类示例或指导的情况下即使没有给出超过领域内基本规则知识也可以对其进行训以达到超越人类的水平”反复在重申一点即系统能够“从零开始”做到这一切。在AI中进行的两种方法如果想要识别出人工智能可能需要多少“天赋”我们可以通过这样一种方法即创建一个用以完成艰难任务的合成性智能体它需要具有一定的初始天赋用这些任务获得最先进的性能然后进行迭代尽可能多地降低这种天赋最终将其聚在一些推定的最小数量的先天性机制上。在AlphaStar系列文章中DeepMind基本上遵循了这个策略。有人可能把这个战略称为“还原”策略其目标是通过尽可能少减少的的系列先天性机制取得成功。Demis Hassabis2017年在NIPS上的演讲或许是我所见过的有关还原策略的最好示例。但是这是正确的策略吗我看到两个问题。首先一组较小的先天性原语并非本质上就是好的例如生物有机体有时可能建立在原则上可以被学习的机器中也许是因为如果某些信息是固有的而不是通过个人的可能威胁生命的样本中获得的则有机体所面临的风险较小。一个机器人可以通过经验学习如何走路但是如果该机器人从工厂出来时已经具有能够走路的能力岂不是更好如果你是一只刚出生的、身处悬崖边的野生山羊那么相较于一个具有需要大量生命威胁经验的“塑料生物系统”来说你所具有的更小的但是更有针对性的先天性先验可能会使你强大的“生存力”。或者就像生物学中常见的情况一样当我们的运动系统部分浸入水中时它可能会促使我们出于本能而奋力挣扎。然后在交替的过程中先天性先验将通过经验来进行校准。这样的系统可能比以任何完全不受约束的方式进行学习的分裂系统更具有鲁棒性。正如Brad Wyble在一封电子邮件中指出的那样“在为一个给定的有机体指定先天性水平以适应于从出生时便具有的要求方面进化显然具有极大的灵活性”。问题本身从来不是先天论主义而总是对于一个特定的情况多少是最佳的其次有一个方法论上的问题如果还原策略能成功地找到一组较小的适合于狭窄类型任务的先天性机制那么就不能自然而然地得出结论相同的机制就足以应付所有的任务。所有你能够进行合理断定的是这个机制对于这个类别中的其他任务来说可能是足够的而随着距离核心案例的距离越来越大其效率也会越来越差。AlphaZero在围棋、象棋和Shoji上的成功表明它的机制可能足以在完美性知识、双人、零和、确定性和离散游戏上实现超越人类水平的性能表现。但这些机制可能不足以满足一些其他的游戏更不用说一般的认知性任务了。两种方法都有其优点。目前论文的着重点在于一方面这个问题很难解决另一方面在机器学习领域这两种方法之间的平衡已经被严重扭曲了。因此对于AI来说是时候要认真对待先天论了。未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能互联网和脑科学交叉研究机构。由互联网进化论作者计算机博士刘锋与中国科学院虚拟经济与数据科学研究中心石勇、刘颖教授创建。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
