网站设计高怎么表示,淘宝自己网站怎么建设,淮南论坛网,做venn图的网站摘要#xff1a;深度学习已经诞生了数十年时间#xff0c;但直到近几年才受到各大科技公司的重视#xff0c;被认为是硅谷科技企业的未来#xff0c;今天为大家介绍的是深度学习的开山鼻祖Geoffrey Hinton。在过去的三十年#xff0c;深度学习运动一度被认为是学术界的一个… 摘要深度学习已经诞生了数十年时间但直到近几年才受到各大科技公司的重视被认为是硅谷科技企业的未来今天为大家介绍的是深度学习的开山鼻祖Geoffrey Hinton。在过去的三十年深度学习运动一度被认为是学术界的一个异类但是现在 Geoff Hinton如图1和他的深度学习同事包括纽约大学Yann LeCun和蒙特利尔大学的Yoshua Bengio在互联网世界受到前所未有的关注。Hinton是加拿大多伦多大学教授和研究员目前就职于Google他利用深度学习技术来提高语音识别、图像标签以及其他无数在线工具的用户体验LeCun在Facebook做类似的工作。当下人工智能在微软、IBM以及百度和许多其它公司受到极大的关注。 我非常兴奋我们发现一种可以使神经网络变得更好的方法尤其是这种方法能够揭示大脑是如何工作的时候——Geoff Hinton Geoff Hinton 等人亲手缔造了深度学习的复兴 Hinton本科阶段在剑桥学习心理学他意识到科学家们并没有真正理解大脑——不能完全掌握数十亿神经元之间的交互以及如何提升智力。这些科学家可以解释电信号沿着一个轴突连接一个神经元到另一个但他们无法解释这些神经元是如何学习或计算的。Hinton认为这些都是大问题答案可能最终让我们实现1950年代人工智能研究人员的梦想。 图1 Geoff HintonAI领袖级人物目前就职于Google 他也没有答案但他将尽全力寻找答案至少改进的人工神经网络可以模拟人脑的某些方面。“我非常兴奋我们发现一种可以使神经网络变得更好的方法尤其是这种方法能够揭示大脑是如何工作的时候”Hinton说洋溢着青春的热情。 这些人工神经网络可以收集信息并且能够做出反应它们可以理解东西看起来什么样或听起来像什么。当你将单词组合起来它们在做决定的时候会变得更聪明而在完成这些过程中不需要人类提供物体或对象的标签这是传统的的机器学习工具做不到的。 随着人工智能的发展这些神经网络将更加快速、灵活、高效它们随着机器规模的增加而变得更加聪明随着时间的推移将能够解决越来越多的复杂任务。 早在80年代初当Hinton和同事开始这个想法时那时的电脑性能还远远不能处理神经网络需要的巨大数据集成功是有限的随后人工智能社区背弃了他们转而去寻找类人脑的捷径而不是尝试模仿大脑的运作。 但仍然有一些研究人员坚定地支持Hinton的工作。根据Hinton和LeCun回忆这极为艰难甚至直到2004年——已经是Hinton和LeCun第一次开发“反向传播”算法神经网络20年之后了——学术界对这些毫无兴趣。 但是那一年从加拿大先进项目研究所CIFAR拿到的极少量资金并在LeCun以及 Bengio 的支持下Hinton建立了神经计算和自适应感知项目这个项目只邀请一些计算机科学家、生物学家、电气工程师、神经科学家、物理学家和心理学家。 通过招聘这些研究人员Hinton旨在创建一个世界级的团队致力于创建模拟生物智能的模拟——模拟大脑如何筛选大量的视觉、听觉以及书面线索来理解和应对它的环境。Hinton认为建立这样一个组织会刺激人工智能领域的创新甚至改变世界事实证明他是对的。 Geoffrey Hinton 曾感慨自己的学术生涯就像 ANN 人工神经网络一样起起伏伏所幸的是这位 Gatsby 的创立者一直没有放弃 ANN 的研究。他们为实现早期的想法定期聚集在一起召开研讨会构建了更强大的深度学习算法操作更大的数据集。期间赢得全球人工智能比赛再然后互联网的巨头开始注意到他们。 2011年一位NCAP研究员和斯坦福的Andrew Ng在Google建立了深度学习项目今天公司用神经网络在Android手机和社交网络以及Google 上标记图像。去年Hinton加入Google公司其目的是进一步把这项工作做的更为深入。 每年不到一百万美元的CIFAR投资Hinton和他的伙伴们带来的回报是丰厚的这不仅发生在Google也发生在一些国家包括加拿大。 在这个过程中Hinton和NCAP已经改变了这个曾经抛弃他们社区的面貌 当下大学生们从传统机器学习项目转到深度学习这种现象无处不在了 。毫无疑问现在深度学习是主流。“我们不再是极端分子了”Hinton说“我们现在可是炙手可热的核心技术呢。 ” Hinton也周游世界并为深度学习积极布道Hinton有一个习惯就是喜欢突然大喊“我现在理解大脑是如何工作的了”这很有感染力他每周都会这样做你很难模仿。 通过NCAP 和CIFARHinton开办了一家暑期学校致力于培养新一代的人工智能研究人员。有这么多的商业公司进入这一领域这是比以往任何时候都更加重要。不仅仅是科技巨头加入这个领域我们也看到大量的深度学习初创公司包括Ersatz,、Expect Labs以及 Declara。 “我们希望把AI和CIFAR带到一个美妙的新领域”Hinton说“一个还没有人或者程序到达的境界。” 和Geoff Hinton一起共同缔造深度学习复兴的大神还包括Yoshua Bengio如图2和 Yann LeCun图3教授他们是Hinton坚定的支持者。 Yoshua Bengio如图2教授也是机器学习大神之一他的研究工作主要聚焦在高级机器学习方面致力于用其解决人工智能问题。他是少有的几个仍然全身心投入在深度学习学术界的教授之一好多其他教授早已投身于工业界加入了Google或Facebook公司。 图2Montreal大学教授及AI研究者 Yoshua Bengio Yann LeCun和Yoshua Bengio不同他目前就职于Facebook任Facebook人工智能研究院主任也是人工智能尤其是深度学习领域最知名的学者之一在多伦多大学随Hinton读博士后即加盟贝尔实验室期间研发了卷积神经网络Convolutional Neural Networks与曾广泛用于手写识别和OCR的图变换网络方法。2003年加入纽约大学从事广度与深度兼具的各类研究涉及机器学习、计算机视觉、移动机器人和计算神经学。 图3纽约大学AI研究者及Facebook人工智能研究院的主任 Yann LeCun 毋庸置疑的是深度学习以及整个人工智能领域已成为互联网巨头竞争的一个焦点。 深度学习领域人才极度稀缺 Montreal大学全职教授Yoshua Bengio表示“深度学习现在炙手可热目前的困境是缺乏专家一个博士生大概需要五年的时间培养但是五年前还没有博士生开始从事深度学习这意味着现在该领域的专家特别少可以说弥足珍贵、极度稀缺。” 据说目前深度学习领域的顶尖人才不超过50人Andrew Ng表示深度学习领域人才匮乏的主要原因首先是数据对于解决某些领域的问题获取数据并非易事其次是计算基础架构工具包括计算机硬件和软件最后是这个领域的工程师培养时间非常长。所以科技巨头们包括Google、Facebook、Twitter、百度等纷纷通过收购深度学习领域的初创公司来招揽人才。 Google 2013年3月收购了一家名为DNNresearch的初创公司这家公司隶属多伦多大学计算机科学院只有三个人——Geoffrey Hinton 与他的研究生学生 Alex Krizhevsky 和 Ilya Sutskever。之后Google今年1月份斥资4亿美元收购人工智能初创企业DeepMindDeepMind由人工智能程序师兼神经科学家Demis Hassabis等人联合创立是前沿的人工智能企业其将机器学习和系统神经科学的最先进技术结合起来建立强大的通用学习算法。另外Google还收购乌克兰面部识别技术开发商Viewdle。 Google不断的收购深度学习领域的公司最主要的目的是“抢购”一批世界上最一流的专家在一个迅速成长的人工智能领域里面这些专家无一不是佼佼者。 Facebook也在2012年以近6000万美元的价格收购以色列人脸识别公司Face.com。人事方面任命计算机科学家Yann LeCun图3作为人工智能研究院的主任用深度学习专业知识来帮助创建解决方案更好地在每天上传到Facebook上的3.5亿张照片和视频中识别人脸和对象。去年8月13日Facebook又宣布收购了语音识别及机器翻译公司Mobile Technologies后者将会帮助我们从图片识别拓展到语音识别领域。假以时日Facebook可能会开发出交互更加自然的服务而且相对于任何现有技术它还会帮助解决多得多的问题。 Twitter 今年7月29日收购了基于深度学习的计算机视觉创业公司Madbits。Madbits这家公司是由Facebook人工智能实验室主任Yann LeCun以前两名学生创办的开发了可自动理解、组织和提取媒介内容信息的视觉智能技术。这项基于深度学习的计算机视觉技术已经开发完成正在测试。Twitter上每天都会出现无数的图片。收购Madbits可以帮助Twitter推出诸如图像搜索的功能基于图像内容改进搜索排名甚至是通过分析图像来更好地理解人们的推文内容。 其他公司。雅虎收购深度学习公司LookFlow和图像标注公司IQEngineQualComm收购图像识别公司Kooaba Pinterest收购物体识别公司VisualGraphDropbox收购图像标注公司Anchovi Labs百度成立李彦宏亲自挂帅的深度学习研究院有Andrew Ng、余凯等技术大牛加盟 至此深度学习领域的几位大牛基本上都各有所属。 深度学习的误区及产品化浪潮 百度首席科学家Andrew Ng表示“目前围绕Deep Learning存在着某种程度的夸大它不单出现于媒体的字里行间也存在于一些研究者之中。这是一种不健康的氛围。将Deep Learning描绘成对人脑的模拟这种说法非常具有吸引力但却是过于简化的模仿它距离真正的AI或人们所谓的‘奇点’还相当遥远。” 目前这项技术主要是从海量数据当中学习理解数据这也是现今有关Deep Learning技术研究和产品发展的驱动力。而具备与人能力相匹配的AI需要无所不包例如人类拥有丰富的感情这些都是当下Deep Learning研究尚未涉及的。今天AI领域最大的挑战和短板是Perception如何让机器更好地理解人的意图而这正是 深度学习可以发光发热的范畴。 一项技术能够快速成为主流一个主要原因就是能够快速推出成熟的产品深度学习也不例外所以深度学习产品化是一个大趋势追求不切实际的“天网”或者电影情节的高科技未免太急功近利、不切实际。目前 深度学习让Google产品在语音文本和图像的识别上变得更加聪明可以更准确地洞悉我们的信息输入更人性化地理解我们的意图。现在每个安卓手机的语音识别以及Google街景中的图像处理都有深度学习的影子。笔者认为随着深度学习的发展和科技公司加大投入会有越来越多的产品推向市场。 参考文章 Twitter acquires deep learning startup Madbits Yahoo acquires image recognition startup LookFlow to improve discovery in Flickr, build a deep learning group Google Acquires Artificial Intelligence Startup DeepMind For More Than $500M 编译/魏伟 审校/仲浩
