网站建设唯特和凡科哪个好,做公司网站图片算是商用吗,信得过的建设工程人员查询,成都网站创建来源#xff1a;人工智能头条作者 | Ben Dickson译者 | 香槟超新星经过一段漫长时期的沉寂之后#xff0c;人工智能正在进入一个蓬勃发展的新时期#xff0c;这主要得益于深度学习和人工神经网络近年来取得的长足发展。更准确地说#xff0c;人们对深度学习产生的新的兴趣在… 来源人工智能头条作者 | Ben Dickson译者 | 香槟超新星经过一段漫长时期的沉寂之后人工智能正在进入一个蓬勃发展的新时期这主要得益于深度学习和人工神经网络近年来取得的长足发展。更准确地说人们对深度学习产生的新的兴趣在很大程度上要归功于卷积神经网络CNNs的成功卷积神经网络是一种特别擅长处理视觉数据的神经网络结构。但是如果有人告诉你卷积神经网络存在根本性的缺陷你会怎么看呢而这一点是被誉为“深度学习鼻祖”和“神经网络之父”的Geoffrey Hinton教授在2020年度人工智能顶级会议 – AAAI大会上作的主题演讲中提出的AAAI译注AAAI全称为美国人工智能协会大会是每年主要的人工智能会议之一。Hinton与Yann LeCun和Yoshua Bengio一起出席了这次会议这三大深度学习巨头图灵奖的获得者被业界并称为“深度学习教父”。Hinton谈到了卷积神经网络CNNs和胶囊网络的局限性并提出这是他在人工智能领域的下一个突破方向。和他所有的演讲一样Hinton深入探讨了许多技术细节这些细节使得卷积神经网络与人类视觉系统相比越来显得效率低下而且不同。本文将会详细阐述他在大会上提出的一些要点。但在我们接触这些要点之前让我们像以往一样了解关于人工智能的一些基础知识以及为什么卷积神经网络CNNs对人工智能社区来说如此重要的背景和原因。01计算机视觉的解决方案在人工智能的早期科学家们试图创造出一种计算机它能像人类一样“看”世界。这些努力导致了一个全新的研究领域的产生这就是计算机视觉。计算机视觉的早期研究涉及到符号人工智能的使用其中的每个规则都必须由人类程序员指定。但是问题在于并不是人类视觉设备的每一个功能都可以用明确的计算机程序规则来分解。所以这种方法的使用率和成功率都非常有限。另一种不同的方法是机器学习。与符号人工智能相反机器学习算法被赋予了一个通用的结构并通过对训练实例的检验来开发自己的行为能力。然而大多数早期的机器学习算法仍然需要大量的人工来设计用来检测图像相关特征的部件。 卷积神经网络CNNs与以上两种方法不同这是一种端到端的人工智能模型它开发了自己的特征检测机制。一个训练有素的多层次卷积神经网络会以一种分层的方式自动识别特征从简单的边角到复杂的物体如人脸、椅子、汽车、狗等等。卷积神经网络CNNs最早是在20世纪80年代由LeCun引入当时他在多伦多大学的Hinton实验室做博士后研究助理。但是由于卷积神经网络对计算和数据的巨大需求它们被搁置了下来它在那个时间获得的采用非常有限。而后经过三十年的发展并且借助计算硬件和数据存储技术取得的巨大进步卷积神经网络开始充分发挥其强大的潜力。今天得益于大型的计算集群、专用的硬件和海量的数据卷积神经网络在图像分类和对象识别方面已经得到了广泛而且有益的应用。卷积神经网络的每一层都将从输入图像中提取特定的特征。02卷积神经网络CNNs与人类视觉的区别在AAAI大会的演讲中Hinton指出“卷积神经网络CNNs充分利用了端对端的学习方式。事实证明如果一项功能在某个地方不错那么在其他地方也会很不错因此他们赢得了巨大的成功。这使得它们可以结合证据并很好地在不同位置进行泛化。然而它们与人类的感知非常不同。”计算机视觉的关键挑战之一是处理现实世界中的数据差异。我们的视觉系统可以从不同的角度、不同的背景和不同的光照条件下识别物体。当物体被其他物体部分遮住或以古怪的方式着色时我们的视觉系统利用线索和其他知识来填补缺失的信息以及我们这样看的理由。事实证明创建能够复制相同对象识别功能的人工智能非常困难。Hinton说“卷积神经网络CNNs是为解决物体的平移问题而设计的”。这意味着一个训练有素的卷积神经网络可以识别一个对象而不管其在图像中的位置如何。但是他们并不能很好地处理视点变化的其他效果例如旋转和缩放。根据Hinton的说法解决这个问题的一种方法是使用4D或6D地图来训练人工智能然后执行对象检测。他补充道“但这实在是令人望而却步。”。目前我们最好的解决方案是收集大量的图像在不同的位置显示每个对象。然后我们在这个庞大的数据集上训练卷积神经网络希望它能看到足够多的对象示例以进行泛化并且能够在真实世界中以可靠的准确度来检测对象。诸如ImageNet这样的数据集包含超过1,400万个带有注释的图像目的就是旨在实现这一目标。Hinton说道“这不是很有效。我们希望卷积神经网络能够毫不费力地推广到新的视点。如果他们学会了识别某些东西而你把它放大10倍并旋转60度那么这根本不会给他们带来任何问题。我们知道计算机图形学就是这样我们希望卷积神经网络更像这样。”事实上ImageNet已经被证明是有缺陷的它目前是评估计算机视觉系统的首选基准。尽管数据集庞大但是它无法捕获对象的所有可能角度和位置。它主要由在理想照明条件下以已知角度拍摄的图像组成。这对于人类视觉系统来说是可以接受的因为它可以轻松地进行知识泛化。事实上当我们从多个角度观察到某个对象后我们通常可以想象它在新位置和不同视觉条件下的外观。但是卷积神经网络CNNs需要详细的示例来说明他们需要处理的案例而且他们不具备人类思维的创造力。深度学习开发人员通常试图通过应用一个称为“数据增强”的过程来解决这个问题在这个过程中他们在训练神经网络之前翻转图像或少量旋转图像。实际上卷积神经网络将在每个图像的多个副本上进行训练每个副本都会略有不同。这将有助于人工智能针对同一对象的变化进行泛化。在某种程度上数据增强使得人工智能模型更加健壮。然而数据增强无法涵盖卷积神经网络和其他神经网络无法处理的极端情况比如说一张上翘的椅子或者放在床上的一件皱巴巴的T恤衫。这些都是现实生活中像素操纵无法实现的情况。ImageNet与现实对比在ImageNet左列中对象放置整齐处于理想的背景和光照条件下。而现实世界比它混乱得多资料来源objectnet.dev已经有人通过创建能够更好地表示现实世界的混乱现实的计算机视觉基准和训练数据集来解决这一泛化问题。但是尽管它们可以改进当前人工智能系统的结果但它们并不能解决跨视点泛化的根本问题。总会有新的角度、新的照明条件、新的颜色和姿势而这些新的数据集并不能包含所有这些情况。这些新情况甚至会使最大、最先进的人工智能系统陷入混乱。03差异可能是危险的从上面提出的观点来看卷积神经网络CNNs显然是以与人类截然不同的方式来识别物体的。但是这些差异不仅在弱泛化上存在局限而且还需要更多的示例来学习一个对象。卷积神经网络生成对象的内部表示形式也与人脑的生物神经网络非常不同。这是如何表现出来的“我可以拍摄一张照片再加上一点点噪点卷积神经网络就会将其识别为完全不同的东西而我本人几乎看不出它们有什么不同。这似乎真的很奇怪我认为这是证据卷积神经网络实际上是在使用与我们完全不同的信息来识别图像。” Hinton在AAAI会议上的主题演讲中说道。这些稍加修改的图像被称为“对抗性样本”是人工智能领域的研究热点。 对抗性样本可能会导致神经网络对图像进行错误分类而对人眼却没有影响。Hinton说“并不是说这是错的他们只是使用一种完全不同的方式来工作而且他们这种完全不同的做法在如何泛化方面也会有一些不同。”但是许多例子表明对抗性干扰可能是极其危险的。当你的图像分类器错误地将熊猫标记为长臂猿时这一切都是可爱和有趣的。但是当自动驾驶汽车的计算机视觉系统缺少了一个停车标志时而绕过面部识别安全系统的邪恶黑客或者谷歌照片将人类标记为大猩猩时你就会有大麻烦了。关于检测对抗性扰动并创建可抵抗对抗性扰动的强大的人工智能系统已经有很多研究。但是对抗性样本也提醒我们我们的视觉系统经过几代人的进化已经能够处理我们周围的世界我们也创造了我们的世界来适应我们的视觉系统。因此如果我们的计算机视觉系统以与人类视觉根本不同的方式工作它们将是不可预测且不可靠的除非它们得到诸如激光雷达和雷达测绘等补充技术的支持。04坐标系和部分-整体关系很重要Geoffrey Hinton在AAAI大会的主题演讲中指出的另一个问题是卷积神经网络无法从对象及其部分的角度来理解图像。它们将图像识别为以不同图案排列的像素斑点。它们也没有实体及其关系的显式内部表示。“当你将卷积神经网络想象成各个像素位置的中心时你会越来越丰富地描述该像素位置上发生的事情这取决于越来越多的上下文。最后你获得了如此丰富的描述以至于你知道图像中存在哪些对象。但是它们并没有明确地解析图像。”Hinton说。我们对物体构成的理解有助于我们了解这个世界并理解我们以前从未见过的东西比如这个奇特的茶壶。 将对象分解为多个部分有助于我们了解其性质。这是马桶还是茶壶资源来源Smashing lists卷积神经网络中还缺少坐标系这是人类视觉的基本组成部分。基本上当我们看到一个物体时我们开发了一个关于它的方向的心理模型这有助于我们解析它的不同特征。例如在下图中考虑右边的脸。如果你将其倒置你会看到左边的脸。但实际上你不需要物理翻转图像就可以看到左边的脸。只需在精神上调整坐标系就可以看到两个面无论图像的方向如何。Hinton指出“根据所施加的坐标系你会有完全不同的内部感知。卷积神经网络确实不能解释这一点。你给他们一个输入他们就有一个感知而感知并不依赖于强加的坐标系。我想这与对抗性样本有关也与卷积神经网络以与人完全不同的方式进行感知这一事实有关。”05从计算机图形学中吸取教训Hinton在AAAI会议上的演讲中指出解决计算机视觉的一种非常简便的方法是制作逆向图。三维计算机图形模型是由对象的层次结构组成的。每个对象都有一个转换矩阵该矩阵定义了其相对于其父对象的平移旋转和缩放比例。每个层次结构中顶级对象的变换矩阵定义了其相对于世界原点的坐标和方向。例如考虑汽车的3D模型。基础对象具有4×4变换矩阵该矩阵表示汽车的中心位于具有旋转X 0Y 0Z 90的坐标X 10Y 10Z 0处 。汽车本身由许多对象组成如车轮、底盘、方向盘、挡风玻璃、变速箱、发动机等。每个对象都有自己的变换矩阵以父矩阵汽车的中心为参照它们定义了自己的位置和方向。例如左前轮的中心位于X-1.5Y2Z-0.3。左前轮的世界坐标可以通过将其变换矩阵与其父矩阵相乘得到。其中一些对象可能具有自己的子集。例如车轮由轮胎轮辋轮毂螺母等部件组成。这些子项中的每一个都有自己的变换矩阵。使用这种坐标系层次结构可以非常轻松地定位和可视化对象而不管它们的姿势、方向或视点如何。当你要渲染对象时将3D对象中的每个三角形乘以其变换矩阵及其父对象的变换矩阵。然后将其与视点对齐另一个矩阵乘法然后在栅格化为像素之前转换为屏幕坐标。“如果你对从事计算机图形学工作的人说‘你能从另一个角度向我展示吗’他们不会说‘哦好吧我很乐意。但是我们没有从那个角度进行训练所以我们无法从那个角度向你展示。’他们只是从另一个角度向你展示因为他们有一个3D模型他们依据部分和整体之间的关系对一个空间结构进行建模而这些关系根本不依赖于视点。”Hinton说。“我觉得在处理3D对象的图像时不利用这种漂亮的结构是很疯狂的。”胶囊网络Capsule Network是Hinton的另一个雄心勃勃的新项目它尝试制作逆向计算机图形。尽管胶囊网络应该有自己独立的一套东西但其背后的基本思想也是拍摄图像提取其对象及其部分定义其坐标系并创建图像的模块化结构。胶囊网络仍在研发中自2017年推出以来它们已经经历了多次迭代。但是如果Hinton和他的同事们能够成功地使他们发挥作用我们将更接近复制人类的视觉。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
