做视频比较好的理财网站,上海房产网签,做淘宝优惠券网站,星斗科技 网站建设几百万年前#xff0c;第一次人类智能的星火出现在非洲大陆#xff0c;并且持续发展#xff0c;最终在大约10万年前在智人的大脑中达到顶峰。作为现代人类#xff0c;我们只能想象我们的古代祖先在窥视夜空时所经历的事情#xff0c;以思考物理现实的本质#xff0c;以及…
几百万年前第一次人类智能的星火出现在非洲大陆并且持续发展最终在大约10万年前在智人的大脑中达到顶峰。作为现代人类我们只能想象我们的古代祖先在窥视夜空时所经历的事情以思考物理现实的本质以及从内心窥视自己心理现实的本质。在过去的几百年里我们的物种通过发现控制空间、时间、物质和能量的基本数学定律。在发展对物理现实的精确理解方面取得了巨大的智力进步现在已经在量子力学的大框架中被编纂。然而我们正处于探索心理现实本质的最初阶段。尤其是人类智能是如何从100亿个突触连接的1000亿个神经元的生物湿件中产生的神经科学心理学和认知科学等现代学科在过去100年中取得了重要进展为解决这一重大问题奠定了基础。
但是当涉及到我们的心智能力时对于现代人来说仅仅理解它们是不够的我们非常希望在无生命系统中重现这些功能。本质上人类作为进化的产物有时也渴望扮演创造者的角色。这种向往渗透在人类文学的作品事实上人工智能AI这个新兴领域通常与神经科学心理学和认知科学领域合作在创造具有类似人类能力的机器方面取得了巨大进步。在这篇文章中我将进一步探讨人工智能神经科学心理学和认知科学以及数学物理和社会科学中的联合学科在过去和未来将继续如何共同努力追求交织在一起的理解和创造智能系统的过程。
生物学与人工智能之间的富有成效的合作
在过去的60多年中AI的发展受到了神经科学和心理学的深刻影响其中也受到了神经科学和心理学的启发。在早期的几十年中许多AI从业者在神经科学和心理学方面进行了很好的研究。在这里我提供了神经科学心理学和AI之间过去的相互作用
l 这种相对简单的元素神经元的分布式网络能够实现源于神经科学的人类智能的显着计算并且现在以神经网络的形式渗透到AI系统中。这个想法并不总是显而易见的在大约一百年前在高尔基和卡哈尔之间的著名辩论之后它才变得坚定。
l 包括多维尺度和因子分析在内的各种降维技术最初是在心理测量学研究的背景下开发的。
l 著名的神经科学家霍勒斯·巴洛Horace Barlow发明了分解代码的概念这反过来启发了独立成分分析ICA和当前的AI研究旨在解开数据变异的独立因素。
l 托尔曼在认知图上的工作提供了方向使得我们可以使用这些模型进行规划和导航。这巩固了内部模型形成作为动物智能的关键组成部分的思想这部分目前处于人工智能研究的前沿。
l Hopfield网络是理论神经科学的一个模型为思考分布式、可寻址的存储器和检索提供了一个统一的框架也启发了Boltzmann机器这反过来又为证明深度神经网络模型的成功提供了关键的第一步。它还启发了许多弱约束的分布式以满足作为AI计算模型的想法。
l 目前主导机器视觉的深层卷积网络的关键核心直接受到大脑的启发。其中包括腹侧流中的分层视觉处理它表明深度的重要性;视网膜的发现是整个视觉皮层的组织原理导致卷积的出现;发现简单和复杂的细胞激发了最大池化等操作。
l 关于稀疏编码的研究工作是为了理解初级视觉皮层中定向边缘检测器导致稀疏编码成为现代AI系统中的基本构建块。
l 时序差分学习等算法现在是强化学习领域的基础它受到经典条件反射的动物实验的启发。
l 反过来强化学习对基底神经节功能的解释具有显着影响其中多巴胺能为基底神经节提供了非常重要的奖励预测误差信号该信号也驱动许多强化学习算法。
l 大脑中存储系统的模块化启发了现代记忆神经网络其在一定程度上将存储器存储和执行控制电路的操作分开其决定何时从存储器读取和写入。
l 人类注意力系统激发了注意力机制和神经网络的结合这些神经网络可以被训练以动态地注意力或忽略其状态和输入的不同方面以进行未来的计算决策。
l 语言学和认知科学中正式生成语法的发展导致概率语法的发展和CS的解析。
l Dropout等现代正则化技术的灵感来自于神经动力学的内在随机性。
人工智能未来的生物学启示
尽管当前人工智能系统在监督模式识别任务方面取得了显著的商业成功但仿真人类智能仍然有很长的路要走。在这里我将概述一些个人观点其中我认为生物学和人工智能领域可以携手前进。
1、生物学上可信的信用分配plausible credit assignment
信用分配问题可能是神经科学和人工智能领域最大的开放性问题之一。很明显假设你正在打网球而且你没有击中球。你的100万亿个突触中有哪一个应该受到指责大脑如何在你的运动系统中专门找到并纠正突触组尤其是在错误发生后几百毫秒内通过视觉系统传递错误时在AI中这种信用分配问题在许多情况下通过多层计算的反向传播来解决。然而目前尚不清楚大脑如何解决这个问题。真实的情况是大脑使用本地学习规则解决它即每个突触仅使用物理上可用的信息来调整其强度例如由突触连接的两个神经元的电活动来奖励和惩罚的任何神经调节输入。解释这些本地突触规则是什么以及它们如何工作可能会对AI产生巨大影响这可以一定程度上减少反向传播的通信开销。但更一般地说解决困扰神经科学和人工智能的常见未解决问题应该通过将突触生理学家计算神经科学家和AI从业者聚集在一起来集体解决生物学上可信的信用分配问题来推动进步。
2、融合突触复杂性
生物和人工神经模型之间的主要区别在于我们模拟连接神经元的突触的方式。在人工网络中突触由单个标量值建模反映乘法增益因子转换神经元的输入如何影响神经元的输出。相反每个生物突触都隐藏在极其复杂的分子信号通路中。例如我们对最近事件记忆的海马突触各自包含数百种不同类型分子的化学反应网络同时它具有整个复杂时间处理能力的动力系统。
在看到这种复杂性后理论家或工程师可能会试图简单地将其视为生物学上的混乱而这种混乱就是一种进化的偶然事件。然而理论研究表明这种突触复杂性可能确实对学习和记忆至关重要。事实上在突触具有有限动态范围的记忆网络模型中这样的突触本身就要求是具有复杂时间滤波特性的动态系统以实现合理的网络存储容量。此外最近在AI中正在利用更智能的突触作为解决灾难性遗忘问题的一种方法其中训练学习两个任务的网络只能学习第二个任务因为学习第二个任务会改变突触权重以这种方式消除从学习第一项任务中获得的知识。
一般地说我们的人工智能系统很可能通过忽略生物突触的动态复杂性而取得重大的性能提升。正如我们为我们的网络添加空间深度以实现复杂的层次表示一样我们可能还需要为突触添加动态深度以实现复杂的时间学习功能。 从系统级模块化大脑架构中获取灵感
通常当前的商业AI系统涉及具有相对均匀的分层或循环架构的训练网络其从随机权重开始。但是对于更复杂的任务来说这可能是一个难以解决的问题。事实上生物进化的道路却截然不同。所有脊椎动物的最后共同祖先生活在5亿年前。从那以后它的基本大脑一直在发展导致大约1亿年前出现哺乳动物大脑以及几百万年前的人类大脑。这种不间断的进化链导致了一个错综复杂的大脑结构具有高度保守的计算元素和巨大的系统级模块化。事实上我们目前缺乏工程设计原则来解释像大脑一样复杂的传感通信控制和记忆网络可以在5亿年的时间内不断扩大规模和复杂性同时永远不会失去在动态环境中自适应运行的能力。因此AI从大脑的系统级结构中获取灵感可能非常有趣。
一个关键的系统属性是功能和结构的模块化。大脑不像我们目前的AI架构是同质的而是有不同的模块如海马保留情节记忆和导航基底神经节潜在的强化学习和动作选择和小脑自动化的运动控制和通过监督学习获得更高层次的认知。此外人脑中的记忆系统习惯记忆运动技能短期记忆长期记忆情景记忆语义记忆也是功能模块化的。此外在运动系统中嵌套反馈环架构占主导地位通过简单的快速循环在20毫秒内实现自动运动校正稍慢的智能循环通过运动皮层在50毫秒内实现更复杂的运动校正最后经过整个大脑的视觉反馈实现对运动错误的有意识的校正。最后所有哺乳动物大脑的一个主要特征是由大量相似的6层皮质柱组成的新皮层所有这些都被认为是在单个规范计算模块上实现的变异。
总体而言现代哺乳动物大脑具有显著的模块性通过1亿年的进化保存下来表明这种系统级模块化可能有利于在AI系统中实施。目前从白板上训练神经网络的方法是不可能走向更普遍的人类智能的途径。实际上系统级模块化的组合带来的不同类型的纠错嵌套循环和动态复杂的突触可能都是解决生物学上可信的信用分配的关键因素。 原文链接 本文为云栖社区原创内容未经允许不得转载。
