给别人建设网站怎么收费,制作网站高手,石油大学网页设计与网站建设,系统开发报价清单来源#xff1a;机器学习研究组订阅LeCun 认为#xff0c;构造自主 AI 需要预测世界模型#xff0c;而世界模型必须能够执行多模态预测#xff0c;对应的解决方案是一种叫做分层 JEPA#xff08;联合嵌入预测架构#xff09;的架构。该架构可以通过堆叠的方式进行更抽象、… 来源机器学习研究组订阅LeCun 认为构造自主 AI 需要预测世界模型而世界模型必须能够执行多模态预测对应的解决方案是一种叫做分层 JEPA联合嵌入预测架构的架构。该架构可以通过堆叠的方式进行更抽象、更长期的预测。LeCun 和 Meta AI 希望分层 JEPA 可以通过观看视频和与环境交互来了解世界是如何运行的。深度学习大规模应用之后人们一直期待真正的通用人工智能出现能够带来进一步的技术突破。对此Meta 首席科学家、图灵奖获得者 Yann LeCun 最近提出了一种新思路他认为让算法预测世界内在运行规律的「世界模型」将是关键。他的思考引发了人们的关注。在本周的一次线上活动中LeCun 用一个小时的时间介绍了自助人工智能的新思路并提出联合嵌入预测架构JEPA是未来的发展方向。尽管 AI 研究最近取得了显著进展但我们离创造出像人一样思考和学习的机器还有很长的路要走。正如 Yann LeCun 所说一个从没有开过车的青少年可以在 20 小时之内学会驾驶但最好的自动驾驶系统却需要数百万或数十亿的标记数据或在虚拟环境中进行数百万次强化学习试验。即使费这么大力它们也无法获得像人类一样可靠的驾驶能力。怎样才能打造出接近人类水平的 AI仅靠更多的数据和更大的模型能解决吗在 Meta AI 近期举办的 Inside the Lab event 中LeCun 勾勒出了构建人类水平 AI 的另一种愿景。他指出学习「世界模型」即世界如何运作的内部模型的能力可能是关键。原视频链接https://www.youtube.com/watch?vDokLw1tILlwPPT 链接https://drive.google.com/file/d/1Txb9ykr03Lda-oTLXbnlQsEe46V8mGzi/viewYann LeCun 的观点与 Kanai 等人提出的意识信息生成理论非常一致——智能源于能够生成世界复杂表示的能力包括反事实不过也有学者对此持消极态度。卡耐基梅隆大学教授前苹果 AI 研究主管 Russ Salakhutdinov 对此评价道Josh Tenenbaum 和其他很多研究者在十年前已经开始研究世界模型当时我在他的实验室做博士后。因此当 Facebook 说他们正在研究基于世界模型的 AI 新愿景时我觉得这听起来有点好笑。LeCun 提出的方法究竟能否成为通向通用人工智能的道路让我们结合 Meta AI 前几天的博客来了解一下 LeCun 的想法。可以建模世界如何运行的 AILeCun 说人和动物似乎能够通过观察和难以理解的少量互动以一种独立于任务的、无监督的方式学习大量关于世界如何运行的背景知识。可以假设这些积累起来的知识可能构成了常识的基础。常识可以被看作是世界模型的集合可以告诉我们什么是大概率会发生的什么是可能发生的以及什么是不可能发生的。这使得人类即使身处不熟悉的环境也能有效地制定计划。例如文章开头提到的那个青少年可能以前没有在雪地上开过车但他知道雪地开车容易打滑不能开得太猛。常识不仅能让动物预测未来的结果还能填补时间或空间上缺失的信息。当司机听到附近金属碰撞的声音时他立即就能知道发生了事故即使没有看到涉事车辆。人类、动物和智能系统使用世界模型的观点可以追溯到几十年前的心理学以及控制和机器人等工程领域。LeCun 提出当今 AI 面临的最重要的挑战之一是设计学习范式和架构让机器以一种自监督的方式学习世界模型然后利用这些模型进行预测、推理和规划。他的大纲融合了各种学科的观点如认知科学、系统神经科学、最佳控制、强化学习和「传统」AI并将它们与机器学习中的新概念相结合如自监督学习、联合嵌入架构。一种自主智能体系架构的提出LeCun 提出了一个由六个独立模块组成的架构。假设每个模块都是可微的因为它可以很容易地计算某个目标函数相对于自己的输入的梯度估计并将梯度信息传播到上游模块。上图是一种自主智能系统的架构配置器Configurator从其他模块获得输入图中省略了这些箭头。配置器Configurator模块负责执行控制executive control给定要执行的任务可以通过调整这些模块的参数来预先配置感知模块perception module、世界模型world model、成本cost和当前任务的 actor。感知模块Perception module接收来自传感器的信号并估计当前世界的状态对于给定的任务只有一小部分感知到的世界状态是相关和有用的。配置器模块启动感知系统从感知中提取相关信息完成手头的任务。世界模型World model构成了架构中最复杂的部分。它的作用是双重的1估计感知未提供的关于世界状态的缺失信息2预测合理的未来世界状态。世界模型可以预测世界的自然进化或预测由 actor 模块提出的一系列动作所导致的未来世界状态。世界模型是一种与当前任务相关的世界部分的模拟器。由于世界充满了不确定性模型必须能够代表多种可能的预测。比如接近十字路口的司机可能会减速以防另一辆接近十字路口的车没有在停车标志处停下来。成本模块Cost module计算单个标量的输出该输出预测智能体的不适discomfort程度。它由两个子模块组成内在成本intrinsic cost是硬连接、不可变的不可训练的并计算直接的不适比如对智能体的损害、违反硬编码的行为约束等批判critic是可训练的模块预测内在成本的未来值。智能体的最终目标是最小化长期的内在成本。「这就是基本的行为驱动力和内在动机所在」LeCun 表示。因此它将考虑到内在成本比如没有浪费能源以及手头任务的具体成本。因为成本模块是可微的所以成本梯度可以通过其他模块反向传播用于规划、推理和学习。actor 模块计算动作序列的提议。「actor 可以找到一个最优的动作序列最小化预估的未来成本并以最优序列输出第一个动作这种方式类似于传统的最优控制。」LeCun 说。短期记忆模块Short-term memory module跟踪当前和预测的世界状态以及相关成本。世界模型架构和自监督训练该架构的核心是预测世界模型。构建它的一个关键挑战是如何使它能够表示多个看似合理的预测。现实世界并不是完全可以预测的特定情况的演变有多种可能的方式并且情况的许多细节与手头的任务无关。我可能需要预测开车时周围的汽车会有哪些动作而不需要思考道路附近树木中单个叶子的详细位置。世界模型到底应该如何学习世界的抽象表示从而保留重要细节忽略不相关的细节并且可以在抽象表示的空间中进行预测呢解决方案的一个关键要素是联合嵌入预测架构JEPA。JEPA 捕获两个输入 x 和 y 之间的依赖关系。例如 x 可以是一段视频y 可以是视频的下一段。输入 x 和 y 被馈送到可训练的编码器这些编码器提取它们的抽象表示即 s_x 和 s_y。训练预测器模块以从 s_x 预测 s_y。预测器可以使用潜变量 z 来表示 s_y 中存在但 s_x 中不存在的信息。JEPA 以两种方式处理预测中的不确定性1编码器可能会选择丢弃有关 y 的难以预测的信息2当潜变量 z 在一个集合范围内变化时预测将在一组看似合理的预测结果范围内变化。那么 JEPA 是如何训练的呢之前唯一的方法是使用对比方法包括显示相匹配的 x 和 y 的示例以及许多 x 和不匹配的 y 的示例。但是当表示representation是高维的时这是相当不切实际的。过去两年出现了另一种训练策略正则化方法。当应用于 JEPA 时该方法使用四个标准使 x 的表示最大限度地提供关于 x 的信息使 y 的表示最大限度地提供关于 y 的信息使得从 x 的表示中最大限度地预测 y 的表示成为可能让预测器使用来自潜变量的、尽可能少的信息来表示预测中的不确定性。这些标准可以以各种方式转化为可微的成本函数。一种方法是 VICReg方差 - 不变性 - 协方差正则化方法。在 VICReg 中x 和 y 的表示的信息内容通过将它们的分量的方差保持在阈值之上并使这些分量尽可能地相互独立来实现最大化。同时该模型试图使 y 的表示可以从 x 的表示中预测。此外潜变量信息内容的最小化是通过使其离散、低维、稀疏或有噪声来实现的。JEPA 的精妙之处在于它自然地产生了输入的充满信息量的抽象表示消除了不相关的细节这些表示可以用来执行预测。这使得 JEPA 可以相互堆叠以便学习具有更高抽象级别的表示可以执行长期预测。例如一个场景可以在高层次上描述为「厨师正在制作可丽饼」。可以预测的是厨师会去取面粉、牛奶和鸡蛋把材料混合把面糊舀进锅里用油炸面糊翻转可丽饼并重复上述过程。在较低的层次上倾倒面糊pouring a ladle又可以分解为舀面糊scooping some batter 和将其倒在平底锅上spreading it around the pan。这些过程可以一直分解下去具体到厨师手上每一毫秒的精确轨迹。在这种低层次的手部轨迹预测上我们的世界模型只能在较短的时间范围内给出准确的预测。但在更高的抽象层次上它可以做出长期预测。分层 JEPA 可用于在多个抽象层次和多个时间尺度上执行预测。训练分层 JEPA 主要通过被动观察很少借助交互。婴儿在出生后的头几个月主要通过观察来了解世界是如何运行的。她了解到世界是三维的有些物体在其他物体的前面当一个物体被遮挡时它仍然存在。最终在大约 9 个月大的时候婴儿学会了直观物理例如不受支撑的物体会因重力而落下。LeCun 和 Meta AI 希望分层 JEPA 可以通过观看视频和与环境交互来了解世界是如何运行的。通过训练自己预测视频中会发生什么JEPA 将产生世界的分层表示。通过做出一些动作并观察结果世界模型将学会预测其动作的后果这将使其能够进行推理和规划。感知 - 动作 episode通过将分层 JEPA 训练为世界模型智能体能够执行复杂动作的分层规划将复杂任务分解为一系列不太复杂和不太抽象的子任务直到分解为效应器上的低层次动作。下图是一个典型的感知 - 动作 episode。该图说明了两层层次结构的情况。感知模块提取世界状态的分层表征对应图中 s1[0]Enc1(x) s2[0]Enc2(s[0])。然后在给定第二层 actor 提出的一系列抽象动作的情况下多次应用第二层预测器来预测未来状态。actor 优化第二层的动作序列以最小化总成本图中的 C(s2 [4])。这个过程类似于最优控制中的模型预测控制Model-Predictive Control。对第二层潜变量的多个 drawing 重复该过程可能会产生不同的高级场景。由此产生的高级动作虽然不能构成真正的动作但是定义了低层次状态序列必须满足的约束。这也构成了子目标。整个过程在较低的层次重复运行低层次预测器优化低层动作序列以最小化来自上一层的中间成本并对低层潜在变量的多个 drawing 重复该过程。一旦该过程完成智能体将第一个低层次动作输出到效应器就可以重复整个 episode。如果能成功构建这样一个模型那么所有模块都将是可微的因此整个动作优化过程可以使用基于梯度的方法来执行。更接近人类智能水平的 AILeCun 的愿景中还存在许多艰巨的挑战。其中最有趣和最困难的挑战之一是实例化instantiate世界模型架构和训练过程的细节。一定程度上训练世界模型将是未来几十年人工智能取得实际进展面临的主要挑战。然而世界模型架构的许多方面仍有待定义包括如何精确地训练 critic、如何构建和训练配置器configurator、如何使用短期记忆来跟踪世界状态和存储历史状态等等。创造像人类一样有效学习和理解的机器是一项长期的科研工作并且不能保证一定会成功。但基础研究必将继续加深机器对世界的理解推进整个人工智能领域的发展。参考内容https://ai.facebook.com/blog/yann-lecun-advances-in-ai-research/未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市大脑研究计划构建互联网城市大脑技术和企业图谱为提升企业行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
