易网拓营销型网站,网页广告怎么做,乐东黎族自治县住房建设局网站,怎么做网站账号注册机来源#xff1a;机器之心扩散模型背后的数学可是难倒了一批人。最近一段时间#xff0c;AI 作画可谓是火的一塌糊涂。在你惊叹 AI 绘画能力的同时#xff0c;可能还不知道的是#xff0c;扩散模型在其中起了大作用。就拿热门模型 OpenAI 的 DALLE 2 来说#xff0c;只需输…来源机器之心扩散模型背后的数学可是难倒了一批人。最近一段时间AI 作画可谓是火的一塌糊涂。在你惊叹 AI 绘画能力的同时可能还不知道的是扩散模型在其中起了大作用。就拿热门模型 OpenAI 的 DALL·E 2 来说只需输入简单的文本prompt它就可以生成多张 1024*1024 的高清图像。在 DALL·E 2 公布没多久谷歌随后发布了 Imagen这是一个文本到图像的 AI 模型它能够通过给定的文本描述生成该场景下逼真的图像。就在前几天Stability.Ai 公开发布文本生成图像模型 Stable Diffusion 的最新版本其生成的图像达到商用级别。自 2020 年谷歌发布 DDPM 以来扩散模型就逐渐成为生成领域的一个新热点。之后 OpenAI 推出 GLIDE、ADM-G 模型等都让扩散模型火出圈。很多研究者认为基于扩散模型的文本图像生成模型不但参数量小生成的图像质量却更高大有要取代 GAN 的势头。不过扩散模型背后的数学公式让许多研究者望而却步众多研究者认为其比 VAE、GAN 要难理解得多。近日来自 Google Research 的研究者撰文《 Understanding Diffusion Models: A Unified Perspective 》本文以极其详细的方式展示了扩散模型背后的数学原理目的是让其他研究者可以跟随并了解扩散模型是什么以及它们是如何工作的。论文地址https://arxiv.org/abs/2208.11970至于这篇论文有多「数学」论文作者是这样描述的我们以及其令人痛苦的细节excruciating detail展示了这些模型背后的数学。论文共分为 6 部分主要包括生成模型ELBO、VAE 和分级 VAE变分扩散模型基于分数的生成模型等。以下摘取了论文部分内容进行介绍生成模型给定分布中的观察样本 x生成模型的目标是学习为其真实数据分布 p(x) 进行建模。模型学习完之后我们就可以生成新的样本。此外在某些形式下我们也可以使用学习模型来进行评估观察或对数据进行采样。当前研究文献中有几个重要方向本文只在高层次上简要介绍主要包括GAN其对复杂分布的采样过程进行建模该过程以对抗方式学习。生成模型我们也可称之为「基于似然likelihood-based」的方法这类模型可以将高似然分配给观察到的数据样本通常包括自回归、归一化流、VAE。基于能量的建模在这种方法中分布被学习为任意灵活的能量函数然后被归一化。在基于分数的生成模型中其没有学习对能量函数本身进行建模而是将基于能量模型的分数学习为神经网络。在这项研究中本文探索和回顾了扩散模型正如文中展示的那样它们具有基于可能性和基于分数的解释。变分扩散模型以简单的方式来看一个变分扩散模型Variational Diffusion Model, VDM可以被考虑作为具有三个主要限制或假设的马尔可夫分层变分自编码器MHVAE它们分别为潜在维度完全等同于数据维度每个时间步上潜在编码器的结构没有被学到它被预定义为线性高斯模型。换言之它是以之前时间步的输出为中心的高斯分布潜在编码器的高斯参数随时间变化过程中最终时间步 T 的潜在分布标是准高斯分布。变分扩散模型的视觉展示图。此外研究者明确维护了来自标准马尔可夫分层变分自编码器的分层转换之间的马尔可夫属性。他们对以上三个主要假设的含义一一做了扩展。从第一个假设开始由于符号的滥用现在可以将真实数据样本和潜在变量表示为 x_t其中 t0 表示真实样本数据t ∈ [1, T] 表示相应的潜在变量它的层级结构由 t 进行索引。VDM 后验与 MHVAE 后验相同但现在可以重写为如下从第二个假设已知的是编码器中每个潜在变量的分布都是以之前分层潜在变量为中心的高斯分布。与 MHVAE 不同的是编码器在每个时间步上的结构没有被学到它被固定为一个线性高斯模型其中均值和标准差都可以预先设置为超参数或者作为参数学得。在数学上编码器转换表示为如下对第三个假设α_t 根据固定或可学得的 schedule 而随时间演化使得最终潜在变量 p(x_T) 的分布为标准高斯分布。然后可以更新 MHVAE 的联合分布将 VDM 的联合分布写为如下总的来说这一系列假设描述了一个图像随时间演化的稳定噪声。研究者通过添加高斯噪声渐进地破坏图像直到最终变得与高斯噪声完全相同。与任何 HVAE 相似的是VDM 可以通过最大化证据下界Evidence Lower Bound, ELBO来优化可以推导如下ELBO 的解释过程如下图 4 所示三种等价的解释正如之前证明的一个变分扩散模型可以简单地通过学习神经网络来训练以从任意噪声版本 x_t 及其时间索引 t 中预测原始自然图像 x_0。但是x_0 有两个等价的参数化使得可以对 VDM 展开两种进一步的解释。首先可以利用重参数化技巧。在推导 q(x_t|x_0) 的形式时文中公式 69 可以被重新排列为如下将其带入之前推导出的真实去噪转换均值 µ_q(x_t, x_0)则可以重新推导如下因此可以将近似去噪转换均值 µ_θ(x_t, t) 设置为如下并且相应的优化问题变成如下为了推导出变分扩散模型的三种常见解释需要求助于 Tweedie 公式它指的是当给定样本时指数族分布的真实均值可以通过样本的最大似然估计也称为经验均值加上一些涉及估计分数的校正项来估计。从数学上讲对于一个高斯变量 z ∼ N (z; µ_z, Σ_z)Tweedie 公式表示如下基于分数的生成模型研究者已经表明变分扩散模型可以简单地通过优化一个神经网络 s_θ(x_t, t) 来学得以预测一个得分函数∇ log p(x_t)。但是推导中的得分项来自 Tweedie 公式的应用。这并不一定为解读得分函数究竟是什么或者它为什么值得建模提供好的直觉或洞见。好在可以借助另一类生成模型即基于分数的生成模型来获得这种直觉。研究者的确证明了之前推导出的 VDM 公式具有等价的基于分数的生成建模公式使得可以在这两种解释之间灵活切换。为了理解为什么优化一个得分函数是有意义的研究者重新审视了基于能量的模型。任意灵活的概率分布可以写成如下形式避免计算或建模归一化常数的一种方式是使用神经网络 s_θ(x) 来学习分布 p(x) 的得分函数∇ log p(x)。这是观察到了公式 152 两边可以进行对数求导它可以自由地表示为神经网络不涉及任何归一化常数。通过利用真值得分函数最小化 Fisher 散度可以优化得分函数。直观地讲得分函数在数据 x 所在的整个空间上定义了一个向量场并指向模型具体如下图 6 所示。最终研究者从训练目标和抽样过程两方面建立了变分扩散模型和基于分数的生成模型之间的显式关联。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市大脑研究计划构建互联网城市大脑技术和企业图谱为提升企业行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
