做设计的一般在什么网站找素材,ps怎么logo设计制作,php免费企业网站模板,门户网站 流量目录
微分学
导数
偏导数
梯度
梯度下降算法
反向传播算法
自动求导
计算图
正则化与过拟合
L1正则化
L2正则化
Dropout正则化
拉格朗日对偶问题
拉格朗日乘数法
凸优化
对偶问题
KKT条件
Slater条件
积分学
笔记内容 微积分是17世纪后半叶发展起来的数…
目录
微分学
导数
偏导数
梯度
梯度下降算法
反向传播算法
自动求导
计算图
正则化与过拟合
L1正则化
L2正则化
Dropout正则化
拉格朗日对偶问题
拉格朗日乘数法
凸优化
对偶问题
KKT条件
Slater条件
积分学
笔记内容 微积分是17世纪后半叶发展起来的数学的一个分支。微积分有两个分支微分学和积分学。
微分学
微积分导数涉及各种变化率的研究包括切线的斜率。
导数
一元函数曲线上的切线斜率也就是函数在该点的变化率。
偏导数
一元函数延伸到多元函数为一个曲面时找到曲面上沿X、Y轴方向的切线斜率偏导数就是该多元函数沿坐标轴的变化率。
梯度
函数在该点处的方向导数沿着该方向取得最大值即函数在当前位置的导数。
梯度下降算法
梯度下降算法是机器学习和深度学习中最常用的优化算法。 反向传播算法
反向传播算法的梯度下降法求损失函数关于权重参数的偏导数。
自动求导
深度学习框架可以自动计算导数根据设计好的模型系统会构建一个计算图。当定义一个变量并指定它需要计算梯度时框架会跟踪所有与该变量有关的计算。然后当计算一个目标值通常是损失函数并调用反向传播函数时。backward,框架会沿着这些计算的路径反向传播使用链式法则来计算每个变量的偏导数。每次调用。backward时新的梯度会加到已有的梯度上。
计算图
正则化与过拟合
L1正则化
L2正则化
Dropout正则化
拉格朗日对偶问题
拉格朗日乘数法
凸优化
对偶问题
KKT条件
Slater条件
积分学
积分学积分处理数量的累积如曲线下的面积或一个实体的体积。 笔记内容
https://www.yuque.com/g/u42592276/ax6il7/pmfxty3ykhrtq0us/collaborator/join?tokenzXNMqhSjjXay6pIOsourcedoc_collaborator# 《数学基础——微积分在机器/深度学习上的应用》
