网站建设美化,网站建设的价值是什么意思,数码产品网站开发背景,网站诊断工具首先来说对于神经网络这几章看的很懵#xff0c;虽然作者已经去掉了数学公式相关内容#xff0c;讲得已经很想让读者容易理解了#xff0c;奈何读完还是一知半解#xff0c;下面就以我目前的理解简单记录一下吧#xff0c;往后了解的多了再回头看一看。
一、张量运算
作…首先来说对于神经网络这几章看的很懵虽然作者已经去掉了数学公式相关内容讲得已经很想让读者容易理解了奈何读完还是一知半解下面就以我目前的理解简单记录一下吧往后了解的多了再回头看一看。
一、张量运算
作者把张量运算比作神经网络的”齿轮“那么什么是张量呢 神经网络的数据以张量的形式表示即存储在多维 NumPy 数组中数据。 对于文本、时间序列、图片、视频数据分别按不同阶张量表示。
二、双向传播算法
将训练集数据输入到输入层经过隐藏层最后达到输出层并输出结果这是ANN的前向传播过程 由于每一次训练的输出结果与实际结果有误差则计算估计值与实际值之间的误差并将该误差从输出层向隐藏层反向传播直至传播到输入层在反向传播的过程中根据误差调整各种参数的值不断迭代上述过程直至收敛。 这其中涉及到的一些知识点有 损失值、优化器、梯度下降。
损失函数目标函数——在训练过程中需要将其最小化。它衡量的是当前任务是否成功。优化器——决定如何基于损失函数对神经网络进行更新。它执行的是随机梯度下降SGD的某个变体。指标——衡量成功的标准在训练和验证过程中需要对其进行监控如分类精度。与损 失不同训练不会直接对这些指标进行优化。因此指标不需要是可微的。
三、术语表
样本sample或输入input进入模型的数据点。预测prediction或输出output模型的输出结果。目标target真实值。对于外部数据源理想情况下模型应该能够预测出目标。预测误差prediction error或损失值loss value模型预测与目标之间的差距。类别class分类问题中可供选择的一组标签。举例来说对猫狗图片进行分类时“猫”和“狗”就是两个类别。标签label分类问题中类别标注的具体实例。如果 1234 号图片被标注为包含类别“狗”那么“狗”就是 1234 号图片的标签。真实值ground-truth或标注annotation数据集的所有目标通常由人工收集。二分类binary classification一项分类任务每个输入样本都应被划分到两个互斥的类别中。多分类multiclass classification一项分类任务每个输入样本都应被划分到两个以上的类别中比如手写数字分类。多标签分类multilabel classification一项分类任务每个输入样本都可以被分配多个标签。举个例子一张图片中可能既有猫又有狗那么应该同时被标注“猫”标签和“狗”标签。每张图片的标签个数通常是可变的。标量回归scalar regression目标是一个连续标量值的任务。预测房价就是一个很好的例子不同的目标价格形成一个连续空间。向量回归vector regression目标是一组连续值比如一个连续向量的任务。如果对多个值比如图像边界框的坐标进行回归那就是向量回归。小批量mini-batch或批量batch模型同时处理的一小部分样本样本数通常在 8 和 128 之间。样本数通常取 2 的幂这样便于在 GPU 上分配内存。训练时小批量用于计算一次梯度下降以更新模型权重。
