绍兴建设用地使用权网站,做网站的是什么工作,深圳燃气公司电话多少,企业网站设计与建设随着计算机硬件的升级与性能的提高#xff0c;运算量已不再是阻碍深度学习发展的难题。卷积神经网络#xff08;Convolution Neural Network#xff0c;CNN#xff09;是深度学习中一项代表性的工作#xff0c;CNN 是受人脑对图像的理解过程启发而提出的模型#xff0c;其… 随着计算机硬件的升级与性能的提高运算量已不再是阻碍深度学习发展的难题。卷积神经网络Convolution Neural NetworkCNN是深度学习中一项代表性的工作CNN 是受人脑对图像的理解过程启发而提出的模型其雏形是 1998 年 LeCun 提出的 LeNet-5 模型。如今卷积神经网络已被广泛应用于计算机视觉领域。本文主要介绍卷积神经网络中几个基础的运算包括卷积、池化与全连接。 目录
1 卷积
2 池化
3 全连接 1 卷积 卷积神经网络中的卷积运算通常指应用于处理图像的二维卷积。卷积运算是卷积神经网络Convolution Neural NetworkCNN中不可缺少的部分使得神经网络具备处理图像的能力。 在介绍卷积运算之前需要了解卷积运算涉及的几个必要的概念。
1卷积核。卷积核通常是一个 3 x 3或 5 x 5 大小的矩阵矩阵的元素表示邻近像素值的权重。在卷积运算时卷积核与图像中某个小区域也叫局部感受野的像素值进行加权平均运算。 2填充。填充是指处理输入特征图边界的方式。为了不丢失边界信息可以对输入图像进行边界填充再执行卷积操作。 3步长。步长指卷积核在输入图像上移动的像素数。步长为 1则每次移动一个像素步长为 2则每次移动两个像素以此类推。 对于输入图像 P使用 3 x 3 卷积核进行卷积运算运算步骤如下 1用 0 对图像 P 的边界进行填充得到扩充图像 P_padding 2按照从上到下、从左到右的顺序在 P_padding 上移动卷积核计算像素值的加权平均值并按照移动的顺序排列得到输出特征图。 TensorFlow 中使用 tf.nn.conv2d 函数进行卷积运算。
tf.nn.conv2d 用法
tf.nn.conv2d(input,filter,strides,padding,data_formatNHWC,dilationsNone,nameNone
) tf.nn.conv2d 示例
import numpy as np
import tensorflow as tfx_in np.array([[[[1], [2], [1]], [[1], [2], [1]],[[1], [2], [1]],
]])kernel_in np.ones((1,9)).reshape(3, 3, 1, 1)x tf.constant(x_in, dtypetf.float32)
kernel tf.constant(kernel_in, dtypetf.float32)x_feature tf.nn.conv2d(x, kernel, strides[1,1,1,1], paddingSAME)
x_feature.numpy().reshape(3, 3) Spyder 运行结果 一个卷积核只能生成一张特征图像在实际应用中为了增强卷积层的表示能力会使用多个不同的卷积核进行卷积运算得到若干特征图像。 2 池化 “池化” 一词来源于其英文 pooling意思是 “使 ...... 集中”。在卷积神经网络中池化是降低特征图像分辨率的运算在神经网络中起到二次提取特征的作用。 常用的池化运算有
1最大池化对局部感受野中的像素值求最大值作为输出特征图像对应位置的像素值
2平均池化对局部感受野中的像素值求平均值作为输出特征图像对应位置的像素值。 下图是对输入图像进行 2 x 2 最大池化的输出结果。 TensorFlow 常用的池化运算如下
1tf.nn.max_pool2d 最大池化
2tf.nn.avg_pool2d 平均池化 tf.nn.max_pool2d 用法
tf.nn.max_pool2d(input,ksize,strides,padding,data_formatNHWC,nameNone
) tf.nn.max_pool2d 示例
import tensorflow as tfx tf.constant([[[[4], [6], [1], [3] ], [[0], [9], [7], [13]], [[4], [3], [7], [10]], [[1], [0], [3], [8] ],
]])result tf.nn.max_pool2d(x, ksize(2,2), strides(2,2), paddingSAME)
result.numpy().reshape(2, 2) Spyder 运行结果 3 全连接 与多层感知机类似全连接层中的每个神经元与前一网络层中的所有神经元相连。在卷积神经网络中多个卷积层和池化层后连接着一个或者多个全连接层全连接运算负责融合卷积层或池化层的局部信息。
