聊城做网站的公司流程,网页设计网站模板,wordpress快速部署,wordpress 755Class24AlexNet
AlexNet
AlexNet于2012年ImageNet 图像识别挑战赛#xff08;ILSVRC-2012#xff09;中以 top-5 错误率15.3%获得冠军#xff0c;远远领先第二名。它首次在大型图像数据集上证明了深层卷积神经网络的强大能力。
AlexNet 的总体结构
AlexNet 总共有 8 层具有学…Class24AlexNet
AlexNet
AlexNet于2012年ImageNet 图像识别挑战赛ILSVRC-2012中以 top-5 错误率15.3%获得冠军远远领先第二名。它首次在大型图像数据集上证明了深层卷积神经网络的强大能力。
AlexNet 的总体结构
AlexNet 总共有 8 层具有学习参数的网络层:层编号类型参数 / 特点1卷积层Conv111×11 卷积核96个通道步幅4ReLU局部响应归一化LRN最大池化2卷积层Conv25×5 卷积核256个通道ReLULRN最大池化3卷积层Conv33×3 卷积核384个通道ReLU4卷积层Conv43×3 卷积核384个通道ReLU5卷积层Conv53×3 卷积核256个通道ReLU最大池化6全连接层FC6输入维度较大输出为 4096ReLUDropout7全连接层FC74096 → 4096ReLUDropout8全连接层FC84096 → 1000类别数Softmax 输出AlexNet的特点1.使用 GPU 加速AlexNet 是第一个在训练时使用 GPU 加速的深度网络。当时使用了 2 个 GPU 并行处理每个 GPU 处理一半神经元跨 GPU 只在某些层通信。2.使用 ReLU 激活函数替代传统的 sigmoid / tanh使得网络收敛更快。3.使用 Dropout 防止过拟合在两个全连接层之间添加 Dropout随机丢弃部分神经元。4.数据增强包括图像翻转、裁剪、颜色扰动等有效扩大训练集、防止过拟合。5.LRN 局部响应归一化用于增强激活的竞争机制虽然在后来的网络如 VGG、ResNet中被弃用。6.重叠池化池化窗口之间存在重叠如池化核 3×3步幅 2有助于减小信息损失。
AlexNet 与 LeNet 对比特性LeNet-5AlexNet提出时间19982012输入尺寸32×32×1224×224×3激活函数Sigmoid / tanhReLU网络层数58使用GPU否是Dropout否是数据增强少多3X3卷积和2X2卷积的主要区别特性3×3 卷积核2×2 卷积核感受野感知范围覆盖 9 个像素覆盖 4 个像素参数数量单通道9 个参数4 个参数特征提取能力更强能提取更复杂的边缘和纹理稍弱适合较简单的特征适用性应用于大多数主流网络结构很少用于主干卷积层信息融合能力更强覆盖区域大提取更充分较弱感受区域小卷积后输出尺寸变化更容易对称保持形状更容易造成输出尺寸减半是否常用于堆叠是如 VGG 中大量堆叠否多用于特殊场景3×3 卷积是主流标准信息提取强大2×2 卷积偶尔作为轻量化或结构替代手段出现但功能更弱。
