1元网站建设精品网站制作,oppo软件商店官网,邯郸老区建设网站,如何优化网站图片大小深度学习的模型大致可以分为两类#xff0c;一类是卷积神经网络#xff0c;另外一类循环神经网络#xff0c;在计算机视觉领域应用最多的就是卷积神经网络#xff08;CNN#xff09;。CNN在图像分类、对象检测、语义分割等经典的视觉任务中表现出色#xff0c;因此也早就…深度学习的模型大致可以分为两类一类是卷积神经网络另外一类循环神经网络在计算机视觉领域应用最多的就是卷积神经网络CNN。CNN在图像分类、对象检测、语义分割等经典的视觉任务中表现出色因此也早就有一大批各种各样的经典卷积神经网络模型与一些鬼斧神工的卷积操作今天小编就斗胆总结一波这些经典的卷积操作都有哪些不完全版本欢迎补充….
01 正常的卷积与参数
一个正常的图像卷积其工作方式与原理如下图所示 图-1 (二维图像卷积) 图-2 (三维图像卷积)
可以看出其基本的参数有
卷积核大小Convolution filter
图-1中卷积核大小为ksize x ksize3x3步长(stride) 这里指每次移动的像素距离步长为1表示卷积核每次移动一个像素距离依此类推。
填充padding
表示卷积核对边缘的处理方式常见的填充方式有两种same与valid其中same表示根据卷积核大小填充ksize/2 。当卷积核为3x3时填充1个像素5x5时填充两个像素依此类推。Valid表示不填充。输入与输出通道数目从图二可以看出输入的6x6x3的图像数据有三个通道输入通过两个4x4x3的filter之后输出的是3x3x2的图像数据有两个通道输出。
02 空洞卷积Dilated Convolution 看到这些卷积与参数第一个变化就出现了通过改变卷积核大小担心不改变参数数目实现了卷积核的多尺度从而实现了对特征多尺度提取它就是空洞卷积。图示如下 在保持卷积核参数不变的情况下扩大了感受野区域。空洞卷积在图像分类、对象检测、语义分割网络模型中均有应用。
03 转置卷积(transposed convolution)
转置卷积又被称为反卷积此反卷积跟不同于图像处理中的反模糊卷积。2D转置卷积的计算基本原理如下图所示 举例说明卷积操作为 转置卷积操作为 最终图示如下 04 1x1卷积
1x1卷积在输出指定通道数目特征图升降卷积神经网络的通道数上面有特殊用途在Inception系列网络中开始大量应用在网络模型结构设计有重要作用Faster-RCNN中RPN网络就是使用1x1实现指定通道输出的典范。1x1卷积图示如下 1x1 Conv 1x1卷积的好处是可以升降维度通道数目同时它还是一个channel-wise的卷积操作可以降低卷积核的参数数目减小模型规模。此外1x1卷积还有一个很高级隐藏应用技巧就是做全局深度池化操作实现基于通道数的池化操作。 05 组合卷积
组合卷积最早见AlexNet模型的相关论文集大成者是ShuffleNet网络关于组合卷积跟正常卷积的区别见下图 组合卷积主要是基于filter分组实现分组卷积正常的卷积如下 分组filter之后的分组卷积 分组卷积的优势是可以更好的结构化学习克服过拟合减少参数、产生类似正则化效果从而提升整个网络的精度与效率。
06 深度可分离卷积
深度可分离卷积结构是构建轻量化网络模型的利器之一最早出现在相关的模型结构是以MobileNet为代表的轻量级网络模型应用于图像分类、对象检测、语义分割当场景下。深度可分类卷积的图示如下 深度可分离卷积可以大幅减少卷积神经网络的参数因此它在模型层数不变而模型总参数量却可以大幅下降而精度只会稍微损失因此是模型小型化设计与轻量化模型推理的很好骨干网络。
