inception V1
使用1*1卷积,可以跨通道组织信息,提高网络的表达能力,同时对输出进行升维或者降维
Inception架构的主要想法是考虑怎样近似卷积视觉网络的最优稀疏结构并用容易获得的密集组件进行
什么是稀疏结构,有什么作用?
论文中采用的inception module,
- 含有4个分支,每个分支中都含有1*1的卷积。它的优点是可以跨通道组织信息,提高网络表达能力;另外可以降维或者升维。
-
有的分支使用其他分支的卷积同时也会使用11卷积,11卷积增加一层特征变换和非线性化。
- 包含3中不同尺度的卷积和最大池化,增加不同尺度的适应性
人脑神经网络是稀疏的,因此大型神经网络也应该是稀疏的,可以减少过拟合降低计算量,如卷积神经网络稀疏的连接
inception net 就是找到最优的稀疏连接(即 inception module),论文中提到的稀疏连接就是Hebbian原理
在inception module中11卷积是最多的,33和55中相对较少。在整个网络中有多个inception module堆叠,希望靠后的inception module可以捕获更高阶的抽象特征,因此靠后卷积的空间集中度应该逐渐降低,可以捕获更大面积的特征。越靠后33和5*5越多
扩展
- google inception net : V1->V2->v3->v4
inception V2
inception v3
- 我的微信小程序
- 这是我的微信小程序扫一扫
-
- 我的微信公众号
- 我的微信公众号扫一扫
-
评论