network in network

最新推荐文章于 2020-11-25 19:17:46 发布
原创 最新推荐文章于 2020-11-25 19:17:46 发布 · 293 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文探讨了MLPConvolution的概念，指出其通过多层感知机提取localpatch的隐藏特征，弥补传统卷积操作的不足。同时，深入解析了GlobalPoolingLayer替代全连接层的优势，证实其在特征提取与正则化方面的显著效果。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

1、mlp convolution
local patch 只采取传统卷积操作，属于线性操作，无法提取出非线性特征。多层感知机可拟合复杂函数。因此，将local patch提取的特征接入到多层感知机中，以提取出该local patch的隐藏特征。
mlp中的神经元对应1*1的channel

在这里插入图片描述
在这里插入图片描述
2、globe pooling layer
以全局池化层取代全连接层，由于对local patch提取的都是高级特征，最终可保证得到的patch也是高级特征，此时，利用对feature map取均值后输入softmax进行分类即可。
经过实验验证，全局池化层也确有正则化功效
可以代替全连接层，正是由于local patch进行了复杂特征提取

Network In Network(精读)
小胜爱捣鼓
11-20 1万+
一.文献名字和作者      Network In Network.Min Lin, Qiang Chen, Shuicheng Yan     二.阅读时间     2014年11月19日 三.文献的目的     文章主要是对于CNN结构进行改进，使得CNN能够学习到更加抽象和有效的非线性特征。 四.文献的贡献点 4.1 卷积层的改进--多
深度学习经典模型之Network in Network
最新发布
weixin_43775295的博客
11-07 1162
​ Network In Network (NIN)是由MinLinMin LinMinLin等人提出，在CIFAR-10和CIFAR-100分类任务中达到当时的最好水平，因其网络结构是由三个多层感知机堆叠而被成为NIN5^{[5]}5。NIN以一种全新的角度审视了卷积神经网络中的卷积核设计，通过引入子网络结构代替纯卷积中的线性映射部分，这种形式的网络结构激发了更复杂的卷积神经网络的结构设计，其中下一节中介绍的GoogLeNet的Inception结构就是来源于这个思想。
Network In Network
weixin_34167043的博客
04-12 166
Introduction: 传统的cnn过滤器是一个泛化的线性模型（GLM），我们认为这GLM的抽象能力是低级别的。把GLM替换为一个更有效的非线性函数近似能够提高抽象能力。当例子是线性可分时，GLM能实现很好的抽象。然而例子很多情况下是线性不可分的，输入的线性函数才能很好地表达。此网络没有采用传统的全连接层，而是采用全局平均池化层。一方面是因为全局平均池化层能很好解释特征映射和类别之间的联系。另...
深度学习（二十六）Network In Network学习笔记
热门推荐
hjimce的专栏
01-04 5万+
本篇博文主要讲解2014年ICLR的一篇非常牛逼的paper：《Network In Network》，过去一年已经有了好几百的引用量，这篇paper改进了传统的CNN网络，采用了少量的参数就松松击败了Alexnet网络，Alexnet网络参数大小是230M，采用这篇paper的算法才29M，减小了将近10倍啊。这篇paper提出的网络结构，是对传统CNN网络的一种改进(这种文献少之又少，所以感觉很有必要学习)。
Network In Network.zip
03-15
《网络中的网络（Network in Network）》 深度学习作为现代人工智能领域的核心驱动力，已经广泛应用于图像识别、语音处理、自然语言理解等多个领域。Network In Network（NiN）是2013年由Min Lin, Qiang Chen, and ...
深度学习论文：1312.4400-Network In Network
09-09
本文介绍的是一篇深度学习领域的学术论文，标题为“1312.4400-Network In Network”，简称NIN。论文中提出了一种新颖的深度网络结构，名为“Network In Network”（NIN），旨在提高模型对于感受野内局部区域的判别...
network in network 基于caffe的实现
01-08
"Network in Network (NiN) 是一种深度学习架构，它在卷积神经网络（CNN）的基础上提出了更精细的特征提取方法。NiN的核心思想是引入了微网络（Micro-Networks），即在传统的卷积层之后添加多个1x1的小型卷积层，以...
Network in Network
elgong的博客
01-30 280
Network in Network 2014年 论文地址： https://arxiv.org/abs/1312.4400 论文核心 NIN特点: 微型网络: 增强模型在感受野（receptive field）内对局部区域的辨别能力; GAP全局平均池化: 强化了特征图与分类的对应关系; GAP本身是结构化的正则化器，能避免整体结构的过拟合； 卷积层使用线性滤波器（卷积核...
tictoc正方形网络模型_反卷积：可视化并理解卷积网络
weixin_39705018的博客
11-25 271
可视化与理解卷积网络的探讨卷积网络模型自问世以来，对AI技术的发展起了很大的推动作用。但其复杂的模型结构，庞大的参数规模也给模型优化带来很多问题。如果问某个参数的值问什么是3而不是6，很难得到有根据的回答。发表于2013年11月的论文《Visualizing and Understanding Convolutional Networks》系统展示了如何可视化卷积网络，并根据可视化后观察到的现象优...
NIN (Network In Network)
weixin_30632089的博客
10-11 340
Network In Network 论文Network In Network(Min Lin, ICLR2014). 传统CNN使用的线性滤波器是一种广义线性模型(Generalized linear model,GLM)。所以用CNN进行特征提取时，其实就隐含地假设了特征是线性可分的，可实际问题往往是难以线性可分的。CNN中通过堆加卷积过滤器来产生更高层的特征表示,作者想到了除了像之前一样堆加...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值