卷积神经网络基础知识

430 阅读2分钟
原文链接: www.zybuluo.com

卷积神经网络

cnn


卷积网络概述

传统的机器学习大多数都需要我们手工去建立feature,这种方法建立出来的feature,大多都是有物理意义的,所以算法最终好不好,就看你特征工程做的怎么样!

现在换到图像识别场景,我们要解决的一个问题就是怎么去从图像中提取特征?这个问题困扰了人们好久,直到卷积神经网络出现,实现了让机器自己去提取图像特征,不在需要人工去定义了。

那如果我们如果直接用DNN来做,会有什么问题呢?看下的例子:

我们对于一个32*32*3的rgb图片,需要3w多的参数,随着图片大小的增加。带来的问题就是参数爆炸。那怎么办呢?一个想发就是参数共享

参数共享的意思就是我们不在是一个神经元和所有的输入连接,而是只是一次只看一部分输入,具体看下图:


我们通过一个卷积核,只看这个卷积核里面的图像内容,有效的减少了参数的数量,下面我们再来一个例子,方便我们更深入的了解下卷积核的思想:

通过卷积核来做参数共享,有效的减少了神经网络的参数数量。

卷积核图形解释

以下内容来自 CNNs from different viewpoints
我们先有下面的图像,卷积核,输出3个矩阵:

具体输出中每个值是通过下面的运算得到:

具体的等式计算:

我们再以神经元连接的视角来看:

如果是全连接的话:

从上面两个图就能看出卷积核只和部门输入连接,而且连接参数还共享。极大的减少了网络的参数个数。

总结

本文是对卷积核的一个简单解释,但是这能帮助我们理解卷积网络到底是怎么工作的。

这是 深度学习系列 的第二篇,你的鼓励是我继续写下去的动力,期待我们共同进步。
这个时代,每个人都是超级个体!关注我,一起成长!