卷积神经网络(CNN)原理推导说明：典型的CNN网络结构中，包含：卷积层、下采样层、全连接层1.全连接层学习算法全连接层网络结构图2.1工作信号正向传播逐层传播，直至得到最终输出层结果利用网络输出值与真实值之间的误差，进行反向传播，调整权值。参数：c表示分类数目，N表示训练样本数tnk表示第n个样本真实值的第k维ynk表示第n个样本输出值的第k维(2)误差①第n个样本的误差：每类（共c类）误差的和②总误差：每个样本（共N个）误差的和2.2误差信号反向传播(1)反向计算各层灵敏度(2)权值调整2.卷积层学习算法卷积层典型结构图子采样层典型结构图2.1工作信号正向传播(2)确定需要更新的权值①基b②卷积核k说明：此时需要分别计算误差对它们的变化率和2.2误差信号反向传播②求第I层第j个灵敏度map（公式2可得）：说明：在下采样层map的权值W都取一个相同值β，而且是一个常数。③第l层灵敏度δl：对第l层中的灵敏度map中所有节点进行求和，由公式1可知，得到基的梯度。(2)计算卷积核的梯度①对于一个给定的权值，对所有共享该权值的连接对该点求梯度；②然后对这些梯度进行求和。说明：是中的在卷积的时候与逐元素相乘的patch3.子采样层学习算法3.1工作信号正向传播(2)确定需要更新的权值①加性基b②乘性基β说明：此时需要分别计算误差对它们的变化率和3.2误差信号反向传播(2)计算乘性基的梯度①保存正向传播时下采样层的特征map：②乘性基的梯度4.特征图组合①第l层第j个输出特征图xlj：说明：αij表示在得到第j个输出map的第i个输入map的权值，需要满足约束③误差对于第l层变量αi的导数为：④代价函数关于权值ci的偏导为：