深度学习—卷积神经网络算法原理与应用

体系完整、通俗易懂，系统讲述卷积神经网络基本原理

详细阐述前向传播、反向传播、优化算法

系统介绍卷积神经网络和自编码器的常用算法

详尽分析算法实例应用

深度学习是机器学习研究中的一个新的领域，其动机在于建立、模拟人脑进行分析学习的神经网络，它模仿人脑的机制来解释数据。自2006年深度学习概念被提出以来，其以极高的发展速度在各行各业得到了广泛的应用。基于深度学习的新技术、新算法不断涌现。本书以深度学习中卷积神经网络算法原理为基础，对最近几年提出的卷积神经网络进行系统介绍。

本书力求体系完整、通俗易懂，书中系统地讲述了卷积神经网络的基本原理，从前向传播、反向传播、优化算法等方面详细阐述。同时对卷积神经网络和自编码器的常用算法进行介绍。针对算法实例应用进行分析。

本书资料搜集工作：袁国亮搜集整理第6章，吕朦搜集整理第4章、第8章，刘文洲搜集整理第5章，郑旭、万溪洲、郭钊搜集整理第2章、第3章、第7章、第8章。

本书在内容上注重精选、结合实际、突出应用。主要面向人工智能及相关专业的高年级本科生及研究生，也可做为从事深度学习的软件工程师的参考书目。

由于编者水平有限，加之时间仓促，书中难免存在不当和谬误之处，恳请有关专家和广大读者不吝赐教。

编 者

2019年1月

第1章 绪论 1
1.1 深度学习 1
1.1.1 概述 1
1.1.2 基本思想 2
1.1.3 基本分类 2
1.2 卷积神经网络技术的发展与应用 4
1.2.1 卷积神经网络的发展 4
1.2.2 卷积神经网络的应用 5
1.3 自编码器的发展及其应用 5
1.3.1 自编码器的发展 5
1.3.2 自编码器的应用 5
第2章 相关数学基础知识 7
2.1 矩阵 7
2.1.1 基本概念 7
2.1.2 矩阵运算 8
2.2 范数 11
2.2.1 范数的定义 11
2.2.2 范数的分类及性质 11
2.3 卷积运算 13
2.3.1 定义 13
2.3.2 多维数组的卷积 14
2.4 激活函数 15
2.4.1 线性激活函数 15
2.4.2 非线性激活函数 16
2.5 信息熵 24
2.5.1 定义 24
2.5.2 条件熵 25
2.5.3 相对熵 26
2.5.4 交叉熵 26
习题 27
第3章 神经网络 28
3.1 人工神经网络 28
3.1.1 人工神经元模型 28
3.1.2 人工神经网络结构 29
3.2 BP神经网络 30
3.2.1 原理 30
3.2.2 网络结构 31
3.2.3 BP神经算法原理 32
3.2.4 信号传递过程的实现 34
3.2.5 算法分析 35
习题 36
第4章 卷积神经网络 37
4.1 原理 37
4.1.1 动机 37
4.1.2 卷积神经网络特点 37
4.2 LeNet-5 38
4.2.1 网络总体结构 38
4.2.2 分层结构 39
4.3 反向传播 43
4.3.1 全连接的反向过程 43
4.3.2 卷积的反向过程 43
4.3.3 池化的反向过程 46
4.3.4 输出层反向传播 47
4.3.5 权值更新 48
习题 49
第5章 卷积神经网络扩展机制 50
5.1 注意力机制 50
5.1.1 注意机制的分类 50
5.1.2 深度学习中的注意机制 51
5.2 卷积变体 53
5.2.1 组卷积 53
5.2.2 深度可分离卷积 55
5.2.3 膨胀卷积 56
5.2.4 全卷积网络 57
习题 59
第6章 自编码器网络 60
6.1 相关概念 60
6.1.1 稀疏性 60
6.1.2 稀疏编码 60
6.2 自编码器概述 61
6.3 自编码器原理 62
6.4 自编码器的拓展网络 65
6.4.1 稀疏自编码 65
6.4.2 栈式自编码 67
6.4.3 去噪自编码 69
6.4.4 压缩自编码 70
6.5 自编码器的编程实现 72
习题 72
第7章 卷积神经网络的优化 73
7.1 正则化与归一化 73
7.1.1 概念 73
7.1.2 参数范数惩罚 74
7.1.3 Dropout 75
7.1.4 归一化 77
7.2 基于梯度的优化方法 78
7.2.1 基本算法 79
7.2.2 自适应学习率算法 84
习题 87
第8章 卷积神经网络的典型结构 88
8.1 概述 88
8.2 AlexNet网络 88
8.2.1 AlexNet基本框架 88
8.2.2 AlexNet数据处理 89
8.3 GoogLenet网络 93
8.3.1 背景 93
8.3.2 Inception V1 93
8.3.3 Inception V2与V3 94
8.3.4 Inception V4 95
8.3.5 Xception 96
8.4 ResNet网络结构 97
8.4.1 ResNet网络 97
8.4.2 ResNeXt 98
8.5 ShuffleNet网络结构 100
8.5.1 网络简介 100
8.5.2 模型结构 100
8.5.3 ShuffleNet V2 102
8.6 DenseNet网络结构 102
8.6.1 Dense block 103
8.6.2 整体结构 103
8.7 数据集介绍 104
8.7.1 图像分类数据集 104
8.7.2 语义分割数据集 109
第9章 卷积神经网络的压缩 112
9.1 核的稀疏化 112
9.2 剪枝 113
9.2.1 剪枝的概念 113
9.2.2 剪枝的类型 113
9.3 模型量化 114
9.3.1 量化转换 114
9.3.2 向量化 115
9.4 模型蒸馏 116
参考文献 119
附录 125
BP神经网络实现人脸识别程序 125
自编码器程序 129
AlexNet程序 130
GoogLeNet程序 133
ResNeXt程序 136
DenseNet程序 141

1. 庭院风骨—树、灌、篱 [创意房主 著]
2. Python语言程序设计教程 [郭其标 房宜汕]
3. 微积分（经管类）教程篇（下册） [曹海军 王海棠 周玲丽]
4. 微积分（经管类）教程篇（上册） [曹海军 王海棠 周玲丽]
5. 微积分（经管类）导学篇（上册） [王海棠 曹海军 周玲丽]
6. 网站前端技术案例教程（HTML+CSS+JavaScript）（第二版） [黄华升]
7. 线性代数 [主编 史昱 陈凤欣]
8. 电力电子技术课程学习及实验指导 [主编 陈荣]
9. 成长对话：青春的榜样 [主编　施端银　黄武刚　应巨林]
10. 人工智能应用基础 [主编 杨缨 李佳]
11. 中华水文化（慕课版）（第二版） [毕雪燕 杨华轲 罗玲谊 等编著]
12. 电路与电子技术Ⅱ——电路分析基础 [主编 陈晓 金哲]
13. 飞机维修专业英语——飞机系统（第二版） [赵迎春]
14. 英语大爆炸：跟趣味情景剧学口语（微课版） [秦然　编著]
15. 机械工程制图任务跟踪训练 [主编 王瑞清 赵金考 周彦云 ]
16. 机械工程制图 [主编 覃国萍 刘百顺 禹晨]
17. 平面设计与制作项目化教程 [主编　李晨]
18. 后期影像剪辑技术 [主编　郭建伟]
19. 人工智能概论（第二版） [主编　任云晖　丁红　徐迎春 ]
20. 信息时代美育之道 [主编　刘宏宇　黎娅]
21. 数字媒体交互设计项目式教程（微课版） [主编　苏陆]
22. 动画运动规律项目实例解析（微课版） [孙珊珊　袁维坤]
23. 自然语言处理 [主编　冯建周]
24. 新媒体内容创作实务（微课版） [主编　覃思源]
25. 人工智能基础 [主编 余平 张春阳]
26. 人工智能导论 [主编 王飞 潘立武]
27. Amazing！儿童英语自然拼读分级教材（全8册） [王玲　编著]
28. Spark大数据处理技术 [主编　刘仁山　周洪翠　庄新妍]
29. 毫无PS痕迹—你的第一本Photoshop书（第二版） [赵鹏 著]
30. 电视新闻制作（活页式） [主编 王晓翠 刘传琳]