深度学习—卷积神经网络算法原理与应用

体系完整、通俗易懂，系统讲述卷积神经网络基本原理

详细阐述前向传播、反向传播、优化算法

系统介绍卷积神经网络和自编码器的常用算法

详尽分析算法实例应用

深度学习是机器学习研究中的一个新的领域，其动机在于建立、模拟人脑进行分析学习的神经网络，它模仿人脑的机制来解释数据。自2006年深度学习概念被提出以来，其以极高的发展速度在各行各业得到了广泛的应用。基于深度学习的新技术、新算法不断涌现。本书以深度学习中卷积神经网络算法原理为基础，对最近几年提出的卷积神经网络进行系统介绍。

本书力求体系完整、通俗易懂，书中系统地讲述了卷积神经网络的基本原理，从前向传播、反向传播、优化算法等方面详细阐述。同时对卷积神经网络和自编码器的常用算法进行介绍。针对算法实例应用进行分析。

本书资料搜集工作：袁国亮搜集整理第6章，吕朦搜集整理第4章、第8章，刘文洲搜集整理第5章，郑旭、万溪洲、郭钊搜集整理第2章、第3章、第7章、第8章。

本书在内容上注重精选、结合实际、突出应用。主要面向人工智能及相关专业的高年级本科生及研究生，也可做为从事深度学习的软件工程师的参考书目。

由于编者水平有限，加之时间仓促，书中难免存在不当和谬误之处，恳请有关专家和广大读者不吝赐教。

编 者

2019年1月

第1章 绪论 1
1.1 深度学习 1
1.1.1 概述 1
1.1.2 基本思想 2
1.1.3 基本分类 2
1.2 卷积神经网络技术的发展与应用 4
1.2.1 卷积神经网络的发展 4
1.2.2 卷积神经网络的应用 5
1.3 自编码器的发展及其应用 5
1.3.1 自编码器的发展 5
1.3.2 自编码器的应用 5
第2章 相关数学基础知识 7
2.1 矩阵 7
2.1.1 基本概念 7
2.1.2 矩阵运算 8
2.2 范数 11
2.2.1 范数的定义 11
2.2.2 范数的分类及性质 11
2.3 卷积运算 13
2.3.1 定义 13
2.3.2 多维数组的卷积 14
2.4 激活函数 15
2.4.1 线性激活函数 15
2.4.2 非线性激活函数 16
2.5 信息熵 24
2.5.1 定义 24
2.5.2 条件熵 25
2.5.3 相对熵 26
2.5.4 交叉熵 26
习题 27
第3章 神经网络 28
3.1 人工神经网络 28
3.1.1 人工神经元模型 28
3.1.2 人工神经网络结构 29
3.2 BP神经网络 30
3.2.1 原理 30
3.2.2 网络结构 31
3.2.3 BP神经算法原理 32
3.2.4 信号传递过程的实现 34
3.2.5 算法分析 35
习题 36
第4章 卷积神经网络 37
4.1 原理 37
4.1.1 动机 37
4.1.2 卷积神经网络特点 37
4.2 LeNet-5 38
4.2.1 网络总体结构 38
4.2.2 分层结构 39
4.3 反向传播 43
4.3.1 全连接的反向过程 43
4.3.2 卷积的反向过程 43
4.3.3 池化的反向过程 46
4.3.4 输出层反向传播 47
4.3.5 权值更新 48
习题 49
第5章 卷积神经网络扩展机制 50
5.1 注意力机制 50
5.1.1 注意机制的分类 50
5.1.2 深度学习中的注意机制 51
5.2 卷积变体 53
5.2.1 组卷积 53
5.2.2 深度可分离卷积 55
5.2.3 膨胀卷积 56
5.2.4 全卷积网络 57
习题 59
第6章 自编码器网络 60
6.1 相关概念 60
6.1.1 稀疏性 60
6.1.2 稀疏编码 60
6.2 自编码器概述 61
6.3 自编码器原理 62
6.4 自编码器的拓展网络 65
6.4.1 稀疏自编码 65
6.4.2 栈式自编码 67
6.4.3 去噪自编码 69
6.4.4 压缩自编码 70
6.5 自编码器的编程实现 72
习题 72
第7章 卷积神经网络的优化 73
7.1 正则化与归一化 73
7.1.1 概念 73
7.1.2 参数范数惩罚 74
7.1.3 Dropout 75
7.1.4 归一化 77
7.2 基于梯度的优化方法 78
7.2.1 基本算法 79
7.2.2 自适应学习率算法 84
习题 87
第8章 卷积神经网络的典型结构 88
8.1 概述 88
8.2 AlexNet网络 88
8.2.1 AlexNet基本框架 88
8.2.2 AlexNet数据处理 89
8.3 GoogLenet网络 93
8.3.1 背景 93
8.3.2 Inception V1 93
8.3.3 Inception V2与V3 94
8.3.4 Inception V4 95
8.3.5 Xception 96
8.4 ResNet网络结构 97
8.4.1 ResNet网络 97
8.4.2 ResNeXt 98
8.5 ShuffleNet网络结构 100
8.5.1 网络简介 100
8.5.2 模型结构 100
8.5.3 ShuffleNet V2 102
8.6 DenseNet网络结构 102
8.6.1 Dense block 103
8.6.2 整体结构 103
8.7 数据集介绍 104
8.7.1 图像分类数据集 104
8.7.2 语义分割数据集 109
第9章 卷积神经网络的压缩 112
9.1 核的稀疏化 112
9.2 剪枝 113
9.2.1 剪枝的概念 113
9.2.2 剪枝的类型 113
9.3 模型量化 114
9.3.1 量化转换 114
9.3.2 向量化 115
9.4 模型蒸馏 116
参考文献 119
附录 125
BP神经网络实现人脸识别程序 125
自编码器程序 129
AlexNet程序 130
GoogLeNet程序 133
ResNeXt程序 136
DenseNet程序 141

1. 零基础玩转国产大模型DeepSeek [徐永冰 张帅 编著]
2. 网络工程师5天修炼（适配第6版考纲） [主编　朱小平 施游]
3. 信息系统项目管理师考试32小时通关（适用第4版考纲） [薛大龙]
4. 信息系统管理工程师考试32小时通关（适配第2版考纲） [薛大龙　刘伟]
5. 土木工程材料检测实训 [洪晓江 达则晓丽 钱波]
6. 科技信息检索与论文写作实用教程 [李振华]
7. 传统山水画论解读与实践 [陈钠 著]
8. Python数据库编程 [主编 殷树友 邢 翀]
9. 计算机基础实训指导 [主编 袁春萍 朱妮]
10. 嵌入式人工智能技术应用（数字教材） [主编 胡娜 杨国勇 晏廷荣]
11. Vienna整流器技术 [桂存兵 著]
12. 变频器与伺服应用 [陈刚 叶云飞]
13. 物联网工程设计与实践 [汤琳 李敏]
14. 炉边夜话——深入浅出话AI [汪建　著]
15. 电商运营与管理 [钟肖英 陈潇]
16. Java面向对象程序设计 [主编 姜春磊 陈虹洁]
17. 信息技术基础（Windows 10+WPS Office）（微课版） [主编　石利平　田辉平　谢盛嘉]
18. 人工智能应用 [主编　陈　萍　刘培培　陈孟军]
19. 大学生职业发展与就业指导 [主编　刘志坚]
20. 高级办公应用项目教程 [主编 屈晶 赵成丽]
21. 微信小程序开发项目实战（微课版） [主编 黄龙泉 郭峰 朱倩]
22. 企业档案工作实战宝典百问百答 [华俊 卢秀英 邵甜甜 著]
23. 计算机网络原理及应用 [主编 唐继勇 叶坤 孙梦娜]
24. 大学生创业基础 [主编 王丽莉 王 杨]
25. 船舶辅机 [主编 王连海 于洋 姜淑翠]
26. 大学生就业指导 [主编 王丽莉 董宴廷]
27. 系统架构设计师章节习题与考点特训 [主编 薛大龙 邹月平]
28. 高校学生工作探索与实践 [郭亮 著]
29. 大学生情商管理 [方雄 著]
30. 2023年长沙市会展业发展报告 [主编 周栋良]