深度学习神经网络：设计与案例研究

目录
译者序
致谢
前言
第1章 深度学习神经网络：方法和范围 1
1.1 定义 1
1.2 深度神经网络简史及其应用 1
1.3 本书范围 3
1.4 本书的结构安排 4
参考文献 5
第2章 神经网络的基本概念 8
2.1 Hebbian原理 8
2.2 感知器 8
2.3 联想记忆 10
2.4 “赢者通吃”原理 11
2.5 卷积积分 12
参考文献 13
第3章 反向传播神经网络 14
3.1 反向传播结构 14
3.2 反向传播算法的推导 14
3.3 反向传播算法的改进 18
3.3.1 神经网络偏差的引入 18
3.3.2 结合动量或平滑项调整权重 19
3.3.3 关于收敛性的其他修正 19
参考文献 20
第4章 认知机与新认知机 21
4.1 引言 21
4.2 认知机的原理 21
4.3 认知机网络的推导 22
4.3.1 兴奋性神经元 22
4.3.2 抑制性神经元 23
4.4 认知机网络的训练 23
4.5 新认知机 24
参考文献 25
第5章 卷积神经网络 27
5.1 引言 27
5.2 前馈结构 27
5.2.1 基本结构 27
5.2.2 设计细节 30
5.3 卷积层 31
5.3.1 卷积滤波器设计 31
5.3.2 核权值在卷积层中的作用 32
5.3.3 卷积层的输出 32
5.4 反向传播算法 33
5.5 修正线性单元层 33
5.6 池化层 34
5.6.1 最大池化 34
5.6.2 平均池化 35
5.6.3 其他池化方法 35
5.7 随机失活层 35
5.8 输出全连接层 36
5.9 参数(权重)共享层 36
5.10 应用 36
5.11 案例研究 37
参考文献 37
第6章 大内存存储与检索神经网络 40
6.1 大内存存储与检索神经网络原理 40
6.1.1 简介 40
6.1.2 大内存存储与检索神经网络的版本 41
6.1.3 大内存存储与检索神经网络的基本原理 41
6.1.4 基本结构元素 42
6.1.5 输入存储权重的设置和获胜神经元的确定 44
6.1.6 在自组织映射模块中调整分辨率 45
6.1.7 自组织映射模块和从自组织映射模块到输出模块之间的链接 45
6.1.8 权重 46
6.1.9 初始值和局部最小值 46
6.1.10 遗忘和抑制 47
6.1.11 对预处理器和协处理器的输入层的设置 47
6.1.12 训练与运行 48
6.1.13 面对数据缺失的操作 48
6.1.14 大内存存储与检索神经网络的决策过程 48
6.2 大内存存储与检索神经网络1型 49
6.2.1 通过连接权值确定获胜决策 49
6.2.2 大内存存储与检索神经网络1型核心算法(动态大内存存储与检索) 49
6.3 大内存存储与检索神经网络2型 52
6.3.1 动机 52
6.3.2 改进的大内存存储与检索神经网络算法 52
6.3.3 动态大内存存储与检索神经网络 53
6.4 使用LAMSTAR-1和LAMSTAR-2进行数据分析 56
6.4.1 基于连接权值信息的数据分析能力 56
6.4.2 大内存存储与检索神经网络输入的连接权值情况图 57
6.4.3 大内存存储与检索神经网络中的特征提取与去除 57
6.4.4 相关和插值 58
6.4.5 大内存存储与检索神经网络的更新检测 60
6.5 大内存存储与检索神经网络的数据平衡预设程序 60
6.5.1 数据不平衡的解决方法 60
6.5.2 预处理训练核心算法 60
6.6 评论及应用 62
6.6.1 评论 62
6.6.2 应用 63
参考文献 63
第7章 用于深度学习的其他神经网络 66
7.1 深度玻耳兹曼机 66
7.2 深度递归神经网络 68
7.3 反卷积/小波神经网络 69
参考文献 71
第8章 案例研究 73
8.1 人类活动识别 73
8.2 医学：癫痫发作的预测 76
8.3 医学：癌症检测图像处理 77
8.4 图像处理：从2D图像到3D 78
8.5 图像分析：场景分类 79
8.6 图像识别：指纹识别1 80
8.7 图像识别：指纹识别2 82
8.8 人脸识别 83
8.9 图像识别：蝴蝶种类分类 84
8.10 图像识别：树叶分类 85
8.11 图像识别：交通标志识别 86
8.12 信息检索：编程语言分类 87
8.13 信息检索：对从转录自然语言在会话中的信息分类 88
8.14 语音识别 89
8.15 音乐流派分类 90
8.16 安全/财务：信用卡欺诈检测 91
8.17 从测试钻井的渗透率数据预测石油钻探位置 92
8.18 森林火灾预测 93
8.19 市场微观结构中价格走势预测 94
8.20 故障检测：通过声波发射诊断轴承故障 95
参考文献 96
第9章 总结 99
附录A 问题 102
附录B 介绍 105
附录C 程序 106