信息物理系统强化学习：网络安全示例

Reinforcement Learning for Cyber-Physical Systems: with Cybersecurity Case Studies
出版者的话
译者序
前言
作者简介
第一部分　介绍
第1章　强化学习概述 2
1.1　强化学习综述 2
1.1.1　引言 2
1.1.2　与其他机器学习方法的比较 4
1.1.3　强化学习示例 6
1.1.4　强化学习应用 7
1.2　强化学习的发展历史 9
1.2.1　传统的强化学习 9
1.2.2　深度强化学习 11
1.3　强化学习的仿真工具 12
1.4　本章小结 13
第2章　信息物理系统和网络安全概述 14
2.1　引言 14
2.2　信息物理系统研究示例 16
2.2.1　资源分配 16
2.2.2　数据传输与管理 18
2.2.3　能源控制 18
2.2.4　基于模型的软件设计 19
2.3　网络安全威胁 20
2.3.1　网络安全的对手 20
2.3.2　网络安全的目标 21
2.4　本章小结 26
2.5　练习 26
第二部分　强化学习在信息物理系统中的应用
第3章　强化学习问题 30
3.1　多臂赌博机问题 30
3.1.1　ε-greedy算法 33
3.1.2　softmax算法 35
3.1.3　UCB算法 36
3.2　上下文赌博机问题 37
3.3　完整的强化学习问题 39
3.3.1　强化学习的要素 40
3.3.2　马尔可夫决策过程介绍 41
3.3.3　值函数 42
3.4　本章小结 45
3.5　练习 45
第4章　基于模型的强化学习 49
4.1　引言 49
4.2　动态规划 51
4.2.1　策略迭代法 52
4.2.2　价值迭代法 55
4.2.3　异步动态规划 56
4.3　部分可观察马尔可夫决策过程 58
4.4　连续马尔可夫决策过程 61
4.4.1　惰性近似 61
4.4.2　函数近似 62
4.5　本章小结 63
4.6　练习 64
第5章　无模型强化学习 66
5.1　引言 66
5.2　强化学习预测 66
5.2.1　蒙特卡罗学习 66
5.2.2　时序差分学习 69
5.3　强化学习控制 71
5.3.1　蒙特卡罗控制 71
5.3.2　基于时序差分的控制 72
5.3.3　策略梯度 77
5.3.4　actor-critic 81
5.4　高级算法 84
5.4.1　期望Sarsa 84
5.4.2　双Q-learning 85
5.5　本章小结 85
5.6　练习 86
第6章　深度强化学习 90
6.1　引言 90
6.2　深度神经网络 90
6.2.1　卷积神经网络 92
6.2.2　循环神经网络 94
6.3　深度学习在值函数上的应用 95
6.4　深度学习在策略函数上的应用 100
6.4.1　DDPG 102
6.4.2　A3C 104
6.5　深度学习在强化学习模型上的应用 107
6.6　深度强化学习计算效率 108
6.7　本章小结 109
6.8　练习 109
第三部分　案例研究
第7章　强化学习与网络安全 112
7.1　传统的网络安全方法 112
7.1.1　传统的网络安全技术 112
7.1.2　新兴网络安全威胁 113
7.2　强化学习在网络安全中的应用 114
7.2.1　移动群智感知中的虚假感知攻击 114
7.2.2　认知无线电网络中的安全强化 115
7.2.3　移动边缘计算中的安全问题 117
7.2.4　网络安全分析师的动态调度 118
7.3　本章小结 119
7.4　练习 119
第8章　案例研究：智能电网中的在线网络攻击检测 120
8.1　引言 120
8.2　系统模型和状态估计 122
8.2.1　系统模型 122
8.2.2　状态估计 123
8.3　问题描述 124
8.4　解决方案 127
8.5　仿真结果 130
8.5.1　仿真设计与参数设置 130
8.5.2　性能评估 130
8.6　本章小结 134
第9章　案例研究：击败中间人攻击 135
9.1　引言 135
9.2　强化学习方法 137
9.2.1　状态空间 137
9.2.2　行动空间 139
9.2.3　奖励 139
9.3　实验和结果 139
9.3.1　模型训练 140
9.3.2　在线实验 141
9.4　讨论 143
9.4.1　基于探测器的检测系统 143
9.4.2　运用SDN/OpenFlow使模型实用 144
9.5　本章小结 144
参考文献 145
索引 161