TensorFlow深度学习及实践

第1章人工智能简介

1.1什么是人工智能

1.2AlphaGo的原理简介

1.2.1MCTS算法

1.2.2AlphaGo的基本原理

1.3什么是深度学习

1.4深度学习的方法

1.5TensorFlow是什么

1.5.1TensorFlow的特点

1.5.2TensorFlow的使用公司和使用对象

1.5.3为什么Google要开源这个神器

1.6其他深度学习框架

1.7小结

1.8习题

第2章TensorFlow环境搭建

2.1安装环境介绍

2.1.1CUDA简介

2.1.2cuDNN简介

2.1.3查看GPU信息

2.2安装TensorFlow

2.2.1下载TensorFlow

2.2.2基于pip的安装

2.2.3基于Java的安装

2.2.4从源代码安装

2.3其他模块

2.3.1numpy模块

2.3.2matplotlib模块

2.3.3jupyter模块

2.3.4scikitimage模块

2.3.5librosa模块

2.3.6nltk模块

2.3.7keras模块

2.3.8tflearn模块

2.4文本编辑器

2.4.1Geany

2.4.2Sublime Text

2.4.3IDLE

2.4.4PyCharm

2.5TensorFlow测试样本

2.6小结

2.7习题

第3章TensorFlow可视化

3.1PlayGround

3.1.1数据

3.1.2特征

3.1.3隐藏层

3.1.4输出

3.2TensorBoard

3.3TensorBoard代码

3.4小结

3.5习题

第4章TensorFlow基础知识

4.1张量

4.1.1张量的属性

4.1.2张量的创建

4.1.3TensorFlow的交互式运行

4.2数据流图

4.3操作

4.4会话

4.5变量

4.5.1初始化

4.5.2形变

4.5.3数据类型与维度

4.5.4其他操作

4.5.5共享变量

4.6矩阵的创建与操作

4.7模型的保存与读取

4.7.1保存模型

4.7.2载入模型

4.7.3从磁盘读取信息

4.8批标准化

4.9使用GPU

4.9.1指定GPU设备

4.9.2指定GPU的显存占用

4.10神经元函数

4.10.1激活函数

4.10.2卷积函数

4.10.3分类函数

4.11优化方法

4.12队列与线程

4.12.1队列

4.12.2队列管理器

4.12.3线程和协调器

4.13读取数据源

4.13.1placeholder填充数据

4.13.2文件读入数据

4.13.3预先读入内存方式

4.14创建分类器

4.15小结

4.16习题

第5章TensorFlow聚类分析

5.1无监督学习

5.2聚类的概念

5.3k均值聚类算法

5.3.1k均值聚类算法迭代判据

5.3.2k均值聚类算法的机制

5.3.3k均值聚类算法的优缺点

5.3.4k均值聚类算法的实现

5.4k最近邻算法

5.4.1实例分析

5.4.2k最近邻算法概述

5.4.3模型和三要素

5.4.4kNN算法的不足

5.5k均值聚类算法的典型应用

5.5.1实例： 对人工数据集使用k均值聚类算法

5.5.2实例： 对人工数据集使用k最近邻算法

5.5.3实例： 对图像识别使用k最近邻算法

5.6小结

5.7习题

第6章TensorFlow回归分析

6.1求逆矩阵

6.2矩阵分解

6.3实例： TensorFlow实现线性回归算法

6.4选择损失函数

6.4.1最小化损失函数

6.4.2实例： TensorFlow实现线性回归损失函数

6.5TensorFlow的其他回归算法

6.5.1戴明回归算法

6.5.2岭回归与lasso回归算法

6.5.3弹性网络回归算法

6.6逻辑回归分析

6.6.1逻辑回归

6.6.2损失函数

6.6.3实例： TensorFlow实现逻辑回归算法

6.7小结

6.8习题

第7章TensorFlow支持向量机

7.1支持向量机简介

7.1.1几何间隔和函数间隔

7.1.2最大化间隔

7.1.3软间隔

7.1.4SMO算法

7.1.5核函数

7.1.6实例： TensorFlow实现支持向量机

7.2非线性支持向量机

7.2.1风险最小化

7.2.2VC维

7.2.3结构风险最小化

7.2.4松弛变量

7.2.5实例： TensorFlow实现非线性支持向量机

7.3实例： TensorFlow实现多类支持向量机

7.4小结

7.5习题

第8章深度神经网络基础知识

8.1神经元

8.1.1神经元的结构

8.1.2神经元的功能

8.2简单神经网络

8.3深度神经网络

8.4梯度下降

8.4.1批量梯度下降法

8.4.2随机梯度下降法

8.4.3小批量梯度下降法

8.4.4实例： 梯度下降法

8.5前向传播

8.5.1前向传播算法数学原理

8.5.2DNN的前向传播算法

8.6后向传播

8.6.1求导链式法则

8.6.2后向传播算法思路

8.6.3后向传播算法的计算过程

8.6.4实例： 实现一个简单的二值分类算法

8.7优化函数

8.7.1随机梯度下降优化法

8.7.2动量优化法

8.7.3Adagrad优化法

8.7.4Adadelta优化法

8.7.5Adam优化法

8.8实例： TensorFlow实现简单深度神经网络

8.9小结

8.10习题

第9章TensorFlow实现卷积神经网络

9.1卷积神经网络的概述

9.1.1什么是卷积神经网络

9.1.2为什么要用卷积神经网络

9.1.3卷积神经网络的结构

9.1.4实例： 简单卷积神经网络的实现

9.2卷积神经网络的函数

9.3AlexNet

9.4TensorFlow实现ResNet

9.4.1ResNet的基本原理

9.4.2实例： TensorFlow实现ResNet

9.5TesnorFlow卷积神经网络的典型应用

9.6反卷积神经网络

9.6.1反卷积原理

9.6.2反卷积操作

9.6.3实例： TensorFlow实现反卷积

9.6.4反池化原理

9.6.5实例： TensorFlow实现反池化

9.6.6偏导计算

9.6.7梯度停止

9.7深度学习的训练技巧

9.7.1优化卷积核技术

9.7.2多通道卷积技术

9.8小结

9.9习题

第10章TensorFlow实现循环神经网络

10.1循环神经网络的概述

10.1.1循环神经网络的结构

10.1.2实例： 简单循环神经网络的实现

10.2长短时记忆网络

10.2.1LSTM的网络结构

10.2.2LSTM的前向计算

10.2.3实例： LSTM的实现

10.3自然语言建模

10.4实例： BiRNN实现语音识别

10.4.1语音识别背景

10.4.2获取并整理样本

10.4.3训练模型

10.5Seq2Seq任务

10.5.1Seq2Seq任务介绍

10.5.2EncoderDecoder框架

10.5.3实例： TensorFlow实现Seq2Seq翻译

10.5.4实例： 比特币市场的分析与预测

10.6小结

10.7习题

第11章TensorFlow实现深度神经网络

11.1深度神经网络的起源

11.2模型介绍

11.2.1AlexNet模型

11.2.2VGG模型

11.2.3GoogleNet模型

11.2.4残差网络

11.2.5InceptionResNetv2结构

11.2.6其他的深度神经网络结构

11.3实例： VGG艺术风格转移

11.4生成式对抗网络

11.4.1GAN的理论知识

11.4.2生成式模型的应用

11.4.3discriminator和generator损失计算

11.4.4基于深度卷积的GAN

11.4.5指定类别生成模拟样本的GAN

11.5实例： 构建InfoGAN生成MNIST模拟数据

11.6小结

11.7习题

参考文献