企业级大数据项目实战：用户搜索行为分析系统从0到1

第 1 章  项目需求描述 1
1.1  项目需求 1
1.2  项目数据流设计 2
1.3  项目架构设计 3
1.4  集群角色规划 6
1.5  项目开发环境介绍 7
第 2 章  项目开发环境准备 9
2.1  VMware中安装CentOS 7操作系统 9
2.1.1  下载CentOS 7镜像文件 10
2.1.2  VMware新建虚拟机 12
2.1.3  安装CentOS 7 16
2.1.4  启动CentOS 7 21
2.1.5  打开Shell终端 22
2.2  Linux系统环境配置 22
2.2.1  新建用户 23
2.2.2  修改用户权限 23
2.2.3  关闭防火墙 24
2.2.4  设置固定IP 24
2.2.5  修改主机名 28
2.2.6  新建资源目录 28
2.3  安装JDK 29
2.4  克隆虚拟机 30
2.5  配置主机IP映射 33
2.6  配置集群各节点SSH无密钥登录 34
2.6.1  SSH无密钥登录原理 34
2.6.2  SSH无密钥登录操作步骤 35
2.7  搭建Hadoop分布式集群 36
2.7.1  搭建思路 37
2.7.2  搭建Hadoop集群 37
2.8  动手练习 45
第 3 章  用户行为数据采集模块开发 46
3.1  用户行为数据来源 47
3.1.1  构建测试数据 47
3.1.2  数据预处理 48
3.2  使用Flume采集用户行为数据 48
3.2.1  Flume采集架构 49
3.2.2  Flume组件 51
3.2.3  Flume的安装与测试 52
3.2.4  配置Flume多节点数据采集 55
3.3  使用Kafka中转用户行为数据 57
3.3.1  ZooKeeper集群的搭建 58
3.3.2  ZooKeeper集群的启动与连接 60
3.3.3  Kafka集群的搭建 61
3.3.4  Kafka集群的启动与查看 63
3.3.5  Kafka主题操作 64
3.4  Flume数据实时写入Kafka 67
3.4.1  数据流架构 67
3.4.2  配置centos03节点的Flume 67
3.4.3  启动Flume 68
3.4.4  测试数据流转 69
3.5  使用HBase存储用户行为数据 69
3.5.1  HBase集群的架构 70
3.5.2  HBase集群的搭建 73
3.5.3  HBase集群的启动、查看与停止 75
3.5.4  测试HBase数据表操作 77
3.5.5  创建HBase用户行为表结构 80
3.6  Flume数据实时写入HBase 81
3.6.1  数据流架构 81
3.6.2  配置centos03节点的Flume 81
3.6.3  Flume写入HBase原理分析 83
3.6.4  用户行为日志匹配测试 84
3.6.5  启动Flume 85
3.6.6  测试数据流转 86
3.7  动手练习 87
第 4 章  用户行为数据离线分析模块开发 88
4.1  Hive安装 88
4.1.1  Hive内嵌模式安装 89
4.1.2  Hive本地模式安装 92
4.1.3  Hive远程模式安装 94
4.2  Hive数据库操作 97
4.2.1  创建数据库 97
4.2.2  修改数据库 97
4.2.3  选择数据库 99
4.2.4  删除数据库 99
4.2.5  显示数据库 99
4.3  Hive表操作 100
4.3.1  内部表操作 101
4.3.2  外部表操作 105
4.4  Hive离线分析用户行为数据 107
4.4.1  创建用户行为表并导入数据 107
4.4.2  统计前10个访问量最高的用户ID及访问数量 108
4.4.3  分析链接排名与用户点击的相关性 109
4.4.4  分析一天中上网用户最多的时间段 109
4.4.5  查询用户访问最多的前10个网站域名 110
4.5  Hive集成HBase分析用户行为数据 110
4.5.1  Hive集成HBase的原理 111
4.5.2  Hive集成HBase的配置 111
4.5.3  Hive分析HBase用户行为表数据 112
4.6  Spark集群的搭建 114
4.6.1  应用提交方式 114
4.6.2  搭建集群 116
4.7  Spark应用程序的提交 118
4.7.1  spark-submit工具的使用 118
4.7.2  执行Spark圆周率程序 119
4.7.3  Spark Shell的启动 120
4.8  Spark RDD算子运算 121
4.8.1  Spark RDD特性 121
4.8.2  创建RDD 123
4.8.3  转换算子运算 124
4.8.4  行动算子运算 130
4.9  使用IntelliJ IDEA创建Scala项目 131
4.9.1  在IDEA中安装Scala插件 132
4.9.2  创建Scala项目 133
4.10  Spark WordCount项目的创建与运行 134
4.10.1  创建Maven管理的Spark项目 135
4.10.2  编写WordCount程序 137
4.10.3  提交WordCount程序到集群 138
4.10.4  查看Spark WebUI 139
4.10.5  查看程序执行结果 141
4.11  Spark RDD读写HBase 141
4.11.1  读取HBase表数据 142
4.11.2  写入HBase表数据 144
4.12  使用Spark SQL实现单词计数 151
4.12.1  Spark SQL编程特性 151
4.12.2  Spark SQL的基本使用 153
4.12.3  Spark SQL实现单词计数 155
4.13  Spark SQL数据源操作 159
4.13.1  基本操作 159
4.13.2  Parquet文件 164
4.13.3  JSON数据集 166
4.13.4  Hive表 167
4.13.5  JDBC 169
4.14  Spark SQL与Hive整合分析 170
4.14.1  整合Hive 171
4.14.2  操作Hive 173
4.15  Spark SQL整合MySQL存储分析结果 175
4.15.1  MySQL数据准备 175
4.15.2  读取MySQL表数据 176
4.15.3  写入结果数据到MySQL表 177
4.16  Spark SQL热点搜索词统计 179
4.16.1  开窗函数的使用 179
4.16.2  热点搜索词统计实现 181
4.17  Spark SQL搜索引擎每日UV统计 184
4.17.1  内置函数的使用 184
4.17.2  搜索引擎每日UV统计实现 186
4.18  动手练习 187
第 5 章  用户行为数据实时分析模块开发 189
5.1  Spark Streaming程序编写 189
5.1.1  Spark Streaming工作原理 189
5.1.2  输入DStream和Receiver 191
5.1.3  第一个Spark Streaming程序 191
5.2  Spark Streaming数据源 193
5.2.1  基本数据源 193
5.2.2  高级数据源 195
5.2.3  自定义数据源 196
5.3  DStream操作 199
5.3.1  无状态操作 199
5.3.2  状态操作 200
5.3.3  窗口操作 202
5.3.4  输出操作 203
5.3.5  缓存及持久化 205
5.3.6  检查点 205
5.4  Spark Streaming按批次累加单词数量 207
5.4.1  编写应用程序 207
5.4.2  运行应用程序 209
5.4.3  查看Spark WebUI 210
5.5  Spark Streaming整合Kafka计算实时单词数量 211
5.5.1  整合原理 212
5.5.2  编写应用程序 213
5.5.3  运行应用程序 216
5.6  Structured Streaming快速实时单词计数 217
5.7  Structured Streaming编程模型 220
5.8  Structured Streaming查询输出 221
5.8.1  输出模式 222
5.8.2  外部存储系统与检查点 223
5.9  Structured Streaming窗口操作 224
5.9.1  事件时间 225
5.9.2  窗口聚合单词计数 226
5.9.3  延迟数据和水印 229
5.10  Structured Streaming消费Kafka数据实现单词计数 232
5.11  Structured Streaming输出计算结果到MySQL 235
5.11.1  MySQL建库、建表 235
5.11.2  Structured Streaming应用程序的编写 236
5.11.3  打包与提交Structured Streaming应用程序 239
5.12  动手练习 242
第 6 章  数据可视化模块开发 244
6.1  IDEA搭建基于SpringBoot的Web项目 244
6.1.1  创建Maven项目 245
6.1.2  项目集成SpringBoot 246
6.2  WebSocket数据实时推送 249
6.2.1  WebSocket推送原理 249
6.2.2  项目集成WebSocket 249
6.2.3  创建JDBC查询工具类 250
6.2.4  创建WebSocket服务处理类 251
6.3  使用ECharts进行前端视图展示 253
6.4  多框架整合实时分析用户行为日志数据流 258
6.4.1  项目实时处理工作流程 258
6.4.2  模拟实时产生用户行为数据 259
6.4.3  集群数据流转 261
6.5  动手练习 264