面向机器学习的自然语言标注

目录
前言1
第1章 基础知识7
1.1 语言标注的重要性 7
1.1.1 语言学描述的层次8
1.1.2 什么是自然语言处理9
1.2 语料库语言学简史10
1.2.1 什么是语料库13
1.2.2 语料库的早期应用15
1.2.3 当今的语料库17
1.2.4 标注类型18
1.3 语言数据和机器学习24
1.3.1 分类25
1.3.2 聚类25
1.3.3 结构化模式归纳26
1.4 标注开发循环26
1.4.1 现象建模27
1.4.2 按照规格说明进行标注30
1.4.3 在语料库上训练和测试算法31
1.4.4 对结果进行评价32
1.4.5 修改模型和算法33
总结34
第2章 确定目标与选择数据36
2.1 定义目标36
2.1.1 目标陈述37
2.1.2 提炼目标：信息量与正确性38
2.2 背景研究43
2.2.1 语言资源44
2.2.2 机构与会议44
2.2.3 自然语言处理竞赛45
2.3 整合数据集46
2.3.1 理想的语料库：代表性与平衡性47
2.3.2 从因特网上收集数据47
2.3.3 从人群中获取数据48
2.4 语料库的规模49
2.4.1 现有语料库50
2.4.2 语料库内部的分布51
总结53
第3章 语料库分析54
3.1 语料库分析中的基本概率知识55
3.1.1 联合概率分布56
3.1.2 贝叶斯定理58
3.2 计算出现次数58
3.2.1 齐普夫定律（Zip's Law）61
3.2.2 n元语法62
3.3 语言模型63
总结65
第4章 建立模型与规格说明66
4.1 模型和规格说明示例66
4.1.1 电影题材分类69
4.1.2 添加命名实体70
4.1.3 语义角色71
4.2 采用（或不采用）现有模型73
4.2.1 创建模型和规格说明：一般性与特殊性74
4.2.2 使用现有模型和规格说明76
4.2.3 使用没有规格说明的模型78
4.3 各种标准78
4.3.1 ISO标准78
4.3.2 社区驱动型标准81
4.3.3 影响标注的其他标准81
总结82
第5章 选择并应用标注标准84
5.1 元数据标注：文档分类85
5.1.1 单标签标注：电影评论85
5.1.2 多标签标注：电影题材87
5.2 文本范围标注：命名实体90
5.2.1 内嵌式标注90
5.2.2 基于词例的分离式标注92
5.2.3 基于字符位置的分离式标注95
5.3 链接范围标注：语义角色96
5.4 ISO标准和你97
总结97
第6章 标注与审核99
6.1 标注项目的基本结构99
6.2 标注规格说明与标注指南101
6.3 准备修改102
6.4 准备用于标注的数据103
6.4.1 元数据103
6.4.2 数据预处理104
6.4.3 为标注工作分割文件104
6.5 撰写标注指南105
6.5.1 例1：单标签标注——电影评论106
6.5.2 例2：多标签标注——电影题材108
6.5.3 例3：范围标注——命名实体111
6.5.4 例4：链接范围标注——语义角色112
6.6 标注人员114
6.7 选择标注环境116
6.8 评价标注结果117
6.8.1 Cohen的Kappa(κ)算法118
6.8.2 Fleiss的Kappa(κ)算法119
6.8.3 解释Kappa系数122
6.8.4 在其他上下文中计算κ值123
6.9 创建黄金标准（审核）125
总结126
第7章 训练：机器学习129
7.1 何谓学习130
7.2 定义学习任务132
7.3 分类算法133
7.3.1 决策树学习135
7.3.2 朴素贝叶斯学习140
7.3.3 最大熵分类器145
7.3.4 其他需要了解的分类器147
7.4 序列归纳算法148
7.5 聚类和无监督学习150
7.6 半监督学习150
7.7 匹配标注与算法153
总结154
第8章 测试与评价156
8.1 测试算法157
8.2 评价算法157
8.2.1 混淆矩阵157
8.2.2 计算评价得分159
8.2.3 解释评价得分163
8.3 可能影响算法评价的问题164
8.3.1 数据集太小164
8.3.2 算法过于适合开发数据166
8.3.3 标注中的信息过多166
8.4 最后测试得分167
总结167
第9章 修改与报告169
9.1 修改项目170
9.1.1 语料库分布和内容170
9.1.2 模型和规格说明170
9.1.3 标注171
9.1.4 训练和测试172
9.2 报告工作173
9.2.1 关于语料库174
9.2.2 关于模型和规格说明175
9.2.3 关于标注任务和标注人员175
9.2.4 关于ML算法176
9.2.5 关于修改177
总结177
第10章 标注：TimeML179
10.1 TimeML的设计目标180
10.2 相关研究181
10.3 建设语料库182
10.4 模型：初步的标注规格说明183
10.4.1 时间183
10.4.2 信号184
10.4.3 事件184
10.4.4 链接184
10.5 标注：最初的尝试185
10.6 模型：TimeBank中的TimeML标注规格说明185
10.6.1 时间表达式185
10.6.2 事件186
10.6.3 信号187
10.6.4 链接187
10.6.5 可信度189
10.7 标注：TimeBank的产生189
10.8 TimeML成为ISO-TimeML192
10.9 对未来建模：TimeML的发展方向193
10.9.1 叙事容器194
10.9.2 将TimeML扩展到其他领域195
10.9.3 事件结构196
总结197
第11章 自动标注：生成TimeML199
11.1 TARSQI组件200
11.1.1 GUTime：时间标志识别201
11.1.2 EVITA：事件识别及分类201
11.1.3 GUTenLINK202
11.1.4 Slinket204
11.1.5 SputLink204
11.1.6 TARSQI组件中的机器学习205
11.2 TTK的改进206
11.2.1 结构变化206
11.2.2 时间实体识别改进：BTime207
11.2.3 时间关系识别207
11.2.4 时间关系验证208
11.2.5时间关系可视化209
11.3 TimeML竞赛：TempEval-2209
11.3.1 TempEval-2：系统概述210
11.3.2 成果综述213
11.4 TTK的未来213
11.4.1 新的输入格式213
11.4.2 叙事容器/叙事时间214
11.4.3 医学文档215
11