面向机器学习的自然语言标注

　　前言1
　　第1章 基础知识7
　　1.1 语言标注的重要性 7
　　1.1.1 语言学描述的层次8
　　1.1.2 什么是自然语言处理9
　　1.2 语料库语言学简史10
　　1.2.1 什么是语料库13
　　1.2.2 语料库的早期应用15
　　1.2.3 当今的语料库17
　　1.2.4 标注类型18
　　1.3 语言数据和机器学习24
　　1.3.1 分类25
　　1.3.2 聚类25
　　1.3.3 结构化模式归纳26
　　1.4 标注开发循环26
　　1.4.1 现象建模27
　　1.4.2 按照规格说明进行标注30
　　1.4.3 在语料库上训练和测试算法31
　　1.4.4 对结果进行评价32
　　1.4.5 修改模型和算法33
　　总结34
　　第2章 确定目标与选择数据36
　　2.1 定义目标36
　　2.1.1 目标陈述37
　　2.1.2 提炼目标：信息量与正确性38
　　2.2 背景研究43
　　2.2.1 语言资源44
　　2.2.2 机构与会议44
　　2.2.3 自然语言处理竞赛45
　　2.3 整合数据集46
　　2.3.1 理想的语料库：代表性与平衡性47
　　2.3.2 从因特网上收集数据47
　　2.3.3 从人群中获取数据48
　　2.4 语料库的规模49
　　2.4.1 现有语料库50
　　2.4.2 语料库内部的分布51
　　总结53
　　第3章 语料库分析54
　　3.1 语料库分析中的基本概率知识55
　　3.1.1 联合概率分布56
　　3.1.2 贝叶斯定理58
　　3.2 计算出现次数58
　　3.2.1 齐普夫定律（Zip's Law）61
　　3.2.2  n元语法62
　　3.3 语言模型63
　　总结65
　　第4章 建立模型与规格说明66
　　4.1 模型和规格说明示例66
　　4.1.1 电影题材分类69
　　4.1.2 添加命名实体70
　　4.1.3 语义角色71
　　4.2 采用（或不采用）现有模型73
　　4.2.1 创建模型和规格说明：一般性与特殊性74
　　4.2.2 使用现有模型和规格说明76
　　4.2.3 使用没有规格说明的模型78
　　4.3 各种标准78
　　4.3.1 ISO标准78
　　4.3.2 社区驱动型标准81
　　4.3.3 影响标注的其他标准81
　　总结82
　　第5章 选择并应用标注标准84
　　5.1 元数据标注：文档分类85
　　5.1.1 单标签标注：电影评论85
　　5.1.2 多标签标注：电影题材87
　　5.2 文本范围标注：命名实体90
　　5.2.1 内嵌式标注90
　　5.2.2 基于词例的分离式标注92
　　5.2.3 基于字符位置的分离式标注95
　　5.3 链接范围标注：语义角色96
　　5.4 ISO标准和你97
　　总结97
　　第6章 标注与审核99
　　6.1 标注项目的基本结构99
　　6.2 标注规格说明与标注指南101
　　6.3 准备修改102
　　6.4 准备用于标注的数据103
　　6.4.1 元数据103
　　6.4.2 数据预处理104
　　6.4.3 为标注工作分割文件104
　　6.5 撰写标注指南105
　　6.5.1 例1：单标签标注——电影评论106
　　6.5.2 例2：多标签标注——电影题材108
　　6.5.3 例3：范围标注——命名实体111
　　6.5.4 例4：链接范围标注——语义角色112
　　6.6 标注人员114
　　6.7 选择标注环境116
　　6.8 评价标注结果117
　　6.8.1 Cohen的Kappa(κ)算法118
　　6.8.2 Fleiss的Kappa(κ)算法119
　　6.8.3 解释Kappa系数122
　　6.8.4 在其他上下文中计算κ值123
　　6.9 创建黄金标准（审核）125
　　总结126
　　第7章 训练：机器学习129
　　7.1 何谓学习130
　　7.2 定义学习任务132
　　7.3 分类算法133
　　7.3.1 决策树学习135
　　7.3.2 朴素贝叶斯学习140
　　7.3.3 最大熵分类器145
　　7.3.4 其他需要了解的分类器147
　　7.4 序列归纳算法148
　　7.5 聚类和无监督学习150
　　7.6 半监督学习150
　　7.7 匹配标注与算法153
　　总结154
　　第8章 测试与评价156
　　8.1 测试算法157
　　8.2 评价算法157
　　8.2.1 混淆矩阵157
　　8.2.2 计算评价得分159
　　8.2.3 解释评价得分163
　　8.3 可能影响算法评价的问题164
　　8.3.1 数据集太小164
　　8.3.2 算法过于适合开发数据166
　　8.3.3 标注中的信息过多166
　　8.4  最后测试得分167
　　总结167
　　第9章 修改与报告169
　　9.1 修改项目170
　　9.1.1 语料库分布和内容170
　　9.1.2 模型和规格说明170
　　9.1.3 标注171
　　9.1.4 训练和测试172
　　9.2 报告工作173
　　9.2.1 关于语料库174
　　9.2.2 关于模型和规格说明175
　　9.2.3 关于标注任务和标注人员175
　　9.2.4 关于ML算法176
　　9.2.5 关于修改177
　　总结177
　　第10章 标注：TimeML179
　　10.1 TimeML的设计目标180
　　10.2 相关研究181
　　10.3 建设语料库182
　　10.4 模型：初步的标注规格说明183
　　10.4.1 时间183
　　10.4.2 信号184
　　10.4.3 事件184
　　10.4.4 链接184
　　10.5 标注：最初的尝试185
　　10.6 模型：TimeBank中的TimeML标注规格说明185
　　10.6.1 时间表达式185
　　10.6.2 事件186
　　10.6.3 信号187
　　10.6.4 链接187
　　10.6.5 可信度189
　　10.7 标注：TimeBank的产生189
　　10.8 TimeML成为ISO-TimeML192
　　10.9 对未来建模：TimeML的发展方向193
　　10.9.1 叙事容器194
　　10.9.2 将TimeML扩展到其他领域195
　　10.9.3 事件结构196
　　总结197
　　第11章 自动标注：生成TimeML199
　　11.1 TARSQI组件200
　　11.1.1 GUTime：时间标志识别201
　　11.1.2 EVITA：事件识别及分类201
　　11.1.3 GUTenLINK202
　　11.1.4 Slinket204
　　11.1.5 SputLink204
　　11.1.6 TARSQI组件中的机器学习205
　　11.2 TTK的改进206
　　11.2.1 结构变化206
　　11.2.2 时间实体识别改进：BTime207
　　11.2.3 时间关系识别207
　　11.2.4 时间关系验证208
　　11.2.5时间关系可视化209
　　11.3 TimeML竞赛：TempEval-2209
　　11.3.1 TempEval-2：系统概述210
　　11.3.2 成果综述213
　　11.4 TTK的未来213
　　11.4.1 新的输入格式213
　　11.4.2 叙事容器/叙事时间214
　　11.4.3 医学文档215
　　11

　　James Pustejovsky教授是美国布兰代斯（Brandeis University）大学计算机科学系和Volen国家综合系统中心教授。先后在美国麻省理工学院和马萨诸塞大学获得学士学位和博士学位。Pustejovsky教授主要从事自然语言的理论和计算研究。研究领域包括：计算语言学、词汇语义学、知识表征、话语语义学、时间推理和抽取等。已经出版多部专著。

　　自然语言理解是人工智能的一个重要分支，主要研究如何利用计算机来理解和生成自然语言。本书重点介绍了自然语言理解所涉及的各个方面，包括语法分析、语义分析、概念分析、语料库语言学、词汇语义驱动、中间语言、WordNet、词汇树邻接文法、链接文法、基于语段的机器翻译方法、内识别与文本过滤、机器翻译的评测等，既有对基础知识的介绍，又有对新研究进展的综述，同时还结合了作者（JamesPustejovsky，生成词库理论的创始人）多年的研究成果。本书内容全面、详略得当，结合实例讲解，使读者更易理解。