命名实体识别的任务是识别待处理文本中的人名、地名、机构名、数字、时间、货币和百分号这7种命名实体。其中，人名、地名、组织机构名最难识别，同时也是最重要的3类实体；虽然数字、时间、货币和百分号这些实体相对简单，但是对上层分析都有重要意义。命名实体识别属于自然语言处理的基础研究领域,是组块分析^[1]、数据挖掘、信息抽取^[2]、信息检索^[3]、句法分析^[4]、语义分析^[5]、自动文摘^[6]、问答系统^[7]和机器翻译^[8]等自然语言处理过程中的重要基础，同时也是重要的预处理过程。

越南语命名实体识别是很困难的一项任务。原因包括：1）实体复杂。越南国家受多文化的影响，在实体命名方面显示出命名实体的多样性和复杂性；越南地名命名广泛，主要分为基本地名和复合地名；越南语实体拼写多样化，比如：东京（Đng Kinh,Tki,T-ky-,T-ki-），胡志明(tphcm,hồ chí minh,hochimin.)等；地名中同时含有数字出现，比如第1坊h,tp hcm.（“phường 1”），3号国道（“quốc lộ số 3”），同时越南语和其他语言一样都存在外来词现象等；2）越南语有其独特的语言特点。越南语是孤立语，没有丰富的形态变化；越南语词是由一个或多个词素构成；越南人名和中国人名类似，唯一不同在于人名存在垫字，例如“Nguyễn Thị Tuyết”阮氏雪，常见的垫字有“文”（Văn）、“妙”（Diệu）、“女”（Nữ）、“玉”（ngọc）、“氏”（Thị）等；越南地名各音节首字母大写；比如：昆明（Cn Minh）、云南（Vân Nam）；非汉越外国地名，首字母大写，音节内部使用“-”连接，比如：Oen-linh-tợn；越南语机构、团体名称一般第一个音节首字母大写（词组除外）等。以上问题给越南语命名实体识别带来极大的困难与挑战。

1 相关研究

对于英语和汉语等语言，命名实体的研究都取得了较好的研究成果。目前命名实体的研究，主要有以下几类方法：1)基于规则的方法,R.Alfred等^[9]根据马来西亚语的语言特点，制定马来西亚语命名实体识别的规则集合；如李楠等^[10]根据中文化学领域中实体特点，制定中文化学领域的命名实体识别的规则集合，并引用启发式信息；Elsebai等^[11]根据阿拉伯语命名实体特点，制定阿拉伯语命名实体识别的规则集合,进行识别实体。2)基于统计的方法；S.Zhao等^[12]结合印第安语言特点提出基于隐马尔可夫模型的命名实体识别方法；I.Ahmed等^[13]使用最大熵模型进行命名实体识别，取得了很好的效果；张玥杰等^[14]提出以最大熵模型作为框架，结合中文实体特点，融合全局特征和局部特征识别命名实体，取得了很好的效果，正确率达到87.29%；Y.Benajiba等^[15]结合阿拉伯语语言特点，提出基于支持向量机的命名实体识别方法，F值达到82.71%。3)基于混合的方法,潘正高等^[16]结合中文命名实体的特点，采用规则与统计相结合的方法进行中文命名实体识别，互相弥补不足，取得了很好的效果； Y.H.Cai等^[17]针对中文组织机构名识别中的标注语料匮乏问题，提出一种基于协同训练机制的机构名识别方法，主要将条件随机场、支持向量机和记忆学习方法组合成一个分类体系，实验表明，混合方法能有效地互相弥补不足；如S.Biswas等^[18]主要提出一种基于隐马尔可夫模型和最大熵模型的结合，同时根据语言特点，制定规则集识别命名实体，取得了很好的效果；M.A.Meselhi等^[19]提出一种新的混合方法，把规则和统计相结合提高命名实体识别的正确率，实验表明该方法取得的效果要高于单独使用规则或者统计分析的正确率。4)其他方法，尹继豪等^[20]针对中文机构名称自动识别提出了简化的一体化N最佳层叠模型,该模型实现了汉语切分、词性标注、组块分析和机构名实体识别，同时加入启发信息和机构名称缩写处理,命名实体识别效果显著提高。目前，在越南语实体识别方面有部分研究：V.H.Nguyen等^[21]首先规范越南语的微博内容，然后在支持向量机模型中融入特征进行只针对越南语微博语料进行实体识别，该研究有一定的局限性；R.C.Sam等^[22]为了解决大规模标记训练语料不足的问题，提出半监督学习方法实现越南语文本的命名实体识别，并结合指代词与模糊启发式信息；闫丹辉等^[23]结合越南语实体特点，提出了基于规则的越南语的命名实体识别，由于语言的多样性和复杂性，该方法所制定的规则集合难以覆盖完全且工作量很大，难以识别新实体、外来实体和缩写实体等；同时该工作只针对人名、地名、组织机构名进行识别，并没有对数字、百分号、时间和货币做出识别，但是这些实体对于文本分析等应用十分重要；潘清清等^[24]采用条件随机场模型对越南语的命名实体识别，该方法的局限性在于：单一的模板识别多种类型实体，所选取的特征只有词、词性以及上下文信息，没有充分结合越南语的语言和实体特点；所选的窗口大小不能满足复杂实体（如长组织机构名等）的识别需求；对语料的选取和规模都有所要求。另外，上述研究的F值不高且未充分利用语言和实体特点、受语料规模和类型限制等，单独使用规则或者统计方法已不能解决上述问题。

因此，本文提出一种融合实体特性识别越南语复杂命名实体的混合方法。其主要思想是：首先用人工标记的方法构建一定规模的实体库，包含常用人名、地名、组织机构名、人名姓氏等；其次根据越南语语言特点和实体库中实体特点，制定出识别越南语命名实体识别的规则集合以及选取越南语命名实体识别所用的局部特征和全局特征，使用最大熵模型统计分析，得到越南语命名实体最大熵模型；然后将测试语料分别使用规则集合和最大熵模型分别进行规则和统计分析实体识别，将得到的实体标记结果进行去重、组合等操作进行综合，得到越南语命名实体识别结果；最后人工校对实体识别结果，将正确识别结果加入到实体库中，方便尽可能地制定更全的规则和抽取更有效的特征。实验表明，该方法能够有效地克服了以上越南语实体识别研究的不足；明显地提高了正确率、召回率和F值。因此，该方法是有效可行的。

1 命名实体识别框架

本文提出了一种融合实体特性的越南语复杂命名实体识别的混合方法，该方法能够有效地克服单独使用统计分析或规则集合进行命名实体识别的缺点，并融合越南语语言和实体库中实体特点，原理及流程如图 1所示。

图 1中，越南语命名实体库构建主要来源于中越交流圈中新闻、经济、政治等语料进行人工标记以及从维基百科抽取得到，越南语语料来源于微信中越交流圈中收集得到。首先构建越南语命名实体规则集合：根据越南语的语言特点和越南语实体库中实体特点，制定越南语命名实体规则集合；其次构建越南语最大熵模型的命名实体识别模型：根据越南语的语言特点和越南语实体库中实体特点，抽取命名实体识别的特征，构建语料训练格式，使用最大熵统计分析进行建模，得到最大熵模型；然后对越南语实体语料进行测试：将测试语料放入已得到规则集合和最大熵模型进行命名实体识别，分别得到规则识别结果和统计识别结果，将两者得到的结果进行去重等操作，如果两者识别结果不一致，以规则识别为主；最后将识别得到正确的实体加入到实体库中，方便尽可能地制定更全的规则和抽取更有效的特征。

3 规则集合制定

本文人名、地名、组织机构名所使用的规则以文献[23]制定的规则为基础，已取得很好的效果。另外，其他实体（时间、数字、百分号、货币）相对人名、地名、组织机构名较为简单，识别正确率也高。对于除人名、地名、组织机构名以外的实体本文采用正则表达式和模式匹配进行识别。部分规则表达式如表 1所示。

4 最大熵模型(ME)构建 4.1 最大熵理论

最大熵原理最早由E.T.Jaynes于1957年提出，1996年被应用于自然语言处理中。目前，最大熵广泛运用于歧义消解、句法分析、语义分析和上层机器翻译中。

最大熵模型是最大熵分类器的理论基础，该模型基本思想就是为所有已知的因素构建模型，并把未知因素排除在外。它的一个最显著的特点就是，能有效整合多种约束信息，对于越南语命名实体识别具有很好的适用性；同时降低了搜索空间并提高了处理效率。基于最大熵模型的优点，本文采用最大熵模型对越南语命名实体进行建模。

在确定一个词是否为实体过程中，会涉及各种因素，假设x就是一个由这些因素构成的向量，变量y的值为1（属于命名实体有效特征）或者0（不属于命名实体有效特征）。P(x|y)是指模型对某个词是否为实体的概率。这个概率可以用上述思想来估计。最大熵模型要求P(y|x)在满足一定约束的条件下，必须使得式(1)的熵取得最大值:

式中的约束条件实际上就是指所有已知的特征:

称为最大熵模型的特征。n为所有特征的总数。可以看到这些特征描述了向量x与变量y之间的联系。最终概率输出：

式中：λ_i是每个向量的权重，且z(x)表示为

4.2 特征的选取

对于统计模型来说，特征的选取直接决定模型的好坏，对于最大熵模型来说，好处在于选择特征的灵活性，但也要保证选择的特征能反映不同实体类型之间的差异。根据对现有的越南语语言特点和实体库中实体的特点进行分析，本文主要选取局部特征和全局特征作为本文的有效特征。

4.2.1 全局特征

本文所选取的全局特征，针对所有的实体类型进行选取：

1）词上下文信息特征：本文选取词以及上下文信息做为本文的特征，词字符包含丰富形态信息。例如：“河南省”翻译成“tỉnh Hà_Nam”；“阮生雄”翻译为“Nguyễn_Sinh_Hùng”；“1987年，北京故宫被列入《世界遗产名录》。”翻译为“Năm 1987,Ć_Cung Bắc_Kinh được đưa_vào 《Danh_mục di_sả n thế_giới 》 .”其中，对于“Bắc_Kinh”（北京）做为当前词，本文选取词的上下文信息为：前一个词是“Ć_Cung”；前第2个词是“，”；后一个词是“được”；后第2个词是“đưa_vào”作为有效特征。

2）词性上下文信息的特征：本文选取词性以及上下文作为本文的词性特征，词性能够有效地判断词在句子中所起的角色，同时也影响当前词及周围词的大致信息。例如：“chế_biến//N thủy_sản//N xuất_khẩu//N”中，词性顺序为“N N N”构成了一个组织机构名；“Phương_Thị_Thanh//Np”中“Np”表示人名的名词；“1//M”其中词性“M”在识别数字时，起到了很明显的作用；“十亿”翻译为：“một//M tỷ//M”等；在越南语的句子中，句子中的动词、形容词、副词等不可能成为实体的标志，这样可以减小搜索范围，同时也降低了识别错误率，提高处理效率。因此，本文选取词性和词性前后两个词性作为本文的特征。

3）组块上下文信息特征：用组块技术处理命名实体识别技术是可行的^[1]，因为名词性组块的定义和命名实体名称结构有很强的相似性，所以只考虑越南语的名词性组块、时间组块、数词组块等来分析越南语的命名实体识别问题是可行的，其他类型组块（形容词组块、副词组块等）不可能成为实体，这样可以减少识别范围和模型搜索范围。本文选取组块以及上下文信息特征，组块标记能够有效地帮助识别实体的边界和类型。首先，“阮芳去学校。”翻译为“Nguyễn_Minh_Phương //B-NP ”Đi//B-VP Đến //B-PP Trường_học //B-NP . //O”,在句子中“Nguyễn_Minh_Phương”是一个名词组块，确定了人名实体边界，同时也确定了名词组块的实体类型；“... Một //B-MP tỷ//I-MP ...”可以确定数字的类型和数字的边界等；组块的标记有利于命名实体边界和类型的识别，同时对组块的长度可以有效地辅助识别实体，组织机构名往往比较长；时间、数字、百分号、人名、地名往往组块长度较短。因此，本文选取当前组块标记、前后两个词的组块标记和组块长度作为本文的有效特征。

4.2.2 局部特征

由于实体类型不一样，所选取的实体特征不一样，本文根据越南语语言特点和实体特点进行选取各种实体类型特征：

1）词素个数信息特征：本文选取词素个数信息作为本文的有效特征，本特征主要针对越南语人名选取的特征,如表 2所示。

据整理与收集的数据统计分析，越南语的人名主要以2、3、4个词素组成。主要受垫字影响，垫字可以省略也可以不省略，比如“Tình”、“Thị”、“Khắc”等。对于其他越南语的构词，主要是1个词素和2个词素为主，其他词素的个数比例很小，而人名的词素个数主要集中在3、2、4为主，因此，越南语词素的个数对于越南语的识别是有效的，本文选取当前词词素个数作为本文的有效特征，其他词素个数不再考虑。

2）指示词信息特征：本文选取指示词作为本文的有效的特征。指示词能为实体识别提供一定的启发信息，此特征已广泛应用于英文和中文的命名实体当中，指示词往往与实体紧挨。比如指示词“公司”（cng ty）、“学校”（trường học）、“大学”（trường đại học）、“先生”（ng）、“夫人”（bà）、“叔叔”（bác）、省（tỉnh）、县（huyện）、到（đến）、去（đi）、在（tại）等；在识别百分比时可以用“%”作为指示词特征，识别时间时可以用“年”、“月”、“日”等做为指示词。因此，本文选取指示词作为有效特征。

3）首词素是否存在姓氏库信息特征：本文选取首音节是否在姓氏库中存在来判断该越南语词是否是人名实体，越南语人名和中文人名一样，首音节是姓氏，很有可能构成的是人名。本文统计了越南语的人名姓氏库，判断第1个词素是否存在于姓氏库中，这样可以减小判断范围，有利于越南语人名的识别。

4）首字母是否为大写信息特征：本文选取越南语词中第1个词素的首字母是否大写，在越南语正式的书写中人名和地名的首字母是大写。因此选取首字母是否为大写来区别实体词语非实体词。例如： “北京市”翻译成“Bắc Kinh”；“福建省”翻译成“Phúc Kiến”；人名中“V Thanh”，“Hà Thị V Danh”等，因此，该特征可以作为本文的特征。

5）其他词素的首字母是否为大写信息特征：本文选取除了首字母以外，其他词素第1个字母是否大写，因为对于人名和地名来说，每个词素的首字母都是大写，而对于组织机构名来说并非全部大写。例如：组织机构名“CN Cng_ty Du_lịch Hà_Tây tại Hải_Phòng” 中的“tại”词素的首字母为小写；地名中“A Lưới”所有的词素为大写；人名中“Đinh Vũ Nhật Long”所有的词素的首字母均为大写。

6）命名实体字典信息特征：其目的在于有效利用越南语命名实体的相关字典信息，从而弥补训练语料资源受限的不足。其中人名字典分为“越南语姓氏表”、“越南语人名用字表”、“越南语垫字用字表”；地名词典涉及到“常用地名表”和“缩写地名表”；组织机构名字典涉及到“常用机构名表”和“缩写机构名表”；时间字典表涉及到“常用时间表达方式表”。

以上结合越南语的语言和实体特点，选取相应的特征，有效地利用局部特征和全局特征做为本文的特征，作为最大熵模型中必选特征。

5 实体库构建

越南语实体库构建可以有效地分析出越南语实体特点，根据实体特点制定实体识别规则和特征模板。实体库中实体主要来源于新闻、经济、政治等网页识别、中越交流圈平行语料中抽取和维基百科中收集和整理，并经越南语言专家核对得到。实体库实体共收集139个常用姓氏；31 251个常用人名；20 323个常用地名；6 698个常用组织机构名；18个常用货币名称；其中百分比、数字和时间有固定表达方式，本文采用规则匹配。

6 举例

对于越南语句子“Ngày 24 tháng 11,tại ḥi nghị,Chủ tịch Tập Cận Bình tuyên b́ thực thi toàn diện chiến lược cả i cách phát triển quân đ̣i,kiên định bất di bất dịch đi con đường phát triển quân đ̣i đặc sắc Trung Qúc.” (习近平主席11月24日在会上宣布，全面实施改革强军战略，坚定不移走中国特色强军之路。),其中人名实体“Tập Cận Bình”对人名实体建最大熵模型特征，如表 3所示。。

大熵模型的训练文件的格式如图 2所示。

图 2的训练文件中列与列之间用制表符“\t”分开。图中第1列表示各类实体的标记符号，第2列表示当前词的字符，第3列表示当前词的词性，第4~7列表示当前词的上下文信息特征，第8~11列表示当前词的词性的上下文信息特征，第12~16列表示当前组块标记以及组块上下文信息，第17列表示当前词的词素个数，第18列表示姓氏是否在姓氏列表中，第19列表示指示词特征，第20列表示当前词的首字母是否大写，第21列表示除了第1个词素之外，其他的词素首字母是否大写，第22列表示组块的长度，第23列表示该实体是否包含在实体列表中。

7 实验与分析 7.1 实验数据

实验数据语料来源于中越交流圈中越南新闻、经济、政治等网页，包含大量的命名实体和维基百科抽取得到；通过爬取获得的文本语料，对文本语料进行预处理；经过越南语专家人工标记命名实体语料，形成140 392词级规模的命名实体语料。

7.2 实验的评测标准

为了评估本文方法识别命名实体的效果，实验将采用统一的评价标准：正确率、召回率、F值作为本文评价标准，衡量本文提出的方法的性能。

7.3 实验建立

本文为了验证融入实体库中实体特点和越南语言特点的混合方法的性能，主要以下面3组实验进行验证本文方法的有效性。

实验1 为了评估本文方法的性能，我们将140 392个词级语料分为5份，其中一份做测试语料，另外4份作为训练语料，做5倍交叉验证实验，然后求平均准确率，作为本文方法的测评结果。实验结果如图 3所示。

从图 3中可以看到，Fold5正确率达到局部最高为96.14%，为了更准确评估本文方法的可信度和准确性，用平均准确率来评价本文方法，平均准确率为94.53%。

实验2 为了验证开放测试和封闭测试对于本文方法的影响，本文在开放和封闭语料上进行测试，实验结果如图 4所示。

从图 4中可以看到，本文的方法进行了开放测试和封闭测试，实验表明封闭测试正确率比开放测试正确率高0.66%，封闭测试F值比开放测试高0.49%。因此，本文方法在封闭测试集上效果好于开放测试。

实验3 为了证明本文方法的效果，本文与文献[23]中规则方法和文献[24]中条件随机场模型进行对比，实验结果如图 5所示。

从图 5可以看到，本文方法（规则和最大熵模型的平均正确率）要比文献[24]中条件随机场模型高9.69%；比最大熵模型方法高8.18%;比文献[23]平均正确率高1.53%；同时F值也得到提高；其中规则的召回率达到局部最低为77%，本文召回率高于条件随机场、规则和最大熵模型。因此，本文方法有效可行。

8 结束语

本文根据越南语的语言与实体特点，选取有效的全局特征和局部特征，并借鉴现有的方法，提出融入实体库中实体和越南语语言特点的混合方法进行越南语的命名实体识别。本文在现有的规则基础之上，补充一些重要规则，进行越南语的命名实体识别；同时结合最大熵模型识别实体。由于最大熵能有效地整合多种约束信息和只用考虑特征的选取，因此本文选取最大熵模型进行训练模型，得到最大熵识别识别模型；以规则为主，统计为辅原则,综合实体识别结果；最后，经过人工校对识别结果，将识别正确结果的实体加到实体库中，动态扩展实体库，为规则制定和特征选取提供丰富的语料和依据。通过实验表明本文方法能有效地识别越南语命名实体识别，并且正确率、召回率、F值均有提高，因此，本文方法有效可行。

本文的下一步工作，将解决最大熵模型数据稀疏等问题和结合更多语言特点来识别复杂实体。