中文NLP领域的里程碑!百度正式发布NLP预训练模型ERNIE

NLP(自然语言处理)被誉为人工智能“皇冠上的明珠”,其发展备受学术界和产业界关注,而今 NLP 领域再次迎来突破!

2019年3月,百度提出知识增强的语义表示模型 ERNIE(Enhanced Representation through kNowledge IntEgration),并发布了基于 PaddlePaddle 的开源代码与模型。

ERNIE 模型在中文 NLP 任务上表现非凡,在多个公开的中文数据集上进行了效果验证,包括语言推断、语义相似度、命名实体识别、情感分析、问答匹配等自然语言处理各类任务上,均超越了语义表示模型 BERT 的效果。

近年来,基于海量无监督文本的深度神经网络预训练模型大幅提升了各个 NLP 基准任务的效果。早期的工作聚焦于上下文无关的词向量建模,而之后提出的 Cove、ELMo、GPT 等模型,构建了语句级的语义表示迁移模型。去年10月提出的 BERT 模型,测试效果表现尤佳。

但不难发现,无论是稍早提出的 Cove、Elmo、GPT, 还是能力更强的 BERT 模型,其建模对象主要聚焦在原始语言信号上,较少利用语义知识单元建模。这个问题在中文方面尤为明显,例如,BERT 在处理中文语言时,通过预测汉字进行建模,模型很难学出更大语义单元的完整语义表示。

设想如果能够让模型学习到海量文本中蕴含的潜在知识,势必会进一步提升各个 NLP 任务效果。因此百度提出了基于知识增强的 ERNIE 模型。

ERNIE 模型通过建模海量数据中的实体概念等先验语义知识,学习真实世界的语义关系。具体来说,ERNIE 模型通过对词、实体等语义单元的掩码,使得模型学习完整概念的语义表示。相较于 BERT 学习原始语言信号,ERNIE 直接对先验语义知识单元进行建模,增强了模型语义表示能力。

举个例子:

Learned by BERT:哈 [mask] 滨是 [mask] 龙江的省会,[mask] 际冰 [mask] 文化名城。

Learned by ERNIE:[mask] [mask] [mask] 是黑龙江的省会,国际 [mask] [mask] 文化名城。

在 BERT 模型中,通过“哈”与“滨”的局部共现,即可判断出“尔”字,模型没有学习“哈尔滨”本身的任何知识。而 ERNIE 通过学习词与实体的表达,使模型能够建模出“哈尔滨”与“黑龙江”的关系,学到“哈尔滨”是“黑龙江”的省会以及“哈尔滨”是个冰雪城市。

ERNIE 模型本身保持基于字特征输入建模,使得模型在应用时不需要依赖其他信息,具备更强的通用性和可扩展性。相对词特征输入模型,字特征可建模字的组合语义,例如建模红色、绿色、蓝色等表示颜色的词语时,通过相同字的语义组合学到词之间的语义关系。

为验证 ERNIE 的知识学习能力,研究者利用几道有趣的填空题对模型进行了考察。实验将段落中的实体知识去掉,让模型推理其答案。

可以看到 ERNIE 在基于上下文知识推理能力上表现的更加出色。

ERNIE 模型在多个公开中文数据集上进行了效果验证,与 BERT 模型相比,在自然语言推断 XNLI 任务测试集准确率提升 1.2PP,语义相似度 LCQMC 任务测试集准确率提升 0.4PP,命名实体识别 MSRA-NER 任务测试集 F1 提升 1.2PP,情感分析 ChnSentiCorp 任务测试集准确率提升 1.1PP,问答匹配 NLPCC-DBQA 任务测试集 MRR 提升 0.5PP。详细实验数据见 ERNIE 开源项目(点击“阅读原文”即可查看):

https://github.com/PaddlePaddle/LARK/tree/develop/ERNIE

随着大数据和基于神经网络的深度学习的发展,NLP 发展进入到新阶段,成为巨头们抢滩的重要战场。百度在自然语言处理领域有着深厚积累,以“理解语言,拥有智能,改变世界”为使命,研发自然语言处理核心技术,打造领先的技术平台和创新产品,服务全球用户。

未来,百度将以不断精进的 NLP 技术让机器更好地理解真实世界,在认知能力层面取得更大突破,让复杂的世界更简单!

也许你还喜欢

[公司]亚光科技:军用雷达市场规模增

全景网10月20日讯 亚光科技(300123)在最新发布的《投资者关系活动记录表》中透露,目前公

[互动]万集科技:ETC天线已满足加油

全景网10月日讯 万集科技(300552)最新在互动平台回答投资者提问时表示,公司于今年第二

[互动]光韵达:3D打印在航空航天的应

全景网10月20日讯 光韵达(300227)最新在互动平台回答投资者提问时表示,公司看好半导体

资本门商学院 | AI如何为金融业创

报告编委 报告指导人 金建华 爱分析 创始人&CEO 张 扬 爱分析 联合创始人&首席分析师

禾大用数字技术赋能全球农业,突破“

日前,农业农村部副部长于康震一行在东湖高新区调研武汉国家现代农业产业科技创新中心建

LG 化学自建车企“朋友圈” 或为“

细心的人会发现,全球大型电动汽车电池制造商LG 化学今年的动作变得格外频繁。 而这正是

[公司]亚光科技:公司电子产品可应用

全景网10月20日讯 亚光科技(300123)在最新发布的《投资者关系活动记录表》中透露,公司电

[公司]亚光科技:未来5-10年商业卫星

全景网10月20日讯 亚光科技(300123)在最新发布的《投资者关系活动记录表》中透露,保守估

【工艺】LCD泡棉口子胶模切工艺(附

伴随着技术科技的快速发展,消费者对智能手机的感官体验要求越来越高,窄边框和多彩化已经

涉嫌安全带数据造假,日本零部件制造

近年来,随着不断被爆出的丑闻,“日本制造”已逐渐走下神坛。 不可否认,日本是汽车工业强