中文NLP领域的里程碑!百度正式发布NLP预训练模型ERNIE

NLP(自然语言处理)被誉为人工智能“皇冠上的明珠”,其发展备受学术界和产业界关注,而今 NLP 领域再次迎来突破!

2019年3月,百度提出知识增强的语义表示模型 ERNIE(Enhanced Representation through kNowledge IntEgration),并发布了基于 PaddlePaddle 的开源代码与模型。

ERNIE 模型在中文 NLP 任务上表现非凡,在多个公开的中文数据集上进行了效果验证,包括语言推断、语义相似度、命名实体识别、情感分析、问答匹配等自然语言处理各类任务上,均超越了语义表示模型 BERT 的效果。

近年来,基于海量无监督文本的深度神经网络预训练模型大幅提升了各个 NLP 基准任务的效果。早期的工作聚焦于上下文无关的词向量建模,而之后提出的 Cove、ELMo、GPT 等模型,构建了语句级的语义表示迁移模型。去年10月提出的 BERT 模型,测试效果表现尤佳。

但不难发现,无论是稍早提出的 Cove、Elmo、GPT, 还是能力更强的 BERT 模型,其建模对象主要聚焦在原始语言信号上,较少利用语义知识单元建模。这个问题在中文方面尤为明显,例如,BERT 在处理中文语言时,通过预测汉字进行建模,模型很难学出更大语义单元的完整语义表示。

设想如果能够让模型学习到海量文本中蕴含的潜在知识,势必会进一步提升各个 NLP 任务效果。因此百度提出了基于知识增强的 ERNIE 模型。

ERNIE 模型通过建模海量数据中的实体概念等先验语义知识,学习真实世界的语义关系。具体来说,ERNIE 模型通过对词、实体等语义单元的掩码,使得模型学习完整概念的语义表示。相较于 BERT 学习原始语言信号,ERNIE 直接对先验语义知识单元进行建模,增强了模型语义表示能力。

举个例子:

Learned by BERT:哈 [mask] 滨是 [mask] 龙江的省会,[mask] 际冰 [mask] 文化名城。

Learned by ERNIE:[mask] [mask] [mask] 是黑龙江的省会,国际 [mask] [mask] 文化名城。

在 BERT 模型中,通过“哈”与“滨”的局部共现,即可判断出“尔”字,模型没有学习“哈尔滨”本身的任何知识。而 ERNIE 通过学习词与实体的表达,使模型能够建模出“哈尔滨”与“黑龙江”的关系,学到“哈尔滨”是“黑龙江”的省会以及“哈尔滨”是个冰雪城市。

ERNIE 模型本身保持基于字特征输入建模,使得模型在应用时不需要依赖其他信息,具备更强的通用性和可扩展性。相对词特征输入模型,字特征可建模字的组合语义,例如建模红色、绿色、蓝色等表示颜色的词语时,通过相同字的语义组合学到词之间的语义关系。

为验证 ERNIE 的知识学习能力,研究者利用几道有趣的填空题对模型进行了考察。实验将段落中的实体知识去掉,让模型推理其答案。

可以看到 ERNIE 在基于上下文知识推理能力上表现的更加出色。

ERNIE 模型在多个公开中文数据集上进行了效果验证,与 BERT 模型相比,在自然语言推断 XNLI 任务测试集准确率提升 1.2PP,语义相似度 LCQMC 任务测试集准确率提升 0.4PP,命名实体识别 MSRA-NER 任务测试集 F1 提升 1.2PP,情感分析 ChnSentiCorp 任务测试集准确率提升 1.1PP,问答匹配 NLPCC-DBQA 任务测试集 MRR 提升 0.5PP。详细实验数据见 ERNIE 开源项目(点击“阅读原文”即可查看):

https://github.com/PaddlePaddle/LARK/tree/develop/ERNIE

随着大数据和基于神经网络的深度学习的发展,NLP 发展进入到新阶段,成为巨头们抢滩的重要战场。百度在自然语言处理领域有着深厚积累,以“理解语言,拥有智能,改变世界”为使命,研发自然语言处理核心技术,打造领先的技术平台和创新产品,服务全球用户。

未来,百度将以不断精进的 NLP 技术让机器更好地理解真实世界,在认知能力层面取得更大突破,让复杂的世界更简单!

也许你还喜欢

重磅!中科院团队研发出一种先进的成

引述外媒报道,中国科学院发布消息,中国研究团队开发了一种先进的成像技术,以前所未有的速

科研普惠社会,华为云Cloud for Good

尼尔·波兹曼在《技术垄断:文化向技术投降》一书中写道:每一种技术都既是包袱又是恩赐,不

麒盛科技“数字化转身” 彰显中国

近年来,随着科技的发展,数字化工厂的打造成为了很多企业的重要战略目标。领先的工业企业

马斯克本月发射第三批星链卫星,明年

[摘要] 随着微小卫星组网需求的增长,全球公布的星座组网计划中需要发射的小卫星数量已

斯坦福大学发布2019人工智能索引报

引述外媒报道,斯坦福大学发布了2019人工智能索引报告(2019 AI Index Report)。这是斯坦福

施耐德电气:塑造绿色典范,引领全球企

经过紧张激烈的商讨,联合国气候变化大会(COP25)日前在马德里闭幕。大会再次为人们敲响了

令AI费解的图像层出不穷 计算机视

机器视觉一直是人工智能热潮中最大的成功案例之一,它可以实现从自动医疗扫描到自动驾驶

向现有算法宣战!麻省理工、IBM合推

需要提示的是,这里的最好或最强指的不是某一个模型,而是一类高性能的视觉模型。 麻省理

2020年导航仪开发方案

本开发方案涉及导航设备技术领域,具体为一种新型导航仪。 背景技术: 导航仪正在随着人们

就在明天!全球科技领袖齐聚北京,与新

在硬科技概念不断深化的时代背景下,全球科技创新空前密集,各领域新兴科技正引领下一轮革