|
|
51CTO旗下网站
|
|
移动端

谷歌发布自然问答数据集 Natural Questions

Google 发布用于训练和评估开放领域(Open-domain)问答系统的大型语料库 Natural Questions(NQ)。

作者:段段段落来源:开源中国|2019-01-25 18:12

Google 发布用于训练和评估开放领域(Open-domain)问答系统的大型语料库 Natural Questions(NQ)。该数据集包含了 30 万个自然产生的问题和对应的回答注释,每个回答都是人工从维基百科页面找到的答案。另外,Google 还举办了挑战活动,以 NQ 数据集训练的模型性能来生成挑战者的排行榜。

开放式域名问答(QA)是自然语言理解(NLU)中的一项基准任务,旨在模仿人们如何查找信息,通过对问题的阅读和理解找到问题的答案。例如,用自然语言表达的问题(“为什么天是蓝色的?”),QA 系统应该能够阅读网页(比如这个维基百科页面 Diffuse sky radiation)并返回正确的答案,虽然答案有点复杂和冗长。

然而,目前并没有大量公开可用的自然产生问题(即寻求信息的人提出的问题)和可用于训练评估 QA 模型的答案。原因是汇集用于问答的高质量数据集,需要大量的实际问题来源以及寻找问题答案的大量人力。

而现在谷歌发布的自然问答数据集 Natural Questions 可以说是填补了这部分资料的空白。简单来说,就是 Google 收集自家搜寻引擎真实的问题查询,搭配维基百科的资料,为问答系统提供训练资料集。这个过程中,进行匿名查询的注释者需要阅读整个维基百科页面,来寻找答案并提供两种答案注释,包括涵盖所有资讯的长答案和简洁的短答案。

目前,该数据集收集了 30 万个自然产生的问题与答案,注释的品质精准度达 90%,另外,Natural Questions 还包括 1.6 万个范例,每个问题的答案由 5 个不同的注释者提供。Google表示,这种资料可以用来评估问答系统的性能。

【编辑推荐】

  1. 你真的会高效的在GitHub搜索开源项目吗?
  2. 法国依据欧盟GDPR重罚谷歌5700万美元
  3. Facebook 开源增强版 LASER,可使用90多种语言
  4. 谷歌聘请macOS老兵操盘Fuchsia OS:加速取代安卓/Chrome OS
  5. Intel 公布开源版 Nauta,可开展深度学习模型训练实验
【责任编辑:张燕妮 TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢

订阅专栏+更多

用Python玩转excel

用Python玩转excel

让重复操作傻瓜化
共3章 | DE8UG

151人订阅学习

AI入门级算法

AI入门级算法

算法常识
共22章 | 周萝卜123

127人订阅学习

这就是5G

这就是5G

5G那些事儿
共15章 | armmay

122人订阅学习

读 书 +更多

Expert C# 2005 Business Objects中文版

本书描述了怎样应用面向对象的概念来进行.NET应用程序的架构、设计和开发。作者将重点放在了面向业务的对象,即业务对象和怎样在包括Web和...

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊

51CTO服务号

51CTO官微