斯坦福大学CS520知识图谱系列课程学习笔记:第二讲如何构建知识图谱

上一讲我们学习了知识图谱的一些基本概念:

斯坦福大学CS520知识图谱系列课程学习笔记:第一讲什么是知识图谱

 

本节课程关于如何构建知识图谱,因为知识图谱的构建是整个知识图谱领域的一个非常核心且基础的工程,如何将现有的数据以知识图谱的数据结构建立和存储,是一个学术界和工业界都非常关心的问题。

第一位讲者主要介绍如何构建企业知识图谱,也就是如何利用企业已有的一些关系型数据库来构建图数据库,以满足更高效的知识查询和推理的能力。

数据集成需要将不同来源的数据组合起来,并向用户提供一个整体视角的数据集。其中包含3个主要元素:(1)全局本体,(2)实例链接,(3)不完整数据。

因此,在构建知识图谱的时候,首先需要了解数据源是什么样的。

比如Oracle ERP系统,包括2万个表,其中也包含太多的属性,同时如果需要连接这些表就需要非常复杂的关系。此外,还有一些的表比如是使用德语来命名的,这样就难难理解表的命名,同时管理数据和使用数据都非常困难,且数据的质量都是未知的。

对于同样一个问题,不同部门的数据就会给出不同的答案。因此,需要整合数据来解决不同数据源的数据不统一的问题。

接下来的内容主要是面向工业界的数据集成的解决办法,如果主要研究这一领域的朋友可以直接观看这一讲的B站视频:

【CS520】斯坦福大学2020春季知识图谱课程(含中英字幕,自动生成)

 

第二位讲者为我们带来了自监督学习的讲解,自监督学习是近几年逐渐受到AI研究者关注的一个方向,因为机器学习面临的一个显著问题是如果要构建高质量的机器学习产品,需要首先构建大型的高质量的训练集。但是,一个关键思想是,新的理论和系统概念(包括监管薄弱,自动数据增强策略等)可以使工程师更快,更经济地构建训练集。听完这一位讲者的课程内容,发现一整讲都是关于自监督学习的,和知识图谱构建没什么关系。

因此,如果有对自监督学习的朋友,可以关注我们的微信公众号“人工智能遇上知识图谱”,并在后台回复【CS520-2】,可以直接取得这一讲的PPT学习资料。

 

第三位讲者是来自Apple公司的一位工程师,主要讲解知识图谱构建及其在Siri中的应用。这位讲者的讲授内容和构建知识图谱的主题最为相关,因此我们可以重点进行学习。

原来苹果公司的PPT风格长这样^~^

首先我们了解到我们经常使用的的Siri也是依赖于知识图谱的,可见知识图谱在问答和对话系统领域具有非常重要的作用。

对于不同类型的输入数据,比如非结构化的文本数据、半结构化的HTML表数据、表格类的结构化数据等都需要转换为一个统一的格式,就是三元组,对这些不同来源的数据进行融合,得到一个一致的知识图谱,并实现一些推理任务来生成新的事实。

1 infobox抽取

知识库构建的第一个主要任务是infobox抽取,也就是从半结构化数据中抽取出三元组知识,输入是经常出现在比如Wikipedia右上角的HTML表,输出是包含(Subject,relation,Object)这样的规范三元组,并且这里三元组是用标识串(实体Q开头,关系P开头)而不是字符串表示的。但是,infobox抽取目前存在几个主要挑战,这里给出对于DBpedia的例子:

(1)无法适应模板改变:例如原本“birthData”模板改变为“date_of_birth”,这时就需要修改模板映射,但实际上每天都有大量的模板在更新,因此需要可扩展性。

(2)锚点链接是实体链接的唯一手段:在Wikipedia中,有很多的半结构化数据并没有链接到一些实体,例如奥巴马的儿子并没有链接到奥巴马,

 

因此,讲者团队提出了一个鲁棒的infobox抽取方法RIBE。他们认为HTML格式的数据是非常有用的,并且可以利用机器学习的方法自动从中抽取出三元组知识。并且实验表明提出的RIBE方法在性能上超过了DBpeida抽取器。

1.1 第一个要解决的关系抽取问题:

对于Wikipedia中的一个subject mention,首先将对应的所有object mention取出分别于subject mention 组成候选对,再对这些候选对进行特征抽取,同时,采用了远程监督的方法利用现有的知识图谱,来查找和候选对匹配的三元组,例如suject是甲壳虫乐队,object是约翰列侬,并且在知识图谱中找到了一个三元组(甲壳虫乐队,成员,约翰列侬),这时就可以为候选对添加谓词“成员”,接着利用每个关系对应的一个分类器对未标记的候选对进行关系分类,例如甲壳虫乐队和麦卡特尼,分类器给出概率最大的关系是成员。

1.2 第二个重点工作是实体链接:

这个问题是指有了一个三元组,但是其中的实体是字符串表示的,这时就需要将其链接到解析后的实体ID。这里可以利用和关系抽取中类似的远程监督的方法,给出subject和关系,需要确定object需要链接到哪个实体ID,例如subject是甲壳虫乐队,关系是成立于,object是利物浦,这时需要确定这里的利物浦是指城市,足球队还是大学。接着,和关系抽取一样,结合特征抽取并经过分类器将非链接的实体链接到实体ID,这样就能构成用ID来表示的规范三元组。

 

通过精度、召回、F1和列表完整性(回答列表值的问题)等多个评价指标来比较RIBE方法和DBpedia抽取器的性能,可以看出RIBE比DBpedia方法在各个指标上都取得了很大提升,这得益于对模板更新的鲁棒性,相关研究成果发表在NAACL2019。

2 实体解析

知识库构建的第二个需要考虑的任务是实体解析。当有多个知识图谱时,需要能够自动识别出不同知识图谱中相同的实体,例如iTunes和Wikidata中可能有很多完全相同的实体。因为不同的知识图谱具有一些不同的信息,比如Wikidata中有很多关于出生地、得奖、成员等信息,iTunes中具有更多的是音乐相关的知识,所以需要将这两个知识图谱进行融合,但这两个知识图谱还具有一些共有的姓名信息,因此需要将不同知识图谱的相同实体ID进行合并。针对实体解析,在Popular Artists和Uniform Random两个数据集上分别进行了测试,均取得了不错的效果。

 

将这个任务扩展到大规模的实体解析,也就是对几十个甚至上百个知识图谱进行相同实体的合并。人工来完成这个任务的话消耗大量时间和精力,因此需要设计机器学习算法来自动化实现大规模的实体解析。解决这个问题的核心思路是利用知识图谱表示学习的方法将实体嵌入到实值向量空间,并在向量空间中对实体进行匹配。

 

对于一个实体e,将其关联的所有关系和实体分别用embedding的向量表示,然后通过编码器将这些组合起来的embedding向量编码为固定尺寸的矩阵,这个矩阵就是实体e的嵌入表示,并将两个来自不同知识图谱中的实体的嵌入表示用点积运算学习得到一个相似度矩阵。对这个相似度矩阵经过CNN并给出匹配程度的预测结果。

 

从实验结果可以看出,是用embedding的方法比之前的方法在Popular Artists和Uniform Random两个数据集上都取得了更优的实体解析效果。在苹果公司其它数据集上这种embedding的方法也都取得了让人满意的效果。

 

从讲者的讲解中可以看出,自动化构建知识图谱中的核心是关系抽取和实体对齐,以及设计知识融合的实体解析,这些也是目前学术界和工业界共同关注的研究方向,值得深入研究。

关注我们的微信公众号“人工智能遇上知识图谱”,并在后台回复:CS520-2,可以直接取得这一讲的PPT学习资料。

后续我们还会更新CS520接下来的课程的学习笔记。

 

往期精选:

斯坦福大学CS520知识图谱系列课程学习笔记:第一讲什么是知识图谱

对知识图谱的告白:斯坦福大学CS520课程介绍

知识图谱最新权威综述论文解读:知识图谱补全部分

知识图谱最新权威综述论文解读:知识表示学习部分

知识图谱最新权威综述论文解读:关系抽取

手把手教你搭建一个中式菜谱知识图谱可视化系统

 

后续我们还会更新CS520接下来的课程的学习笔记。

如果对文章感兴趣欢迎关注知乎专栏“人工智能遇上知识图谱“,也欢迎关注同名微信公众号人工智能遇上知识图谱”,让我们一起学习并交流讨论人工智能与知识图谱技术。

                                                      

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/482163.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

神经复杂系统前沿:关于认知大脑的两种观念

来源: 集智俱乐部作者:David L. Barack, John W. Krakauer译者:JawDrin审校:陈贺 编辑:邓一雪 导语人类的高级认知能力怎样从包含上百亿神经元的大脑复杂系统中涌现出来,是神经科学的核心问题之一。学界中存…

斯坦福大学CS520知识图谱系列课程学习笔记:第三讲高级的知识图谱是什么样的

这一讲的主题是:一些高级的知识图谱是什么样的。三位讲者分别从他们各自带领的团队构建出来的高质量的知识图谱实例出发,从中我们可以认识到一些大佬们构建的优秀的知识图谱产品有哪些特点和优势,从中对我们自己构建知识图谱也可以得到一定的…

人工智能与量子计算在新型忆阻器中的融合

EQUINOX GRAPHICS/UNIVERSITY OF VIENNA来源:IEEE电气电子工程师近年来,计算在两个主要方面取得了进展:机器学习的突破,开发出了可根据经验自动改进的算法;量子计算机的研究,从理论上证明了量子计算机比任何…

第一个关于中式菜谱的智能问答机器人小程序正式上线啦

为了满足大家对菜品烹饪的各类问题能直接得到答案的需求,我开发了目前第一个真正关于菜谱的智能问答系统,并在微信小程序发布上线。这套系统支持对于8600多种菜品的问答功能,并能实现快速问答响应,整套系统后端依托于搭建的中式菜…

数学在自然科学中不可思议的有效性

来源:数学争鸣作者:尤金维格纳翻译:鲍永成 校对:袁向东数学在自然科学中不合理的有效性1959年5月11日在纽约大学Courant数学科学讲座上的讲演作者简介:尤金维格纳(Eugene P. Wigner)美国物理学…

已嵌入微信公众号内的小图聊天机器人介绍和使用说明

小图是一个融合常识与专业知识的智能聊天机器人,进入“人工智能遇上知识图谱”公众号,并在聊天窗口中发送消息就可以开始聊天,同时支持多轮多对话,小图能够提供闲聊、生活服务咨询、智能助手、休闲娱乐、文艺女青年等17种对话聊天…

图像预训练模型的起源解说和使用示例

来源:Deephub Imba三十多年来,许多研究人员在图像识别算法和图像数据方面积累了丰富的知识。如果你对图像训练感兴趣但不知道从哪里开始,这篇文章会是一个很好的开始。这篇文章简要介绍了过去的演变,并总结了现在的一些热门话题。…

介绍一些知识图谱的实际应用类项目

目前已经有很多方法来构建知识图谱,在实际项目中,我们更加关注可以用构建好的知识图谱来干些什么,因此,我找到了网上一些对于当前知识图谱的应用的介绍,分享给大家。 1 国内外知识图谱项目 国外: 常识知…

语言生成类人工智能如何改变科学

来源:ScienceAI编辑 :萝卜皮密歇根大学安娜堡分校新兴技术治理专家 Shbita Parthasarathy 表示,从大量文本中生成流利语言的机器学习算法可能会改变科学研究的方式,但不一定会变得更好。在2022 年 4 月 27 日发布的一份报告中&…

美国最牛的100个AI团队在哪里?

来源:Forbes撰文:海外来电图片:海外来电AI领域的关键玩家都有谁?企业为了保持竞争优势,需要快速有效地扩大人工智能(AI)能力。而Vectice最新一份报告,列出了100家公司拥有增长最快的…

介绍几个专门面向中文的命名实体识别和关系抽取工具

知识图谱已经在人工智能的各个领域发挥越来越重要的作用,例如视觉问答、对话系统、推荐系统等。知识图谱构建是应用这些知识图谱的基础,而面对生活和企业中数据的爆发式增长,自动化知识图谱构建显得越来越重要。从非结构化文本中自动抽取三元…

一文梳理类脑计算的前世今生 | 中科院自动化所研究员李国齐

来源:智源社区整理:王光华编辑:李梦佳导读:众所周知,人类大脑活动是复杂而连续的动力学过程,其复杂程度远超当前算力资源所能模拟的上限。大脑约有1000亿个神经元,100万亿个突触,单个…

常识推理相关最新研究进展

以深度学习为代表的智能感知技术已经取得了突破性进展,并已在各行各业产生了巨大的价值。目前,人工智能的研究领域已经逐渐从感知智能向认知智能领域过渡,其中,深度学习无法解决的一个主要问题是常识推理问题。常识知识是人类智能…

全球半导体厂商TOP 10

来源:数据观综合编辑:蒲蒲近日,IC Insights 分析了全球主要半导体供应商(不含纯代工厂)的市场份额,并公布排名前十的半导体厂商排名。从分析情况来看,全球半导体市场份额越来越集中于排名靠前的…

常识知识在AI不同领域应用的最新研究进展

上期,我们一起学习了常识推理的最新研究进展。这次,我们一起来看看常识知识在AI不同的领域都有哪些应用,泽宇找到几篇最新或有代表性的研究和大家分享学习。 Commonsense Knowledge Aware Conversation Generation with Graph Attention Aut…

MIT 团队的新测试,将 AI 推理与人类思维进行比较

来源:ScienceAI编辑:萝卜皮人工智能获得洞察力和做出决策的方式通常是神秘的,这引发了人们对机器学习的可信度的担忧。现在,在一项新研究中,研究人员揭示了一种新方法,用于比较人工智能软件的推理与人类推理…

年末巨制:知识图谱嵌入方法研究总结

泽宇对自己的研究方向也就是知识图谱嵌入(KG Embedding)技术进行了总结,并制作了一套slides,力求让大家只看slides就可以理解并掌握知识图谱嵌入的相关知识和最新研究情况,包括知识图谱嵌入的基本概念、方法分类和经典…

吴恩达:未来十年,人工智能将向以数据为中心转变

来源:AI前线作者:Eliza Strickland译者:平川策划:凌敏本文最初发布于 IEEE Spectrum。吴恩达在人工智能领域可谓声名显赫。2000 年底,他与斯坦福大学的学生一起开创了使用图形处理单元(GPU)训练…

知识图谱最新权威综述论文解读:时序知识图谱部分

从最近一两年有关知识图谱的顶会论文中可以发现,越来越多的国内外研究者开始关注动态时序知识图谱,可见时序知识图谱已经成为了一大研究趋势,相信之后会有更多相关研究出来。因此,这期我们对综述论文的时序知识图谱部分接着进行解…

CACM观点:超越联邦学习,让AI跨越公司边界

来源:AI科技评论 编译:张泷玲、杨柳编辑:维克多今年1月份,苏黎世联邦理工学院的Stefan Feuerriegelc教授在 《Communications of the ACM》期刊上刊文“Artificial Intelligence Across Company Borders”,在文中教授指…