论文浅尝 | Complex Embeddings for Simple Link Prediction

The ́o Trouillon, Johannes Welb, Sebastian Riedel, ÉricGaussier, Guillaume Bouchard . Complex Embeddings for Simple Link Prediction. In Proceedings of the 33ndInternational Conference on Machine Learning, pages 2071– 2080 (ICML2016)

论文链接:http://proceedings.mlr.press/v48/trouillon16.pdf

统计关系学习里,链接预测问题是自动理解规模知识库结心。为好得把握知识库二元关系中对称和非对称关系,本文提出了于复数的表示方法 ComplEx。

一些研究工作将链接预测看作是三维二元张量补全的问题,张量的每一slice表示知识库中关于种关系的临接矩阵。典型的做法是对表示知识库行低秩分解,用分解得到的矩的每一行表示知识库中的一个体或者一种关系。给定的三元组 r(s,o)(注:即主语 s 宾语 o 具有关系 r),这个三元组的 score 可以过对s,r,o 的表示向量之的多线性(multi-linear)积计算得到。以往工作的问题在于不能很好地处理非对称关系,因为实数向量的点积计是具有交换性的,即如果实数表示下的 r(s,o) 成立,那 r(o,s) 也必成立,但在知识库中非对称关系的比例远多称关系的比例。所以本文提出了一个基于复数表示的方法,因复数之的埃米特乘积(Hermitian dot product)是不具有交换性的,具体做法如下:

每个体和关系都用一个复数向量表示,每个三元的 score function 定如下:

Re(x) 表示 x 的实部,Im(x) 表示 x 的虚部,三元(s,r,o) score 计算过程为r表示向量和主 s 的表示向量以及宾语 o 的表示向量的共向量的乘,并保留最后果的部。最(s,r,o)真的概率通下式得到:

以下是 ComplEx 在对称关系和非对称关系的实验结果:

从左上的图中可以看出,Complex 和 DistMult 都可以好地捕捉称关系的语义信息并做出正确的预测,从右上的中可以看出 Complex于非称关系语义的捕捉以及预测效果明显优于其他模型。也验证了模型用复数表示的设计思想。

图是在 WN18 和 FB15 上的预测实验结果:

模型简洁的 ComplEx 在两个数据集上都取得了不的效果,明显好于当时表现优的 HolE。

本文模型设计背后的数学思想是比较值得借的地方。

本文作者张文,浙江大学博士在读,研究兴趣为知识图谱,表示学习,常识推理和自然理。



OpenKG.CN


中文开放知识图谱(简称OpenKG.CN)旨在促进中文知识图谱数据的开放与互联,促进知识图谱和语义技术的普及和广泛应用。

转载须知:转载需注明来源“OpenKG.CN”、作者及原文链接。如需修改标题,请注明原标题。

点击阅读原文,进入 OpenKG 博客。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/480879.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

详解医学顶刊《柳叶刀》最新发表新型冠状病毒研究论文

我是夕小瑶,一只热爱科研的小狐狸作者:夕小瑶,小鹿鹿鹿,QvQ前言新型冠状病毒(2019-nCoV)的突发恰逢春节,千家万户都对疫情十分关注。令人心痛的是,病毒带来的不止有病痛,…

AI学习笔记--人机对话的四种形态

AI学习笔记--人机对话的四种形态 ><div class"show-content-free"><p>最近在筹备转行 AI PM 由于之前的产品线也有做过类似 AI 的智能客服产品&#xff0c;所以打算先从人机对话这个角度入手。</p><p>以下文章结合了一些 case&#xff0c…

Spring Cloud简介,为什么需要Spring Cloud?

一、为什么需要Spring Cloud&#xff1f; 从分布式/微服务的角度而言&#xff0c;就是把我们一个大的项目分解成多个小的模块&#xff0c;这些小的模块组合起来&#xff0c;完成功能&#xff1b;而拆分出多个模块以后&#xff0c;就会出现各种各样的问题&#xff0c;而Spring C…

论文浅尝 | 「知识图谱」领域近期值得读的 6 篇顶会论文

本文转载自公众号&#xff1a;PaperWeekly。CIKM 2017■ 论文 | Hike: A Hybrid Human-Machine Method for Entity Alignmentin Large-Scale Knowledge Bases■ 链接 | https://www.paperweekly.site/papers/1528■ 解读 | 罗丹&#xff0c;浙江大学硕士1. Motivation 随着语义…

NLP最佳入门与提升路线

一只小狐狸带你解锁NLP/ML/DL秘籍作者&#xff1a;夕小瑶&#xff0c;小鹿鹿鹿&#xff0c;QvQ前言对突如其来的长假感到惶恐和不安&#xff1f;紧盯2019-nCoV的最新消息却依然感觉很空虚&#xff1f;腰酸萎靡脖子僵甚至怀疑自己有点发烧&#xff1f;这是长时间没学习的症状。 …

揭秘任务型对话机器人(下篇)

本文来自专栏语言、知识与人工智能&#xff0c;作者腾讯知文实验室 近年来比较热门的任务型对话的研究主要集中在端到端的框架的研究&#xff0c;基本跟传统任务型算法框架——语言理解模块&#xff08;Spoken Language Understanding&#xff0c;对话管理模块(Dialogue Manage…

斯坦福大学NLP公开课CS224n上映啦!华人助教陪你追剧

一只小狐狸带你解锁NLP/DL/ML秘籍作者&#xff1a;小鹿鹿鹿&#xff0c;QvQ&#xff0c;夕小瑶CS224n: Natural Language Processing with Deep LearningStanford / Winter 2020开课啦&#xff01;&#xff01;在大量开源工具的席卷下&#xff0c;NLP领域也不可避免的受到了“调…

论文浅尝 | Improved Neural Relation Detection for KBQA

Yu M, Yin W, Hasan K S, etal. Improved Neural Relation Detection for Knowledge Base QuestionAnswering[J]. 2017.论文链接&#xff1a;https://arxiv.org/pdf/1704.06194.pdf概要本文提出了一种基于不同粒度对关系和问题进行文本匹配的关系检测的模型&#xff08;HR-BiLS…

多轮对话之对话管理(Dialog Management)

多轮对话之对话管理(Dialog Management)徐阿衡人工智能与机器学习工程师​关注她115 人赞同了该文章开始涉猎多轮对话&#xff0c;这一篇想写一写对话管理&#xff08;Dialog Management&#xff09;&#xff0c;感觉是个很庞大的工程&#xff0c;涉及的知识又多又杂&#xff0…

互联网公司常用架构模式梳理

一、管理和监控 1.1、大使模式&#xff1a;创建代表消费者服务或应用程序发送网络请求的帮助服务 进程外的代理服务&#xff08;很多框架层面的事情可以以软件框架的形式寄宿在进程内&#xff0c;也可以以独立的代理形式做一个网络中间件&#xff09;。这里的大使模式意思就是…

知识工场 | CN-DBpedia 漫游指南

本文转载自公众号&#xff1a;知识工场。CN-DBpedia于2015年12月上线以来&#xff0c;已经有两年多的时间了&#xff0c;在数据层面做了大大小小百余项完善&#xff0c;在CN-DBpedia 3.0 即将上线之际&#xff0c;尽管我们觉得离完美还有距离&#xff0c;但也是时候拿出来让大家…

【杂谈】那些酷炫的深度学习网络图怎么画出来的?

一只小狐狸带你解锁NLP/ML/DL秘籍正文来源&#xff1a;有三AI还在用PPT画图&#xff1f;醒醒亲爱的&#xff0c;0202年了&#xff01;&#xff01;1 NN-SVG这个工具可以非常方便的画出各种类型的图&#xff0c;是下面这位小哥哥开发的&#xff0c;来自于麻省理工学院弗兰克尔生…

最新任务型对话数据集大全

合适的数据集或者语料是优秀的自然语言研究工作的基础&#xff0c;然而找寻合适的数据集通常是一件耗时耗力的工作。这时候一份优质的数据集汇总就能帮助科研人员&#xff0c;在研究开始的时候事半功倍。这篇文章就向你介绍一份优质的数据集汇总&#xff0c;帮助你的研究工作轻…

互联网架构:常用基础中间件介绍

一般而言中间件和框架的区别是&#xff0c;中间件是独立运行的用于处理某项专门业务的CS程序&#xff0c;会有配套的客户端和服务端&#xff0c;框架虽然也是处理某个专门业务的但是它不是独立程序&#xff0c;是寄宿在宿主程序进程内的一套类库。 图上绿色部分代表了框架&…

论文浅尝 | How to Keep a Knowledge Base Synchronized

Citation: Liang, J.,Zhang, S. & Xiao, Y. (2017). How to Keep a Knowledge Base Synchronized withIts Encyclopedia Source. Proceedings of the Twenty-Sixth International JointConference on Artificial Intelligence, 3749–3755. 论文链接&#xff1a;https://ww…

揭秘任务型对话机器人(上篇)

https://juejin.im/post/5b21d548e51d4506d93701e7 欢迎大家前往腾讯云社区&#xff0c;获取更多腾讯海量技术实践干货哦~本文来自专栏语言、知识与人工智能&#xff0c;作者腾讯知文实验室1. 什么是任务型机器人任务型机器人指特定条件下提供信息或服务的机器人。通常情况下是…

如何判断样本标注的靠谱程度?置信度学习(CL)简述

一只小狐狸带你解锁NLP/DL/ML秘籍来源&#xff1a;AI科技评论前言使用ImageNet、CIFAR、MNIST 或 IMDB 这些数据集时&#xff0c;你是不是会潜意识中假设&#xff0c;这些数据集中的类标签都是正确的&#xff1f;然而&#xff0c;你可能不知道&#xff1a;ImageNet数据集中至少…

论文浅尝 | Open world Knowledge Graph Completion

来源&#xff1a;AAAI2018论文链接&#xff1a;https://arxiv.org/pdf/1711.03438.pdf代码链接&#xff1a;https://github.com/bxshi/ConMask本文解决知识库补全的问题&#xff0c;但和传统的 KGC 任务的场景有所不同。以往知识库补全的前提是实体和关系都已经在 KG 中存在&am…

NLP十大研究方向Highlights!

前言 DeepMind 科学家 Sebastian Ruder总结整理了机器学习和自然语言处理领域 10 个影响巨大的有趣研究方向&#xff0c;本文将介绍该10个方向所取得的主要进展&#xff0c;简要说明我认为这个方向重要的原因&#xff0c;最后对未来的工作进行简短的展望。 这 10 个方向分别是…

图解Transformer

原文标题&#xff1a;The Illustrated Transformer 原文链接&#xff1a;https://jalammar.github.io/illustrated-transformer/ 论文地址&#xff1a;https://arxiv.org/abs/1706.03762 前言 Transformer在Goole的一篇论文Attention is All You Need被提出&#xff0c;为了方…