Negative Sampling with Adaptive DenoisingMixup for Knowledge Graph Embedding

摘要

知识图嵌入(Knowledge graph embedding, KGE)的目的是通过对比正负三元组,将知识图中的实体和关系映射到一个低维、密集的向量空间中。在kge的训练过程中,由于kge只包含正三元组,因此负采样对于找到高质量的负三元组至关重要。大多数现有的负抽样方法都假定不存在的高分三元组是高质量的负三元组。然而,用这些方法采样的负三元组可能包含噪声。具体来说,他们忽略了不存在的高分三元组也可能是真实事实,因为通常被称为假阴性三元组的KGs不完整。为了缓解上述问题,我们提出了一种易于插入的去噪混合方法,称为DeMix,它通过以自监督的方式精炼采样的负三元组来生成高质量的三元组。给定一个采样的未标记三元组,DeMix首先根据KGE模型本身的判断将其分类为边缘伪负三元组或负三元组。其次,为当前三元组选择合适的混合伙伴合成部分正或较硬负三元组;在知识图完成任务上的实验结果表明,本文提出的DeMix算法优于其他负采样技术,保证了相应的kge更快的收敛速度和更好的链路预测结果。

 在本节中,我们将介绍提出的方法DeMix,这是一个用于生成高质量三元组的新颖且易于插入的框架。回顾采样高质量负三重组的去噪挑战,我们设计了两个模块来解决上述挑战,即边际伪负三重估计器(MPNE)和自适应混合(AdaMix)模块。MPNE模块利用KGE模型的当前预测结果将未标记的损坏三元组划分为伪负三元组和真负三元组。然后,AdaMix模块为每个损坏三元组选择合适的混合伙伴,并将它们混合在实体嵌入空间中以生成部分正确三元组或更难的负三元组,以帮助训练KGE模型。DeMix的概述如图2所示。

 

均匀采样[4]。基本的负抽样方法,即从均匀分布中抽样负三元组。

 Translating embeddings for modeling multi-relational data

伯努利抽样[24]。从考虑假负三元组的伯努利分布中抽取负三元组。

 Knowledge graph embedding by translating on hyperplanes

NSCaching[31]。NSCaching将缓存策略作为一般的负采样方案引入。

Nscaching: Simple and efficient negative sampling for knowledge graph embedding

自对抗抽样[18]。它利用自评分函数,并根据当前的嵌入模型对负三元组进行采样。

Rotate: Knowledge graph embedding by relational rotation in complex space

RW-SANS[1]。它利用图结构从节点邻域的k-hop中抽取负三元组。

Structure aware negative sampling in knowledge graphs.

CANS[16]。CANS是CAKE[16]的一个组成部分,负责解决无效的负采样挑战。考虑到我们的方法侧重于KGEs的负采样,我们主要比较CANS而不是CAKE。

Cake: A scalable commonsense-aware framework for multi-view knowledge graph completion

ESNS[29]。它考虑了实体之间的语义相似性来解决假阴性样本的问题

 Entity similarity-based negative sampling for knowledge graph embedding 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/767636.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

如何申请代码签名证书

代码签名证书也是数字证书的一种,其主要作用是对可执行脚本、软件代码和内容进行数字签名的数字证书。代码签名证书用于验证开发者身份真实性、保护代码的完整性。用户下载软件时,能通过数字签名验证软件来源,确认软件、代码没有被非法篡改或…

有道翻译实现接口加密解密

文章目录 目标简单逆向分析源码深度逆向分析参考文献目标 实现对网易有道 sign 等参数的加密 及 返回的密文数据解密实现 简单逆向分析 首先在右上角提前登录好账号信息。 输入中文:你好 要求翻译成:英文 全局搜索:你好 或 hello,结果没有发现什么。 切换 Fetch/XHR …

关于YOLOv9项目的使用说明。

​ 专栏介绍:YOLOv9改进系列 | 包含深度学习最新创新,助力高效涨点!!! 使用说明 1. 下载解压 首先,在进群之后,使用群公告中的百度云链接进行下载。 下载完成后解压打开,会得到一个…

TypeScript再学习(1)数据类型

1.布尔类型 2.Number类型 3.String字符串 4.枚举 5.数组Array 6.元组类型(tuple) 7.undefined和null 8.any类型 9.void类型 10.never类型 11.unknown类型 基本可以概括为上述11种数据类型;可以先看下在ts下是如何定义各种数据类型的变量; //布…

Mysql中用户密码修改

1、命令行修改 请确保已使用root或其他拥有足够权限的用户登录MySQL,对于MySQL 5.7.6及以上版本或者MariaDB 10.1.20及以上版本。 ALTER USER ‘root’‘localhost’ IDENTIFIED BY ‘root’; 1、使用命令 mysql -uroot -p你的密码 连接到mysql管理工具 2、使用命…

代码随想录算法训练营第三十二天 | 122. 买卖股票的最佳时机 II、55. 跳跃游戏、45. 跳跃游戏 II

代码随想录算法训练营第三十二天 | 122. 买卖股票的最佳时机 II、55. 跳跃游戏、45. 跳跃游戏 II 122. 买卖股票的最佳时机 II题目解法 55. 跳跃游戏题目解法 45. 跳跃游戏 II题目解法 感悟 122. 买卖股票的最佳时机 II 题目 解法 贪心:局部最优:收集每…

[激光原理与应用-79]:激光应用二开软件现场调测步骤详解

目录 一、硬件安装 步骤1:机械:机械控制安装、多通道选择的电机驱动器安装 步骤2:光路:激光器、外光路 步骤3:电路:工控机、板卡、连接线 二、工控机二开软件的调测 步骤1:加工板卡的软件…

你虽然不一定用得到但一定要知道的ChatGPT五大功能

ChatGPT拥有许多功能,但很多人并没有充分利用这些功能,从而错失了这个全球领先的AI聊天机器人的全部潜力。 以下是你绝对应该尝试的五个ChatGPT功能。 朗读功能 2024 年 3 月,OpenAI 推出了 ChatGPT的朗读功能,使这个AI工具能够…

C#学习笔记1:C#基本文件结构与语法

现在开始我的C#学习之路吧,这也许不适合0编程基础的人看,因为我会C语言了,笔记做的可能有思维上的跳跃,如果0基础可能会觉得有些地方转折得莫名奇妙,但我的学习笔记实操还是比较多的,基本都是真实运行程序结…

vue3项目初始化

初始化项目newsapp VSCode 打开终端,newsapp项目目录,可自定义 vue create newsapp 有提示“因为在此系统上禁止运行脚本”的话,请执行 set-ExecutionPolicy RemoteSigned 执行后再重复执行vue create newsapp 注意选择Vue 3版本 测试项…

vector类详解及重要函数实现

🪐🪐🪐欢迎来到程序员餐厅💫💫💫 今日主菜:vector类 主厨:邪王真眼 所属专栏:c专栏 主厨的主页:Chef‘s blog 坚持下去,成功不是目的&a…

自学算法:02 二分搜索

题目&#xff1a; 1. 在有序数组中确定num存在还是不存在。 2. 在有序数组中找>num的最左位置。 3. 在有序数组中找<num的最右位置。 4. 二分搜索不一定发生在有序数组上&#xff08;比如寻找峰值问题&#xff09;。 5. 二分答案法。 题目一 简单的二分搜索法。 public…

MC0207 中转站

物流业为了降低物流成本&#xff0c;提高物流效率&#xff0c;运输过程中通常不会由始发地直达目的地&#xff0c;而是经由多个中转站中转&#xff0c;最终到达目的地。最常见的便是快递业&#xff0c;由于中转站有很多&#xff0c;要想将所有中转站两两互通代价过高&#xff0…

Web 常见的攻击方式有哪些?

常见的 Web 攻击方式有以下几种&#xff1a; 跨站脚本攻击&#xff08;XSS 攻击&#xff09; 跨站请求伪造&#xff08;XSRF 攻击&#xff09; SQL 注入 XSS 攻击 MDN 定义如下&#xff1a; 跨站脚本攻击&#xff08;Cross-site scripting&#xff0c;XSS&#xff09;是一…

【每周赠书活动第1期】Python编程 从入门到实践 第3版(图灵出品)

编辑推荐 适读人群 &#xff1a;本书适合对Python感兴趣的所有读者阅读。 编程入门就选蟒蛇书&#xff01; 【经典】Python入门经典&#xff0c;常居Amazon等编程类图书TOP榜 【畅销】热销全球&#xff0c;以12个语种发行&#xff0c;影响超过 250 万读者 【口碑】好评如潮…

手撕算法-删除有序数组中的重复项 II

描述 例如&#xff1a;输入&#xff1a;nums [1,1,1,2,2,3]输出&#xff1a;5, nums [1,1,2,2,3]解释&#xff1a;函数应返回新长度 length 5, 并且原数组的前五个元素被修改为 1, 1, 2, 2, 3。 不需要考虑数组中超出新长度后面的元素。 分析 双指针, fast, slow。nums[…

Python并发编程:线程和多线程的使用

前面的文章&#xff0c;我们讲了什么Python的许多基础知识&#xff0c;现在我们开始对Python并发编程进行学习。我们将探讨 Python 中线程和多线程的使用。帮助大家更好地理解如何使用这种技术。 目录 1. 线程&#xff08;Threads&#xff09; 1.1 Python 中的线程工作原理 …

Andorid项目源码 仿ios音量调节的效果 (内附源码下载)

下载地址&#xff1a; https://download.csdn.net/download/Nekosann/89026144 这段代码是Android应用程序的一部分&#xff0c;主要实现了一个仿iOS风格的音量调节效果。具体来说&#xff0c;它使用了一个自定义的评分条&#xff08;RatingBar&#xff09;&#xff0c;允许用…

CSP-S 真题:格雷码

原文链接&#xff1a;CSP-S 真题第二讲&#xff1a;格雷码 说明&#xff1a;CSDN和公众号文章同步发布&#xff0c;需要第一时间收到最新内容&#xff0c;请关注公众号【比特正传】。 一、题目背景 题目来源&#xff1a;CSP-S 2019年 T1 题目考察点&#xff1a;递归、搜索 …

C语言:实现使用malloc函数模拟开辟一个二维数组

目录 解题思路 步骤一&#xff1a;开辟空间 步骤二&#xff1a;使用空间 步骤三&#xff1a;释放空间 图解 完整代码展示&#xff1a;注意看注释 在C语言编程中&#xff0c;处理多维数据结构时&#xff0c;我们通常会遇到二维数组。然而&#xff0c;对于特定大小或需要动…