基于对比学习的信息抽取

Label Refinement via Contrastive Learning for Distantly-Supervised Named Entity Recognition

NAACL 2022;做的远程监督NER,通过知识库构建 伪标签,通过对比学习构建负样本,负样本是entity的多余部分或其他不相关部分。即对entity的start和end 上面做负样本的构造和生成

RCL: Relation Contrastive Learning for Zero-Shot Relation Extraction

NAACL 2022;零样本关系抽取;通过对比学习将相似实体和相似关系尽可能的分开而不是重叠在一起

CLEVE: Contrastive Pre-training for Event Extraction

ACL21; 事件抽取,一个text encoder 抽取事件,一个graph encoder抽取事件关系。简单来说通过没有edge的节点抽取负样本

ERICA: Improving Entity and Relation Understanding for Pre-trained Language Models via Contrastive Learning

ACL21;抽取实体和关系;通过两个任务1)tail 节点是否可以通过head节点和关系得到 2)两个语义相同的关系在向量层面是否相近 来优化模型

HiURE: Hierarchical Exemplar Contrastive Learning for Unsupervised Relation Extraction​​​​​​

ACL22;利用跨层次注意力从关系特征空间中提取层次信号,并在示例对比学习下有效优化句子的关系表示

HiCLRE: A Hierarchical Contrastive Learning Framework for Distantly Supervised Relation Extraction

在融合全局结构信息和局部细粒度交互的基础上提出了一个三层的分层学习框架,通过自注意力自适应地与跨层交互,生成去噪的上下文感知表示,通过一种基于动态梯度的数据增强策略,在特定层次上提供伪正样本用于对比学习。三层分别为entity level、sentence level、bag level。

Cross-Lingual Contrastive Learning for Fine-Grained Entity Typing for Low-Resource Languages

ACL22;将类型化知识从高资源语言(如英语)迁移到低资源语言(如中文)。引入面向实体对的启发式规则和机器翻译来获取跨语言远程监督数据,并在远程监督数据上应用跨语言对比学习来增强PLMs

TABi: Type-Aware Bi-Encoders for Open-Domain Entity Retrieval

TABi是面向开放域任务实体检索,联合训练知识图谱类型和非结构化文本双编码器的方法。TABi利用类型强制的对比损失来鼓励相似类型的实体和查询在嵌入空间中接近。TABi改进了在有歧义实体检索 (AmbER) 集上的稀有实体检索,同时与最先进的检索器相比,在KILT基准的开放域任务上保持了强大的整体检索性能。

CIL: Contrastive Instance Learning Framework for Distantly Supervised Relation Extraction

自从远程监督(DS)生成的训练数据首次被引入关系抽取(RE)任务以来,就一直存在噪声问题。研究人员使用多示例学习(MIL)框架从句袋中寻找最可靠的特征,MIL - bags模式虽然可以大大降低DS噪声,但它无法表示数据集中其他许多有用的句子特征,远程监督正则模型的性能是有限制的。将初始多示例学习(MIL)视为关系三编码器,并为每个实例约束正对与负对。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/653592.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【Vite+Vue3+TS】基于Vite+Vue3+TypeScript+ESLint+Prettier+Stylelint搭建项目(亲测超详细)

目 录 项目搭建步骤确定node版本使用Vite创建Vue3项目规范目录结构配置环境修改Vite配置文件集成路由工具Vue Router集成状态管理工具Pinia集成CSS预编译器Sassvite-plugin-svg-icons图标组件集成UI框架Element Plus集成HTTP 请求工具 Axios 项目代码规范集成ESLint配置集成Pre…

【HTML 基础】元素和标签

文章目录 1. <p> - 段落标签2. <h1> - <h6> - 标题标签3. <a> - 超链接标签4. <img> - 图片标签5. <ul>, <ol>, <li> - 列表标签无序列表有序列表 总结 HTML&#xff08;Hypertext Markup Language&#xff09;是构建 Web 页面…

Debezium日常分享系列之:Debezium 2.6.0.Alpha1发布

Debezium日常分享系列之&#xff1a;Debezium 2.6.0.Alpha1发布 一、重大改变1.MongoDB2.重新选择列后处理器 二、改进和变化1.添加了新的匹配集合 API2.CloudEvents 架构名称自定义3.Oracle Infinispan 缓存改进4.支持 Spanner NEW_ROW_AND_OLD_VALUES 值捕获类型 一、重大改变…

【学网攻】 第(13)节 -- 动态路由(OSPF)

系列文章目录 目录 系列文章目录 文章目录 前言 一、动态路由是什么&#xff1f; 二、实验 1.引入 实验拓扑图 实验配置 实验验证 总结 文章目录 【学网攻】 第(1)节 -- 认识网络【学网攻】 第(2)节 -- 交换机认识及使用【学网攻】 第(3)节 -- 交换机配置聚合端口【学…

鸿蒙 ArkTs初识

前提&#xff1a;基于官网3.1/4.0文档。参考官网文档 基于Android开发体系来进行比较和思考。&#xff08;或有偏颇&#xff0c;自行斟酌&#xff09; 吐槽&#xff1a;官网上的案例只有代码和文档解释&#xff0c;没有可以直接运行查看效果的模拟器&#xff0c;这一点上&#…

【C++修行之道】STL(初识list、stack)

目录 一、list 1.1list的定义和结构 以下是一个示例&#xff0c;展示如何使用list容器: 1.2list的常用函数 1.3list代码示例 二、stack 2.1stack的定义和结构 stack的常用定义 2.2常用函数 2.3stack代码示例 一、list 1.1list的定义和结构 list的使用频率不高&#…

SQL注入:二次注入

SQL注入系列文章&#xff1a; 初识SQL注入-CSDN博客 SQL注入&#xff1a;联合查询的三个绕过技巧-CSDN博客 SQL注入&#xff1a;报错注入-CSDN博客 SQL注入&#xff1a;盲注-CSDN博客 目录 什么是二次注入&#xff1f; 二次注入演示 1、可以注册新用户 2、可以登录->…

【 JS 】函数

生命如潮&#xff0c;不断奔向远方的海洋。每一个潮起潮落&#xff0c;都是奋斗的旋律&#xff1b;每一片浪花&#xff0c;都是梦想的飞扬。勇往直前&#xff0c;扬帆远航&#xff0c;生命的航程注定精彩非凡。 - 林肯 目标 理解封装的意义&#xff0c;能够通过函数的声明实现逻…

通过mybatis拦截器给sql执行加一个耗时监控

代码没什么内容&#xff0c;直接贴上来吧&#xff0c;其中costTimeUtil可以看我的另一篇博文&#xff1a;java实现一个不带次数变量的加权平均值算法-CSDN博客 Slf4j Intercepts({Signature(type StatementHandler.class,method "query",args {Statement.class, …

1Panel CloudFlare证书申请失败的解决方案

在升级1Panel后&#xff0c;使用 CloudFlare DNS验证时&#xff0c;会提示 [*.biliwind.com] [*.biliwind.com] acme: error presenting token: cloudflare: failed to find zone biliwind.com.: ListZonesContext command failed: Invalid request headers (6003) 为解决此问…

系统分析师-21年-论文试题

系统分析师-21年-论文试题 更多软考知识请访问 https://ruankao.blog.csdn.net/ 题目任选其一 摘要字数在400字以内&#xff0c;可以分条叙述&#xff0c;但不允许有图、表、流程图。 正文字数为2000字至300字&#xff0c;文中可以分条叙述&#xff0c;但不要全部用分条叙述…

2023年全球软件开发大会(QCon广州站2023):核心内容与学习收获(附大会核心PPT下载)

在全球化的科技浪潮中&#xff0c;软件开发行业日新月异&#xff0c;持续推动着社会经济的飞速发展。本次峰会以“引领未来&#xff0c;探索无限可能”为主题&#xff0c;聚焦软件开发领域的最新技术、最佳实践和创新思想。来自世界各地的顶级专家、企业领袖和开发者齐聚一堂&a…

防范[myers@airmail.cc].mkp攻击:解密[myers@airmail.cc].mkp勒索病毒的方法

引言&#xff1a; 随着科技的迅猛发展&#xff0c;网络安全问题日益突出&#xff0c;而勒索病毒也成为当前互联网威胁中的一大焦点。其中&#xff0c;[datastorecyberfear.com].mkp [hendersoncock.li].mkp [hudsonLcock.li].mkp[myersairmail.cc].mkp勒索病毒以其强大的加密能…

LeetCode第523题 - 连续的子数组和

题目 给定一个包含非负数的数组和一个目标整数 k&#xff0c;编写一个函数来判断该数组是否含有连续的子数组&#xff0c;其大小至少为 2&#xff0c;总和为 k 的倍数&#xff0c;即总和为 n*k&#xff0c;其中 n 也是一个整数。 示例 1: 输入: [23,2,4,6,7], k 6 输出: True …

什么是防抖和节流?有什么区别?如何实现?

文章目录 一、是什么定义代码实现节流防抖 二、区别三、应用场景 一、是什么 本质上是优化高频率执行代码的一种手段 如&#xff1a;浏览器的 resize、scroll、keypress、mousemove 等事件在触发时&#xff0c;会不断地调用绑定在事件上的回调函数&#xff0c;极大地浪费资源…

gitee 轻量级pr怎么操作

Gitee 轻量级 PR&#xff08;Gitee Pull Request Lite&#xff09;是一种无须 Fork 仓库&#xff0c;即可快速向某个特定仓库创建并提交一个合并请求&#xff08;Pull Request&#xff09;的功能。只需在 Web 端完成代码贡献&#xff0c;就能一键向开源仓库提出 PR 请求&#x…

与供应商无关的 SOAR 在克服孤立的安全挑战中的作用

孤立安全是指不同的安全工具和流程独立运行&#xff0c;它们之间没有有效的通信或数据共享的情况。这种分散的方法在许多组织中很常见&#xff0c;通常是由于随着时间的推移逐渐采用安全解决方案&#xff0c;每个解决方案都根据其特定功能进行选择&#xff0c;而不考虑整体集成…

大模型-迭代优化文本概括

迭代优化 在编写 Prompt 以使用 LLM 开发应用程序时&#xff0c;首先要有关于要完成的任务的想法&#xff0c;可以尝试编写第一个 Prompt&#xff0c;满足上一章说过的两个原则&#xff1a;清晰明确&#xff0c;并且给系统足够的时间思考。然后运行它并查看结果。如果第一次效…

【hcie-cloud】【23】容器编排【k8s】【Kubernetes常用工作负载、Kubernetes调度器简介、Helm简介、缩略词】【下】

文章目录 单机容器面临的问题、Kubernetes介绍与安装、Kubernetes对象的基本操作、Kubernetes YAML文件编写基础Kubernetes常用工作负载Kubernetes常用工作负载简介创建一个无状态nginx集群无状态工作负载Deployment说明无状态工作负载Deployment常见操作创建一个有状态的MySQL…

04 Redis之命令(Hash型Value命令+List型Value命令+Set型Value命令+有序集合ZSET型Value命令)

3.4 Hash型Value命令 Hash 表就是一个映射表 Map&#xff0c;也是由键-值对构成&#xff0c;为了与整体的 key 进行区分&#xff0c;这里的键称为 field&#xff0c;值称为 value。注意&#xff0c;Redis 的 Hash 表中的 field-value 对均为 String 类型。 3.4.1 hset  格…