【数据分析】用Python做事件抽取任务-快速上手方案

目录

  • 方法一:使用OmniEvent库
    • 安装OmniEvent
    • 使用OmniEvent进行事件抽取
    • OmniEvent优点
    • 缺点
  • 方法二:使用大模型
    • 使用GPT网页版进行事件抽取
      • 事件类型列表
    • 大模型优点
    • 缺点
  • 总结

在自然语言处理(NLP)领域,事件抽取是一项关键任务,它涉及从文本中识别和提取事件及其相关信息。

本文作者将介绍两种常见的事件抽取方法:使用清华大学开源的OmniEvent工具包ChatGPT大模型方法。

我们将分析这两种方法的优缺点,并提供一些代码示例来展示其实际应用。

方法一:使用OmniEvent库

OmniEvent是清华大学开源的一款用于事件抽取的库,支持多种事件抽取任务,包括触发词检测、事件论元抽取等。该库提供了预训练模型和易于使用的接口,极大简化了事件抽取的实现。

全面涵盖各种范式,并对广泛使用的英文和中文数据集提供公平、统一的评估。模块化实现使 OmniEvent 具有高度可扩展性。

安装OmniEvent

首先,我们需要安装OmniEvent库。可以使用以下命令进行安装:

pip install omnievent

使用OmniEvent进行事件抽取

以下是一个使用OmniEvent进行事件抽取的示例代码:


from OmniEvent import infer
device='cpu'# 初始化OmniEvent模型
def init_models(device='cpu'):ed_model, ed_tokenizer = infer.get_pretrained("s2s-mt5-ed",device=device)eae_model, eae_tokenizer = infer.get_pretrained("s2s-mt5-eae",device=device)return (ed_model, ed_tokenizer,eae_model,eae_tokenizer)# 进行事件抽取
def run_ee(models,news_text_list,device='cpu'):schemas = ["<ace>"]*len(news_text_list)ed_model, ed_tokenizer,eae_model,eae_tokenizer=modelsevents = infer.do_event_detection(ed_model, ed_tokenizer, news_text_list, schemas, device)instances = infer.prepare_for_eae_from_pred(news_text_list, events, schemas)if len(instances[0]["triggers"]) == 0:results = [{"text": instances[0]["text"],"events": []}]return resultsarguments = infer.do_event_argument_extraction(eae_model, eae_tokenizer, instances, device)results = infer.get_eae_result(instances, arguments)return resultstext = "“中比动漫文化周”12日在布鲁塞尔中国文化中心开幕,旨在通过动漫这一独特的艺术形式,促进两国文化的交流与理解。"
models=init_models(device)
ee=run_ee(models,[text])
# 输出结果for events in ee:print("文本:", events['text'])for event in events['events']:print(f"事件类型: {event['type']}")print(f"触发词: {event['trigger']}")print(f"论元: {event['arguments']}")

Output:

文本: “中比动漫文化周”12日在布鲁塞尔中国文化中心开幕,旨在通过动漫这一独特的艺术形式,促进两国文化的交流与理解。
事件类型: 组织行为开幕
触发词: 开幕
论元: [{'mention': '12日', 'offset': [9, 12], 'role': '时间'}, {'mention': '布鲁塞尔中国文化中心', 'offset': [13, 23], 'role': '地点'}, {'mention': '“中比动漫文化周”', 'offset': [0, 9], 'role': '活动名称'}]
CPU times: user 21.2 s, sys: 78.3 ms, total: 21.3 s
Wall time: 5.53 s

OmniEvent优点

  1. 易用性高:OmniEvent提供了简单易用的API,用户可以快速上手。
  2. 预训练模型:库中包含多种预训练模型,可直接用于实际任务,减少训练成本。
  3. 多任务支持:支持多种事件抽取任务,包括触发词检测和事件论元抽取。

缺点

  1. 依赖数据集:虽然预训练模型能应对大部分任务,但特定领域的事件抽取可能需要额外的训练数据。
  2. 运行效率低: 模型是直接将ED任务和EAE任务合并为EE任务,因此耗时较长。(可将其分开,再得到ED任务结果后,选择满足条件的数据进行下一步EAE任务的测试)

方法二:使用大模型

大模型(如GPT-4、BERT等)在各种NLP任务中表现优异,也可用于事件抽取。大模型的优势在于其强大的语言理解能力和泛化能力。

由于经费有限,本文只能用网页版用来演示效果。项目中实际开发可以使用Pythonlangchain工具包调用大模型api接口达到此效果。

使用GPT网页版进行事件抽取

input prompt:

给定的句子为:"“中比动漫文化周”12日在布鲁塞尔中国文化中心开幕,旨在通过动漫这一独特的艺术形式,促进两国文化的交流与理解。"给定事件类型列表:['灾害/意外-坠机', '司法行为-举报', '财经/交易-涨价', '组织关系-解雇', '组织关系-停职', '财经/交易-加息', '交往-探班', '人生-怀孕', '组织关系-辞/离职', '组织关系-裁员', '灾害/意外-车祸', '人生-离婚', '司法行为-起诉', '竞赛行为-禁赛', '人生-婚礼', '财经/交易-涨停', '财经/交易-上市', '组织关系-解散', '财经/交易-跌停', '财经/交易-降价', '组织行为-罢工', '司法行为-开庭', '竞赛行为-退役', '人生-求婚', '人生-庆生', '交往-会见', '竞赛行为-退赛', '交往-道歉', '司法行为-入狱', '组织关系-加盟', '人生-分手', '灾害/意外-袭击', '灾害/意外-坍/垮塌', '组织关系-解约', '产品行为-下架', '灾害/意外-起火', '灾害/意外-爆炸', '产品行为-上映', '人生-订婚', '组织关系-退出', '交往-点赞', '产品行为-发布', '人生-结婚', '组织行为-闭幕', '人生-死亡', '竞赛行为-夺冠', '人生-失联', '财经/交易-出售/收购', '竞赛行为-晋级', '竞赛行为-胜负', '财经/交易-降息', '组织行为-开幕', '司法行为-拘捕', '交往-感谢', '司法行为-约谈', '灾害/意外-地震', '人生-产子/女', '财经/交易-融资', '司法行为-罚款', '人生-出轨', '灾害/意外-洪灾', '组织行为-游行', '司法行为-立案', '产品行为-获奖', '产品行为-召回']在这个句子中,可能包含了哪些事件类型?
请给出事件类型列表中的事件类型。
如果不存在则回答:无
按照元组形式回复,如 (事件类型1, 事件类型2, ……)

output:
在这里插入图片描述
Input prompt:

事件类型"组织行为-开幕"对应的论元角色列表为:['时间', '地点', '活动名称']。
在给定的句子中,根据论元角色提取出事件论元。
如果论元角色没有相应的论元内容,则论元内容回答:无
按照表格形式回复,表格有两列且表头为(论元角色,论元内容):

Output:
在这里插入图片描述

事件类型列表

{'灾害/意外-坠机': ['时间', '地点', '死亡人数', '受伤人数'],'司法行为-举报': ['时间', '举报发起方', '举报对象'],'财经/交易-涨价': ['时间', '涨价幅度', '涨价物', '涨价方'],'组织关系-解雇': ['时间', '解雇方', '被解雇人员'],'组织关系-停职': ['时间', '所属组织', '停职人员'],'财经/交易-加息': ['时间', '加息幅度', '加息机构'],'交往-探班': ['时间', '探班主体', '探班对象'],'人生-怀孕': ['时间', '怀孕者'],'组织关系-辞/离职': ['时间', '离职者', '原所属组织'],'组织关系-裁员': ['时间', '裁员方', '裁员人数'],'灾害/意外-车祸': ['时间', '地点', '死亡人数', '受伤人数'],'人生-离婚': ['时间', '离婚双方'],'司法行为-起诉': ['时间', '被告', '原告'],'竞赛行为-禁赛': ['时间', '禁赛时长', '被禁赛人员', '禁赛机构'],'人生-婚礼': ['时间', '地点', '参礼人员', '结婚双方'],'财经/交易-涨停': ['时间', '涨停股票'],'财经/交易-上市': ['时间', '地点', '上市企业', '融资金额'],'组织关系-解散': ['时间', '解散方'],'财经/交易-跌停': ['时间', '跌停股票'],'财经/交易-降价': ['时间', '降价方', '降价物', '降价幅度'],'组织行为-罢工': ['时间', '所属组织', '罢工人数', '罢工人员'],'司法行为-开庭': ['时间', '开庭法院', '开庭案件'],'竞赛行为-退役': ['时间', '退役者'],'人生-求婚': ['时间', '求婚者', '求婚对象'],'人生-庆生': ['时间', '生日方', '生日方年龄', '庆祝方'],'交往-会见': ['时间', '地点', '会见主体', '会见对象'],'竞赛行为-退赛': ['时间', '退赛赛事', '退赛方'],'交往-道歉': ['时间', '道歉对象', '道歉者'],'司法行为-入狱': ['时间', '入狱者', '刑期'],'组织关系-加盟': ['时间', '加盟者', '所加盟组织'],'人生-分手': ['时间', '分手双方'],'灾害/意外-袭击': ['时间', '地点', '袭击对象', '死亡人数', '袭击者', '受伤人数'],'灾害/意外-坍/垮塌': ['时间', '坍塌主体', '死亡人数', '受伤人数'],'组织关系-解约': ['时间', '被解约方', '解约方'],'产品行为-下架': ['时间', '下架产品', '被下架方', '下架方'],'灾害/意外-起火': ['时间', '地点', '死亡人数', '受伤人数'],'灾害/意外-爆炸': ['时间', '地点', '死亡人数', '受伤人数'],'产品行为-上映': ['时间', '上映方', '上映影视'],'人生-订婚': ['时间', '订婚主体'],'组织关系-退出': ['时间', '退出方', '原所属组织'],'交往-点赞': ['时间', '点赞方', '点赞对象'],'产品行为-发布': ['时间', '发布产品', '发布方'],'人生-结婚': ['时间', '结婚双方'],'组织行为-闭幕': ['时间', '地点', '活动名称'],'人生-死亡': ['时间', '地点', '死者年龄', '死者'],'竞赛行为-夺冠': ['时间', '冠军', '夺冠赛事'],'人生-失联': ['时间', '地点', '失联者'],'财经/交易-出售/收购': ['时间', '出售方', '交易物', '出售价格', '收购方'],'竞赛行为-晋级': ['时间', '晋级方', '晋级赛事'],'竞赛行为-胜负': ['时间', '败者', '胜者', '赛事名称'],'财经/交易-降息': ['时间', '降息幅度', '降息机构'],'组织行为-开幕': ['时间', '地点', '活动名称'],'司法行为-拘捕': ['时间', '拘捕者', '被拘捕者'],'交往-感谢': ['时间', '致谢人', '被感谢人'],'司法行为-约谈': ['时间', '约谈对象', '约谈发起方'],'灾害/意外-地震': ['时间', '死亡人数', '震级', '震源深度', '震中', '受伤人数'],'人生-产子/女': ['时间', '产子者', '出生者'],'财经/交易-融资': ['时间', '跟投方', '领投方', '融资轮次', '融资金额', '融资方'],'司法行为-罚款': ['时间', '罚款对象', '执法机构', '罚款金额'],'人生-出轨': ['时间', '出轨方', '出轨对象'],'灾害/意外-洪灾': ['时间', '地点', '死亡人数', '受伤人数'],'组织行为-游行': ['时间', '地点', '游行组织', '游行人数'],'司法行为-立案': ['时间', '立案机构', '立案对象'],'产品行为-获奖': ['时间', '获奖人', '奖项', '颁奖机构'],'产品行为-召回': ['时间', '召回内容', '召回方']
}

大模型优点

  1. 强大的语言理解能力:大模型具有强大的语言理解和推理能力,能够应对复杂的事件抽取任务。
  2. 适应性强:无需针对特定任务进行大量调整,能较好地泛化到不同领域的任务。
  3. 持续更新:大模型通常由大型公司维护,更新频率高,性能不断提升。

缺点

  1. 成本高:调用大模型通常需要付费,成本较高。
  2. 响应时间:由于模型复杂度高,推理时间较长,可能影响实时性要求高的应用。
  3. 依赖网络:需要稳定的网络连接来访问模型服务。

总结

OmniEvent库和大模型各有优缺点,适用于不同的应用场景。如果您需要快速实现事件抽取并且对特定领域有较高的定制化需求,OmniEvent是一个不错的选择。如果您追求高精度和强泛化能力,并且预算充足,可以考虑使用大模型。

无论选择哪种方法,都需要根据具体需求和资源情况进行权衡。希望本文能为您的事件抽取任务提供一些有价值的参考。

大数据分析为运营和各行业带来了前所未有的机会,使企业能够更敏锐地洞察市场、优化运营,并更有效地应对竞争和变革。在信息时代,充分利用大数据分析,将成为企业取得竞争优势的不可忽视的关键要素。

本人数据分析领域的从业者,拥有专业背景和能力,可以为您的数据采集、挖掘和分析需求提供支持。期待着能够与您共同探索更多有意义的数据洞见,为您的项目和业务提供数据分析方面的帮助。

创作不易,如果你觉得有帮助,请点个赞支持一下。你的鼓励是我创作的最大动力,期待未来能为大家带来更多有趣的分析文章。感谢大家的阅读和支持!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/pingmian/34225.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

西部证券:1+1>2?

又一起券商收购拉开帷幕&#xff0c;证券业并购浪潮呼之欲出。 这次是——西部证券。 最近&#xff0c;西部证券公告称&#xff0c;因自身发展需要正在筹划收购国融证券控股权事项&#xff0c; 这是继“浙商国都”、“国联民生”、“华创太平洋”之后&#xff0c;今年券商并购…

如何开发企业微信SCRM

企业微信SCRM&#xff08;Social Customer Relationship Management&#xff09;是一种用于管理和优化企业与客户关系的工具&#xff0c;它整合了社交媒体和CRM系统&#xff0c;帮助企业更有效地跟进销售线索、提供客户服务和进行市场营销。以下是开发企业微信SCRM的一些关键步…

惠普Hp激光打印机Laser MFP 1136w驱动下载,驱动安装过程中显示‘参数无效’解决办法,打开Print Spooler

Hp Laser MFP 1136w打印机驱动下载官网&#xff1a; https://support.hp.com/cn-zh/drivers/hp-laser-mfp-1000-printer-series/model/2101513884 官网上显示有固件和驱动程序&#xff0c;固件不管&#xff0c;选择驱动程序中的全功能解决方案&#xff0c;进行下载安装 在安装…

hive优化之逻辑类似or逻辑重复

今天拿到一个二次开发的需求&#xff0c;只是增加一个业务类型&#xff0c;开发起来倒是也蛮轻松。 但是&#xff0c;对自己的要求不难这么低&#xff0c;否则可替代性也太高了。 除了完成自己的那部分开发&#xff0c;当然展现自己实力的&#xff0c;可以是优化。 1&#x…

AI 大模型企业应用实战(08)-LangChain用prompts模板调教LLM的输入输出

超越chatGPT:学习使用prompts模板来调教LLM的输入输出&#xff0c;打造自己版本的"贾维斯" 1 Model I/O&#xff1a;LLM的交互接口 任何语言模型应用程序的核心要素都是......模型。LangChain 为您提供了与任何语言模型连接的构件。 即 Prompts -> Language mod…

神经网络参数-----batch_size

什么是BatchSize Batch一般被翻译为批量&#xff0c;设置batch_size的目的让模型在训练过程中每次选择批量的数据来进行处理。Batch Size的直观理解就是一次训练所选取的样本数。Batch Size的大小影响模型的优化程度和速度。同时其直接影响到GPU内存的使用情况&#xff0c;假如…

Java中的IO操作技巧与性能优化

Java中的IO操作技巧与性能优化 大家好&#xff0c;我是免费搭建查券返利机器人省钱赚佣金就用微赚淘客系统3.0的小编&#xff0c;也是冬天不穿秋裤&#xff0c;天冷也要风度的程序猿&#xff01;今天&#xff0c;我们将探讨Java中的IO操作技巧与性能优化。IO操作是Java开发中常…

GUVCL-S10GD光电二极管紫外线传感器紫外灯韩国GenUV原厂代理商

深圳市宏南科技有限公司是韩国GenUV公司的原厂代理商&#xff0c;所售紫外线传感器均来自于原始生产厂商直接供货&#xff0c;非第三方转售。 GUVCL-S10GD GUVC-T10GD 原装韩国GENUV光学传感器 - 光电二极管 UVCLED UV-C 传感器 GUVC-S10GD 采用基于氮化镓的材料 肖特基型 光…

索引器知识点

索引器基本概念 让对象可以像数组一样通过索引访问其中元素&#xff0c;使程序看起来更直观&#xff0c;更容易编写。 索引器语法 访问修饰符 返回值 this[参数类型 参数名, 参数类型 参数名.....] {内部的写法和规则和索引器相同get{}set{} } 索引器的重载及逻辑 class P…

【自然语言处理】python之人工智能应用篇——文本生成技术

文本生成是指使用自然语言处理技术&#xff0c;基于给定的上下文或主题自动生成人类可读的文本。这种技术可以应用于各种领域&#xff0c;如自动写作、聊天机器人、新闻生成、广告文案创作等。 一、文本生成技术的核心要素包括&#xff1a; 1. 预训练模型 概述&#xff1a;预…

Java | Leetcode Java题解之第188题买卖股票的最佳时机IV

题目&#xff1a; 题解&#xff1a; class Solution {public int maxProfit(int k, int[] prices) {if (prices.length 0) {return 0;}int n prices.length;k Math.min(k, n / 2);int[] buy new int[k 1];int[] sell new int[k 1];buy[0] -prices[0];sell[0] 0;for (…

精益管理咨询公司在与企业沟通时,应该如何展示自己的专业性?

在竞争激烈的商业环境中&#xff0c;精益管理咨询公司扮演着至关重要的角色。它们不仅为企业提供策略性的指导&#xff0c;还帮助企业实现资源的优化配置&#xff0c;从而达到提高效率、降低成本的目的。那么&#xff0c;精益管理咨询公司在与企业沟通时&#xff0c;应该如何展…

MinIO在Linux环境中的使用

MinIO 是一个高性能的对象存储服务&#xff0c;兼容 Amazon S3 API。它设计用于大规模数据存储&#xff0c;可以很好地处理大数据集和高并发请求。如果你想在 Linux 系统上安装 MinIO&#xff0c;并开放必要的端口以便外部访问。 Vmware下载安装和linux安装这里就不在赘述了&a…

复习2-20240624

vscode 使用 Javabean &#xff08;封装性&#xff09; public class Demo01 {/*1.原则 &#xff1a; 字母 数字 $ _ 中文 除了 这五个 其它都不可以2. 细则 &#xff1a; 数字 不能 开头%hbviunh &hfiureh )nhjrn 7487j -ni hbiu tgf hi…

iOS抓包指南 正则过滤爬取

解读iOS抓包 抓包 &#xff08;packet capture&#xff09;就是将网络传输发送与接收的数据包进行截获、重发、编辑、转存等操作&#xff0c;也用来检查网络安全。抓包也经常被用来进行数据截取等。 什么是正则表达式&#xff1f; 正则表达式(regular expression)是用来描述…

网络安全----安全设备(二)防火墙

防火墙 一、防火墙是什么&#xff1f;二、防火墙的发展史&#xff08;1&#xff09;第四代和第五代防火墙的区别 三、防火墙的功能 一、防火墙是什么&#xff1f; 防火墙&#xff08;Firewall&#xff09;是一个软件、硬件设备或软硬件结合的安全管理系统&#xff0c;构建于网…

利用Java easyExcel库实现高效Excel数据处理

在Java应用程序中&#xff0c;处理Excel文件是一项常见任务&#xff0c;尤其是在需要读取、写入或分析大量数据时。easyExcel是一个基于Java的高性能Excel处理库&#xff0c;它提供了简洁的API和优化的性能&#xff0c;以简化Excel文件的处理。本文将指导您如何使用easyExcel库…

Python字典深度探索:25个高级操作技巧

今天&#xff0c;我们踏入字典的神秘森林&#xff0c;挖掘那些不为人知的宝藏。字典&#xff0c;Python中的超级英雄&#xff0c;存储数据的魔法帽&#xff0c;今天我们将解锁它的20个高级特技&#xff0c;让你的代码飞起来&#xff01; 1. 初始化大法&#xff1a;花式建字典 …

系统编程:线程相关

线程 相关函数及过程: 创建线程号; pthread_t tid; 创建线程:pthread_create(&tid, NULL, task, argv[1]); 定义线程执行函数:void *task(void *arg){ 线程退出:pthread_exit(ret);//线程结束后退出 } 等待所有线程结束:pthread_join(tid, (void **)&ret); 编译时增加…

计算机网络面试HTTP篇二

HTTP/1.1 如何优化&#xff1f; 问你一句&#xff1a;「你知道 HTTP/1.1 该如何优化吗&#xff1f;」 我们可以从下面这三种优化思路来优化 HTTP/1.1 协议&#xff1a; 尽量避免发送 HTTP 请求&#xff1b;在需要发送 HTTP 请求时&#xff0c;考虑如何减少请求次数&#xff…