用户评论标签的抽取

原文链接:https://blog.csdn.net/shijing_0214/article/details/71036808

无意中在知乎中看到一个问题:淘宝的评论归纳是如何做到的? 了解之后觉得较为容易实现,就简单实现了一个对用户评论的标签抽取功能,纯属兴趣所致,所以并没有做十分细致的工作,例如词向量仅用不到3M的评论语料进行训练,词典也是随便找了一些词构建的,代码见CommentsMining。
首先来看下评论标签抽取是做什么的,如图:


这里写图片描述

我们希望在给出下面的评论语料里,自动抽取出上面矩形框中大家一致认同的评论标签展现给用户观看,方便用户快速了解商品特点。对某件商品的标签抽取简单实现的一个效果如下:

这里写图片描述

抽取出来的标签看起来还算正常。

我这里主要是用句法分析+word2vec+dbscan+词典来实现的这样一个功能,具体步骤如下:
1、语料收集
使用爬虫简单爬取了某电商网站女装衬衫下的一些评论语料,由训练集与测试集两部分构成,测试集里仅包含对某件衬衫的评论语料,用于最后的评论抽取,训练集里包含对多个衬衫的评论语料,用于word2vec的训练,处理后的训练集如下:


这里写图片描述

2、训练评论词向量
使用上面得到的训练集,首先使用斯坦福的分词工具进行分词处理并去掉停用词, 此处见教程。然后将分词结果交给word2vec来训练出关于评论语料的词向量,本地方用的评论语料仅不到3M,为了得到更好的词向量,可以考虑增加语料的规模。词向量的维度此处为50维。
3、依存句法分析
使用斯坦福nlp工具包+中文model文件来对测试语料做句法分析。因为上一步有用到分词工具,这里建议直接下载斯坦福的 coreNLP+中文model文件来使用,句法分析得到的结果如下:

这里写图片描述

4、制定抽取规则
根据上一步对评论语料进行依存句法分析得到的结果,总结出评论标签的抽取规则,如:
nsubj + advmod
nsubj + advmod + advmod
advmod + advmod
advmod + amod

5、获得候选标签
结合抽取规则及情感词典获得候选标签。

6、候选标签消重
可以利用simhash算法对候选标签集合进行消重。

7、候选标签聚类
利用dbscan+word2vec对候选标签进行聚类,通过聚类将语义相似的一些标签聚在一起,实现语义消重的作用。使用dbscan可以很好地将相关标签聚在一起,而不过多地引入杂质。

8、获得目标标签
对每个聚成的簇,计算其聚类中心,并返回与聚类中心最近的一条评论,返回前可以对该条评论进行过滤词的操作,如”颜色比较暗“过滤后变成”颜色暗“。

9、总结
以上是对用户评论标签抽取的简单实现,如若需要做的更细致一些,本人认为可以从下面几点细化:
1、训练语料规模,为了实现方便,只爬了2M多点的语料,但2M多的语料太小了,词向量必然不会很准,好的词向量对聚类至关重要。
2、停用词表、情感词典的构建,好的词典应基于语料构建,这里的停用词表及情感词典都是在网上随便找了一些词添加进来,效果必然不会太好。
3、抽取规则
抽取规则设计的比较简单,会在产生候选标签中生成较多的杂质,这些杂质会对标签抽取产生比较大的影响。

参考
1. 用户评论中的标签抽取以及排序,李丕绩,2012.

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/478944.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

开源开放|数据地平线通过OpenKG开放全行业因果事理、大规模实时事理等7类常识知识库...

本期介绍开放中文简称、中文同义、中文抽象、全行业因果事理、实体概念描述、实时事理知识库、军事武器装备知识等七个事理相关知识图谱。截至目前,该七个数据集规模达数千万、累计下载次数达两千余次,可用于底层事理推理、查询扩展、数据增强等多个自然…

写给工程师的十条精进原则

引言 时间回到8年前,我人生中第一份实习的工作,是在某互联网公司的无线搜索部做一个C工程师。当时的我可谓意气风发,想要大干一场,结果第一次上线就写了人生中第一个Casestudy。由于对部署环境的不了解,把SVN库里的配置…

我删掉了Transformer中的这几层…性能反而变好了?

文 | chaos编 | 小轶基于Transformer结构的各类语言模型(Bert基于其encoder,Gpt-2基于其decoder)早已经在各类NLP任务上大放异彩,面对让人眼花缭乱的transformer堆叠方式,你是否也会感到迷茫?没关系,现在让…

LeetCode 821. 字符的最短距离

1. 题目 给定一个字符串 S 和一个字符 C。返回一个代表字符串 S 中每个字符到字符串 S 中的字符 C 的最短距离的数组。 示例 1:输入: S "loveleetcode", C e 输出: [3, 2, 1, 0, 1, 0, 0, 1, 2, 2, 1, 0]来源:力扣(LeetCode) 链…

论文浅尝 - ESWC2020 | ESBM:一个面向实体摘要的评测集

本文转载自公众号:南大Websoft。实体摘要(Entity Summarization),是知识图谱研究与应用中的一个关键问题。南京大学Websoft团队为此制作了一个评测集,称作ESBM,是目前可以公开获取的规模最大的评测集。这项…

美团在O2O场景下的广告营销

美团作为中国最大的在线本地生活服务平台,覆盖了餐饮、酒店、旅行、休闲娱乐、外卖配送等方方面面生活场景,连接了数亿用户和数百万商户。如何帮助本地商户开展在线营销,使得他们能快速有效地触达目标用户群体提升经营效率,是美团…

LeetCode 202. 快乐数(快慢指针)

1. 题目 2. 解题 一个数经过若干次各位数平方和后,会等于它自己使用类似环形链表的快慢指针法,最终快慢指针相遇,若不为1则是不快乐数 class Solution { public:int bitSquareSum(int n) {int sum 0, bit;while(n > 0){bit n % 10;su…

全栈深度学习第4期: 机器学习岗位区别与团队管理

一起追剧鸭简介Berkeley全栈深度学习追剧计划是由夕小瑶的卖萌屋发起的优质公开课打卡项目,通过微信群为同期追剧的小伙伴提供交流平台。关于该计划的详请见这里。Berkeley深度学习追剧群目前已有1000小伙伴加入,公众号后台回复口令 深度学习追剧 入群。…

会议交流 | DataFunCon 线上大会 - 知识图谱专题论坛

OpenKG开放知识图谱(简称 OpenKG)旨在促进中文知识图谱数据的开放与互联,促进知识图谱和语义技术的普及和广泛应用。点击阅读原文,进入 OpenKG 博客。

我国政务大数据政策的文本分析:推进逻辑与未来进路

原文地址:https://www.sohu.com/a/238844423_99983415 摘要:[目的/意义]从已颁布政策文件中找出我国推进政务大数据发展和应用的内在逻辑, 为优化未来的政策路径提供对策建议。[方法/过程]通过政府门户网站收集189条有效政策文本, 综合运用词频分析软件…

Flutter原理与实践

Flutter是Google开发的一套全新的跨平台、开源UI框架,支持iOS、Android系统开发,并且是未来新操作系统Fuchsia的默认开发套件。自从2017年5月发布第一个版本以来,目前Flutter已经发布了近60个版本,并且在2018年5月发布了第一个“R…

LeetCode 522. 最长特殊序列 II

1. 题目 给定字符串列表,你需要从它们中找出最长的特殊序列。 最长特殊序列定义如下:该序列为某字符串独有的最长子序列(即不能是其他字符串的子序列)。 子序列可以通过删去字符串中的某些字符实现,但不能改变剩余字…

论文浅尝 - 计算机工程 | 大规模企业级知识图谱实践综述

本文转载自公众号:计算机工程。大规模企业级知识图谱实践综述王昊奋, 丁军, 胡芳槐, 王鑫中文摘要:近年来,知识图谱及其相关技术得到快速发展,并被广泛应用于工业界各种认知智能场景中。在简述知识图谱相关研究的基础上&#xff0…

2021年了,对话系统凉透了吗?

文 | 兔子酱编 | 夕小瑶大家好,我是可盐可甜的兔子酱,一枚卖萌屋的资深潜水小编,今天终于有了自己的第一篇文章,希望耗时一周撰写的本文能让大家有所收获~这篇文章,算是对自己在头部大厂2年算法岗炼丹经历的一个经验浓…

前端可用性保障实践

本文基于已发表在Infoq的“美团收银台前端可用性保障实践”一文编辑而成。 一般可用性都是说后端服务的可用性,都说我们的服务可用性到了几个9,很少有人把可用性放到前端来。其实对于任何一个有UI交互流程的业务,都会有前端服务可用性&#x…

LeetCode 762. 二进制表示中质数个计算置位

1. 题目 给定两个整数 L 和 R ,找到闭区间 [L, R] 范围内,计算置位位数为质数的整数个数。 (注意,计算置位代表二进制表示中1的个数。例如 21 的二进制表示 10101 有 3 个计算置位。还有,1 不是质数。) …

报名通道开启 | 顶会 ICLR 2021:医疗对话生成与自动诊断国际竞赛,邀你来战!...

ICLR,2013 年由深度学习三巨头中的Yoshua Bengio 和 Yann LeCun 牵头创办,已受到研究者和开发者的广泛认可,是当之无愧的深度学习领域顶级会议。今年,由中山大学、加利福尼亚大学圣迭戈分校和腾讯天衍实验室等组织联合举办的医疗对…

论文浅尝 | 图神经网络的对抗攻击和防御相关文献集

本文转载自公众号:专知。作者:Wei Jin。导读:本资源整理了关于图形数据或GNN(图形神经网络)上的对抗攻击和防御的论文链接。并对其进行分类。目录Survey PapersAttack PapersDefense PapersCertified Robustness Papers地址连接:h…

李宏毅《机器学习》作业班+带打比赛

人工智能来势汹汹,学习人工智能该从哪里开始呢?人工智能的学习路径又是怎样的?须知入门人工智能第一步就是机器学习。但是,在上千份同学的学习反馈中,我们发现了2个人工智能学习领域的痛难点:1、课程偏理论…

论文浅尝 – KDD2020 | 使用图对比编码的图神经网络预训练模型

论文笔记整理:陈名杨,浙江大学在读博士生,研究方向为知识图谱表示学习。图表示学习是一个当前关注度较高的领域,并且有许多真实的应用。然而当前的很多图表示学习方法都是对一个领域或者某一个图训练一个模型,也就是说…