Abstract
机器人发帖的目的是在不同时期宣传不同的内容,其发帖经常会出现异常的兴趣变化、而人类发帖的目的是表达兴趣爱好和日常生活,其兴趣变化相对稳定。提出了一种基于窗口策略(BotWindow Strategy)的社交机器人检测模型基于兴趣变化检测社交机器人。
- 首先采用窗口策略获取用户的发布窗口,每个窗口包含多个帖子。
- 通过多头注意力机制提取发布窗口之间的兴趣变化。
- 将兴趣变化信息嵌入用户表示,并构建一个异构图分类模块进行分类。
Contribution:
- 首次提出了整合多个帖子的内部兴趣变化。
- 利用窗口策略和多头注意力机制有效捕捉和表征机器人和人类之间的兴趣变化。本文提取注意力权重来表示兴趣变化的特征,并验证其有效性。
- 在三个具有挑战性的数据集上进行了广泛实验,结果表明本文所提方法达到了最先进水平。
Methology
包括两个主要组成部分:基于窗口策略的帖子表示模块和异构图分类模块。该模型旨在通过窗口策略和多头注意力机制获取帖子的全面表示和兴趣变化,并利用异构图捕获用户的协作关系。
A. Overview
B. Posts Representation Module Based On The Window Strategy
- 首先应用预训练语言模型(LM)获取每个帖子的嵌入表示。
- 然后,通过双向LSTM(BiLSTM)提取帖子的上下文特征。
- 接着,使用窗口策略获取帖子窗口,并通过多头注意力机制提取帖子窗口特征和注意力权重。
-----------------------------------------------------------------------------
------------------------------------------------------------------------------
------------------------------------------------------------------------------
C. Heterogeneous Graph Classification Module
简单异构图网络(Simple-HGN)来聚合来自邻域的特征。
------------------------------------------------------------------------------