Federated Learning-Based Cross-Enterprise Recommendation With Graph Neural Networks
论文试图解决什么问题
该论文试图解决跨企业推荐系统中存在的数据共享和用户隐私保护的问题。在许多小型和中型企业中,由于资源有限,无法提供足够的数据来进行大规模的模型训练,也不能购买用户数据。同时,由于用户数据隐私保护法律的限制,这些企业也无法与其他企业共享用户数据。因此,该论文提出了一种基于联邦学习和图神经网络的跨企业推荐方法,该方法允许企业在不共享数据的情况下使用本地数据进行训练,以提高推荐准确性并保护用户数据隐私。
主要创新
本文的主要创新是提出了一种基于联邦学习和图神经网络的跨企业推荐方法。在该方法中,构建了用户-用户图和用户-物品图来训练本地的图神经网络模型,并通过联邦学习框架进行模型参数的聚合。与现有的方法不同的是,本文设计了一种适用于图结构数据的联邦聚合算法,该算法根据损失权重
进行参数聚合,使训练损失较大的模型在聚合中获得更多的关注
。同时,本文还引入了动态损失关注因子
,有效缓解了训练深度增加时模型聚合不稳定的问题。这些创新使得跨企业推荐系统在满足用户数据隐私要求的前提下,提高了推荐准确性,并解决了现有方法中存在的性能不平等和模型聚合不稳定的问题。
结构图
其中Item aggregation
,Social aggregation
,User aggregation
表示的含义是不同的。
- Item aggregation表示将多个物品(例如商品、电影等)合并或汇总在一起的过程。在推荐系统中,可以将具有相似特征或属性的物品进行聚类或组合,以便为用户提供更准确和多样化的推荐结果。
- Social aggregation表示将社交网络中的用户信息进行聚合的过程。在推荐系统中,社交网络中的用户可以相互影响和参考,因此将他们的行为、兴趣和偏好等信息进行聚合,可以更好地理解用户的兴趣和需求,从而提供个性化的推荐。
- User aggregation表示将多个用户的行为、兴趣和偏好等信息合并或汇总在一起的过程。在推荐系统中,用户的个性化需求和兴趣可以通过对多个用户的信息进行聚合来获取,以便为用户提供更准确和个性化的推荐结果。
Social aggregation
和User aggregation
的区别如下:
- Social aggregation是指通过对用户之间的社交关系进行建模和分析,来进行信息聚合和推荐。
它考虑了用户之间的社交网络结构和关系,以及他们在社交网络中的行为和偏好
。社交聚合可以通过分析用户之间的社交关系网络来发现用户之间的相似性和影响力,并利用这些信息来进行推荐。 - User aggregation
则更加注重个体用户的行为和偏好
。它通过分析单个用户的历史行为和个性化偏好,来进行推荐。用户聚合可以根据用户的点击、购买、评分等行为数据,以及用户对不同物品的兴趣和偏好,来进行个性化推荐。
文章中的动态损失因子
解释
- 动态损失关注因子是一种用于调整模型聚合过程中损失权重的方法。在联邦学习中,不同参与方可能具有不同的数据分布和特征分布,因此其损失函数的值也可能不同。动态损失关注因子通过根据参与方的训练损失来调整损失的权重,以便更好地反映每个参与方的贡献。当参与方的训练损失差异较小时,动态损失关注因子会减小损失的影响,以提高模型聚合的稳定性。通常情况下,动态损失关注因子大于1,随着全局迭代次数的增加,它会增加,表示损失的影响逐渐减小。当动态损失关注因子达到最大值时,它将不再改变。