HiNet: Novel Multi-Scenario & Multi-Task Learning with Hierarchical Information Extraction
背景:
美团的多场景多任务(ctr、ctcvr)
解决方案
通过分层来分别学习多场景多任务
方案详情
点评:在底层Embedding时用到了PLE,在多任务专家学习上面也用到了PLE结构,层级学习,底层多场景学习、上层多任务学习,层次分明。
核心的是SEI结构,其实就是MoE
SAN整体上也是个MoE结构,但是gate网络的输入是场景ID,也就是利用场景ID来选取不同的特征输出,使用优势特征对输入进行选择
这个结构还是比较明确的,实践也比较容易,值得尝试下
美团HiNet官方地址