本文整理至https://zhuanlan.zhihu.com/p/606575441这里是清华大学软件学院机器学习组官方公众号(THUML-LAB),欢迎关注我们,获取最新资讯! 本文介绍本组ICLR2023时间序列分析方向的最新工作:TimesNet: Temporal 2D-Variation Modeling for General Time Series A…https://zhuanlan.zhihu.com/p/606575441
仅作学术分享,勿用商业用途
解决的问题:
1.之前的时间序列预测、分类、异常检测等都是在1d时间序列上,这种较为复杂
2.单个时间点包含的信息较少,所以我们更多关注的是时间序列的变化性质,但现实世界时间序列的变化总是涉及复杂的时间模式,其中多个变化(如上升、下降、波动等)相互混合和重叠,这使得时间变化建模极具挑战性。
3.现实世界的时间序列通常呈现多周期性,但这些多个周期相互重叠和相互作用,使得变异建模变得棘手。其次,对于每个周期,我们发现每个时间点的变化不仅受其相邻区域的时间模式的影响,而且与相邻周期的变化高度相关
为了清楚起见,我们将这两种类型的时间变化分别命名为期内变化intraperiod-variation和期间变化interperiod-variation。
提出:
将1d时间序列转换为一组基于多个周期的2d张量,这种变化可以将周期间变化和周期内变化分别嵌入到2d张量的行和列中
TimesBlock可以自适应地发现多周期性,并通过参数有效的起始块从变换后的2D张量中提取复杂的时间变化。
transform 1d to 2d
1.发掘时间序列的周期性
傅立叶变换:
是将时域上的信号变换到频域上,使用很多正弦波来合成时域信号
所以,我们找到信号幅值最大的那个正弦波的频率,作为函数的周期
2.TimesBlock
总结
通过上述设计,TimesNet完成了“多个周期分别提取二维时序变化,再进行自适应融合”的时序变化建模过程。
注意,由于TimesNet将一维时序特征转换为二维张量进行分析,因此可以直接采用先进的视觉骨干网络进行特征提取,例如Swin Transformer、ResNeXt、ConvNeXt等。这种设计也使得时序分析任务可以直接受益于蓬勃发展的视觉骨干网络。