AI预测相关目录

AI预测流程，包括ETL、算法策略、算法模型、模型评估、可视化等相关内容
最好有基础的python算法预测经验

1. EEMD策略及踩坑
2. VMD-CNN-LSTM时序预测
3. 对双向LSTM等模型添加自注意力机制
4. K折叠交叉验证
5. optuna超参数优化框架
6. 多任务学习-模型融合策略
7. Transformer模型及Paddle实现
8. 迁移学习在预测任务上的tensoflow2.0实现
9. holt提取时序序列特征
10. TCN时序预测及tf实现
11. 注意力机制/多头注意力机制及其tensorflow实现
12. 一文解析AI预测数据工程
13. FITS：一个轻量级而又功能强大的时间序列分析模型
14. DLinear：未来预测聚合历史信息的最简单网络
15. LightGBM：更好更快地用于工业实践集成学习算法
16. 面向多特征的AI预测指南
17. 大模型时序预测初步调研【20240506】

---

---

研究背景

我国AI预测应用起步较晚，但需求旺盛，短时间内的AI工业化落地往往因数据积累不足等原因难以实现。如风电负荷预测场景下，往往需要较细颗粒度下的实际气象数据、负荷数据，但相关供电公司仅存储了近两年甚至数月的样本数据，数据颗粒度提供留在月级，显然，这样稀疏、少量的数据样本不具备高精度时序预测的可能性。

大模型时许预测研究旨在利用LLM的能力进行时序分析，探索使用LLM的超量参数与强大的推理能力，将时许预测历史知识应用到具体场景下的数值时序分析中。

传统时序分析

如上图所示，传统时序分析往往通过传统时许预测、时序分解、机器学习以及深度学习等经典算法进行，并结合各类集成手段、迁移学习理论、特征工程、算法调优以及业务经验进行专有场景下的预测性能强化。

以PCO-TCN时序预测算法为例，传统预测往往需要经历数据挖掘/特征工程、算法选型、策略优化三个步骤，往往可以获得较高的预测精度。

进一步地，LGBM配合Nlinear+Catboost的组合预测也与之类似。
但实际场景下，我们所做的数据、模型两侧功能设计在面向稀疏数据的时序预测时完全乏力。

那么可以不可以利用一种模型，它具备巨大参数量和强大的推理能力，能够在学习大量同类时序预测数据后，在我们提供少量数据样本情况和辅助信息情况下能够进行较为准确的预测呢？

大模型时序预测

在一定的总结调研后，可发现大模型有如下三类时序预测实现路径及代表项目。

• LLM直接对时序数据进行训练拟合实现预测（LLM4TS）
• 在微调模型后，基于prompt（文字描述配合TS数值）实现预测（PromptCast）
• 对齐文本和时序数据语义实现对时序数据【分类、描述】（METS）

LLM时序预测

Prompt

本文、时序数据对齐

显然，大模型在时序预测上的探索刚刚开始，具体的更优路径还需深入研究。但当下部分开源项目及论文已经有了成果，未来，以大模型为基础的AI预测研究也必将是AI预测的方向之一。