一、监督学习
线性回归（Linear Regression）
多项式回归（Polynomial Regression）
岭回归（Ridge Regression）
Lasso回归（Lasso Regression）
弹性网络回归（Elastic Net Regression）
逻辑回归（Logistic Regression）
决策树回归（Decision Tree Regression）
随机森林回归（Random Forest Regression）
支持向量机（SVM）
非线性支持向量机
多类别支持向量机
核函数支持向量机
稀疏支持向量机
核贝叶斯支持向量机
不平衡类别支持向量机
K最近邻（K-Nearest Neighbors, KNN）
AdaBoost
梯度提升树（Gradient Boosting Trees）
XGBoost（极端梯度提升）
LightGBM（轻量级梯度提升机）
CatBoost
贝叶斯Ridge回归
贝叶斯Lasso回归
二、无监督学习
K均值聚类（K-Means Clustering）
层次聚类（Hierarchical Clustering）
密度聚类（Density-Based Clustering）
谱聚类（Spectral Clustering）
DBSCAN（Density-Based Spatial Clustering of Applications with Noise）
EM聚类（Expectation-Maximization Clustering）
模糊聚类（Fuzzy Clustering）
主成分分析（PCA, Principal Component Analysis）
线性判别分析（LDA, Linear Discriminant Analysis）
t-分布随机邻域嵌入（t-SNE, t-Distributed Stochastic Neighbor Embedding）
独立成分分析（ICA, Independent Component Analysis）
自编码器（Autoencoder）
关联规则学习
Apriori算法
Eclat算法
FP-growth算法
三、强化学习
Q学习（Q-learning）
深度Q网络（DQN）
政策梯度（Policy Gradients）
Actor-Critic方法
深度确定性策略梯度（DDPG）
优势行动者-评论家（A2C）
优势行动者-评论家（A3C）
信任区域策略优化（TRPO）
近端策略优化（PPO）
自我博弈学习（如AlphaGo）
四、深度学习
前馈神经网络（Feedforward Neural Networks, FNNs）
卷积神经网络（Convolutional Neural Networks, CNNs）
循环神经网络（Recurrent Neural Networks, RNNs）
长短时记忆网络（Long Short-Term Memory, LSTM）
门控循环单元（Gated Recurrent Unit, GRU）
自注意力模型（Transformer）
生成对抗网络（Generative Adversarial Networks, GANs）
变分自编码器（Variational Autoencoders, VAEs）
深度置信网络（Deep Belief Networks, DBNs）
深度玻尔兹曼机（Deep Boltzmann Machine, DBM）
残差网络（ResNet）
Inception网络
U-Net
YOLO（实时对象检测）
Mask R-CNN（实例分割）
Siamese网络（用于相似性学习）
Triplet网络（用于相似性学习）
多任务学习网络
迁移学习和微调模型
神经样式转换
循环生成对抗网络（CycleGAN）
五、正则化和优化技术
L1正则化（Lasso 正则化）
L2正则化（岭正则化）
弹性网络正则化（Elastic Net 正则化）
Dropout 正则化
Batch Normalization
Gradient Clipping
Early Stopping
Hyperparameter Tuning（如网格搜索，随机搜索）
六、模型集成技术
Bagging（Bootstrap Aggregating）
Boosting
Stacking
Voting（投票）
深度学习集成
数据增强
七、其他算法
ID3 (Iterative Dichotomiser 3)
C4.5
CART (Classification and Regression Trees)
随机森林（Random Forest）
多输出树（Multi-output Trees）
特征选择（Feature Selection）
核方法降维
高斯过程（Gaussian Processes）
贝叶斯优化（Bayesian Optimization）
变分贝叶斯（Variational Bayesian Methods）
贝叶斯深度学习（Bayesian Deep Learning）
朴素贝叶斯（Naive Bayes）
贝叶斯网络（Bayesian Networks）
自然语言处理（NLP）特定算法（如BERT，GPT）
图神经网络（Graph Neural Networks）
