—
无特征工程的神经网络模型(得分 5.34X)
比赛进入最后阶段,现在是时候深入了解一些关于神经网络模型的见解了。由于 Kaggle 讨论区的需求,我在这里分享两个神经网络模型。第一个是 LSTM 模型,第二个是卷积网络(ConvNet)。有趣的是,使用 LSTM 或 ConvNet,在没有任何特征工程的情况下,你可以达到 5.3505 的得分(甚至达到 5.348X)。
通过仅仅结合一些失衡特征,使用 ConvNet 或 LSTM 就可以获得 5.3439 的得分。我已经附上了两个 notebook 供大家参考。
这些模型可以通过增加额外的特征(如全球股票统计)和优化来进一步提升,达到 5.33X 的得分范围。它们与树模型很好地结合,有可能将 LB 得分降低超过 0.01。
ConvNet 结构的一个重要方面是使用了残差连接,这显著提升了性能。
你可以在 Kaggle 上找到这些模型。以下是 LSTM 和 ConvNet 模型的链接:
- ConvNet: Optiver Conv Just IMB Inference Cleanup
- LSTM: Optiver No FE LSTM Inference Cleanup
此外,你可以在提供的仓库中探索更多内容:
Optiver Trading Close Repository