Bayesian Optimization of Combinatorial Structures
1.摘要
本文提出了一个算法(BOCS),它基于一个自适应的、可扩展的模型,即使数据稀缺,也能识别有用的组合结构。我们的采集函数率先使用半定编程来实现效率和可伸缩性。实验结果表明,该算法的性能始终优于其他组合方法和贝叶斯优化方法。
2.介绍
本文的主要贡献是:
- 一种获得获取函数近似优化器的新方法,利用凸优化的算法思想来实现可伸缩性和效率。该方法克服了许多采集函数对大型组合领域所固有的有限的可扩展性。
- 我们提出了一个捕获结构元素相互作用的模型,并展示了如何在数据昂贵且稀缺时在实践中推断这些相互作用。我们还证明了这个可解释的模型在实验数据上的有用性。
- 我们评估了BOCS算法的性能,以及机器学习和离散优化在各种基准问题上的方法,包括机器学习、航空航天工程和食品安全控制等任务。
本文的代码在https://github.com/baptistar/BOCS
3.BOCS
3.1统计模型
算法流程