ベイズ最適化 資料置き場

適当に関連の文献やWebサイトを載せてます。自分のメモ代わりです。

書籍
--
(2023/11/14追記)
日本語版での良書が出ました！
- [ベイズ最適化: 適応的実験計画の基礎と実践](https://www.amazon.co.jp/%E3%83%99%E3%82%A4%E3%82%BA%E6%9C%80%E9%81%A9%E5%8C%96-%E9%81%A9%E5%BF%9C%E7%9A%84%E5%AE%9F%E9%A8%93%E8%A8%88%E7%94%BB%E3%81%AE%E5%9F%BA%E7%A4%8E%E3%81%A8%E5%AE%9F%E8%B7%B5-%E4%BB%8A%E6%9D%91-%E7%A7%80%E6%98%8E/dp/4764906635)
  - ガウス過程
  - PESなどの獲得関数
  - Optuna (Botorch Sampler含む)
  - 多目的、制約付き、高次元など多くのトピックを含んでる

この一冊読めばベイズ最適化の多くの領域に詳しくなれそう

- まだ完成していないがガウス過程から獲得関数まで多様なトピックが盛り込まれた教科書でpdfが公開されている
https://github.com/bayesoptbook/bayesoptbook.github.io


フレームワーク
---
- [Bayesian Optimization](https://github.com/fmfn/BayesianOptimization)
    - python ライブラリ
- [BoTorch](https://botorch.org/)
    - [論文: A Framework for Efficient Monte-Carlo Bayesian Optimization(2020)](https://proceedings.neurips.cc/paper/2020/hash/f5b1b89d98b7286673128a5fb112cb9a-Abstract.html) 
    - Metaが中心となってPyTorch、GpyTorchをベースに開発。Metaの新しい論文が実装されている。
- [Ax](https://ax.dev/)
    - BoTorchは研究者向けっぽいが、Axはユーザインタフェースがもう少し使いやすい
- [Oputuna](https://optuna.org/)
    - PFNが開発. Surrogate functionにTPEを用いており、BoTorchSamplerなども入っているっぽい. 非常に使いやすい。2024年にGPSamplerも追加された
- [GPyOpt](https://sheffieldml.github.io/GPyOpt/)
- [Spearmint](https://github.com/HIPS/Spearmint)
    - 初期の実装?数年前の論文だとよくこのパッケージの実装と比較しているのを見る。
- [SMAC3](https://github.com/automl/SMAC3)
    - [SMAC3: A Versatile Bayesian Optimization Package for Hyperparameter Optimization(2022)](https://jmlr.org/papers/volume23/21-0888/21-0888.pdf)
    - surrograte functionにrandom forestを用いたベイズ最適化ライブラリ
    - 2022年に大きなアップデート
    - 正直SMAC系はHutterの2011年くらいの論文しか知らなかったがrandom forest系のBOも多く研究されていたようだ。知らなかった。

論文
---
有名どころの論文
- [Taking the Human Out of the Loop:A Review of Bayesian Optimization(2015)](https://www.cs.ox.ac.uk/people/nando.defreitas/publications/BayesOptLoop.pdf)
- [Practical Bayesian Optimization of Machine Learning Algorithms(2012)](https://proceedings.neurips.cc/paper/2012/file/05311655a15b75fab86956663e1819cd-Paper.pdf)
- [A Tutorial on Bayesian Optimization(2018)](https://arxiv.org/pdf/1807.02811)

最近の動向をまとめたサーベイ論文
- [Recent Advances in Bayesian Optimization(2022)](https://arxiv.org/pdf/2206.03301.pdf)

BoTorchで実装されている最新研究リスト
- https://botorch.org/docs/papers

ためになる資料,webサイト
- [ACML 2020 Tutorial: Recent Advances in Bayesian Optimization](http://vu-nguyen.org/BOTutorial_ACML20.html)
- [機械学習による統計的実験計画（ベイズ最適化を中心に)](https://www.slideshare.net/KotaMatsui/ss-250012988)
- [機械学習におけるハイパーパラメータ最適化の理論と実践 Part.1](https://logmi.jp/tech/articles/322678)
- [An Illustrated Guide to the Knowledge Gradient Acquisition Function](https://tiao.io/post/an-illustrated-guide-to-the-knowledge-gradient-acquisition-function/)
- [ベイズ最適化ツールBoTorch入門](https://qiita.com/narrowlyapplicable/items/d8e9be53f73d6fa5e4d3)
- [[BoTorch]Monte Carlo獲得関数とその最適化](https://qiita.com/narrowlyapplicable/items/3c2c80e05e16fa935cf1)


ガウス過程
--- 
[Gaussian Processes for Machine Learning(2006)](http://gaussianprocess.org/gpml/chapters/RW.pdf)
[GPyTorch: Blackbox Matrix-Matrix Gaussian
Process Inference with GPU Acceleration(2018)](https://proceedings.neurips.cc/paper_files/paper/2018/file/27e8e17134dd7083b050476733207ea1-Paper.pdf)
派生研究の論文をいくつか
※自分が気になったものを載せているので研究領域を網羅しているわけではないのでご注意下さい　

バッチベイズ最適化
---
- [The reparameterization trick for acquisition functions(2017)](https://arxiv.org/pdf/1712.00424.pdf)
- [Maximizing acquisition functions for Bayesian optimization(2018)](http://arxiv.org/abs/1704.05318)
- [Fast Computation of the Multi-points Expected Improvement with Applications in Batch Selection(2012)](https://hal.archives-ouvertes.fr/hal-00732512v2/document)
- [Batch Bayesian Optimization via Local Penalization(2016)](http://proceedings.mlr.press/v51/gonzalez16a.pdf)

高次元
---
- [Bayesian Optimization in a Billion Dimensions via Random Embeddings(2016)](https://arxiv.org/pdf/1301.1942)
- [Re-Examining Linear Embeddings for High-Dimensional Bayesian Optimization(2020)](https://arxiv.org/abs/2001.11659)
- [Scalable Global Optimization via Local Bayesian Optimization(2020)](https://arxiv.org/pdf/1910.01739.pdf)
- [High-Dimensional Bayesian Optimization with Sparse Axis-Aligned Subspaces.(2021)](https://arxiv.org/pdf/2103.00349)
- [Increasing the Scope as You Learn: Adaptive Bayesian Optimization in Nested Subspaces(2022)](https://openreview.net/pdf?id=e4Wf6112DI)
- [A survey on high-dimensional Gaussian process modeling with application to Bayesian optimization(2022)](https://arxiv.org/pdf/2111.05040.pdf)
- [A survey and benchmark of high-dimensional Bayesian optimization of discrete sequences(2024)](https://arxiv.org/abs/2406.04739)

- 手前味噌ですが記事書きました

https://qiita.com/__Kat__/items/8782d2f9c2e72e125053


Multi Task
---
- [Multi-Task Bayesian Optimization(2013)](https://proceedings.neurips.cc/paper/2013/file/f33ba15effa5c10e873bf3842afb46a6-Paper.pdf)

Multi Objective
---

Multi Fidelity
---
- [Freeze-Thaw Bayesian Optimization(2014)](https://arxiv.org/abs/1406.3896)
- [Practical Multi-fidelity Bayesian Optimization for Hyperparameter Tuning (2019)](https://arxiv.org/pdf/1903.04703.pdf)
- [A Generalized Framework of Multifidelity Max-Value Entropy Search Through Joint Entropy ](https://direct.mit.edu/neco/article-abstract/34/10/2145/112574/A-Generalized-Framework-of-Multifidelity-Max-Value)

safe bayesian optimization

https://www.youtube.com/watch?v=sMfPRLtrob4

TPE
---
- [Tree-Structured Parzen Estimator: Understanding Its Algorithm Components and Their Roles for Better Empirical Performance](https://arxiv.org/pdf/2304.11127.pdf)