Bayesilainen optimointi

Bayesilainen optimointi on  koneoppimismenetelmä, joka on suunniteltu tuntemattomien funktioiden globaaliin optimoimiseen iteratiivisesti Eric Brochu, Vlad M. Cora, Nando de Freitas: A Tutorial on Bayesian Optimization of Expensive Cost Functions, with Application to Active User Modeling and Hierarchical Reinforcement Learning. CoRR abs/1012.2599 (2010). Menetelmä on tarkoitettu suuntaamaan näytteidenkeruu etsintäavarauuden lupaaville alueille ja soveltuu siksi erityisesti funktioille, joiden evaluoiminen on kallista. Menetelmää on käytetty monien erilaisten optimointiongelmien ratkaisemiseen .

Optimointistrategia

Bayesilaisessa optimoinnissa hyödynnetään Bayesin teoreemaa. Kohdefunktion arvoja ennustetaan probabilistisen sijaismallin (tyypillisesti 
stokastisiin prosesseihin kuuluva Gaussinen prosessi) avulla. Sijaismallia parannetaan iteratiivisesti keräämällä uusia näytteitä (mittauksia) pisteistä, jotka algoritmiin kuuluva näytteistysfunktio on osoittanut perustuen sijaismallin evaluaatioihin. Näytteistysfunktio määrittelee optimointialgoritmin näytteidenkeruustrategian, joka tasapainottaa tuntemattomien alueiden tutkimista ja lupaaviksi aiemmilla näytteidenkeruukierroksilla todettujen alueiden hyödyntämistä Matthew W. Hoffman, Eric Brochu, Nando de Freitas: Portfolio Allocation for Bayesian Optimization. Uncertainty in Artificial Intelligence: 327–336 (2011).

Lähteet

Luokka:Koneoppiminen