AdaBoost
ブースティングは凸集合の関数上に関する凸損失関数の最小化とみなすことができる。特に、損失関数を最小化するために指数関数の損失関数:
∑ i e − y i f ( x i ) {\displaystyle \sum _{i}e^{-y_{i}f(x_{i})}}
および関数に対して探索を行う:
f = ∑ t α t h t {\displaystyle f=\sum _{t}\alpha _{t}h_{t}}
を用いる。