Bootstrap aggregating

Diberikan sebuah standar "training set"  yang berukuran "n", bagging menghasilkan "m" training set baru , masing-masing berukuran "n'", dengan sampling dari "D" secara uniform dan dengan penggantian (with replacement). Karena sampling dengan penggantian, maka beberapa observasi dapat diulang dalam setiap . Jika "n"'="n", maka besar "n" set  diharapkan memiliki fraksi (1 - 1/"e") (≈63.2%) dari contoh unik dari "D", sisanya menjadi duplikat. Jenis contoh/sampel ini dikenal sebagai bootstrap sampel. Model "m" dipasang menggunakan sampel bootstrap "m" di atas dan dikombinasikan dengan rata-rata output (untuk regresi) atau voting (untuk klasifikasi).