Burger katonai neveltetése feltehetően a családja akaratára történt, erről azonban a forrás nem tesz említést. Burger számos katonai konfliktusban részt vett, mint például a Sekhukhune ellen viselt háborúban 1876-ban. Így az első búr háborúban mint veterán harcolt, s 1881-ben fontos vezetői pozíciókat látott el. 1885-ben őt választották a Lydenburg Commando parancsnokává. A második búr háború kitörését követően pedig magas katonai pozícióban szolgált. Számos csatában küzdött, közülük kiemelkedik a Spion Kop-i csatában és a Modder folyóért dúló harcokban való részvétele. Az előbbit a búr csapatok vezetése alatt megnyerték, míg utóbbiban vereséget szenvedtek.