J.B.M. Hertzog klom tijdens de Tweede Boerenoorlog (1899-1902) van commandant op tot generaal. Als generaal viel hij met een groep Boerensoldaten met succes de Kaapkolonie binnen. Hij werd onderbevelhebber van het leger van Oranje Vrijstaat. Hij was geliefd bij zijn mannen en voorstander van guerrilla-acties tegen de Engelsen. Aanvankelijk voorstander van het voortzetten van de strijd tot het bittere einde, kwam hij later tot het inzicht dat verder bloedvergieten geen zin had en op 31 mei 1902 was hij een van de ondertekenaars van de Vrede van Vereeniging. Hierna ging hij in de politiek.