Gedurende de eerste Britse annexatie van de Transvaal kreeg Joubert een reputatie van onverzoenlijkheid. Samen met Paul Kruger spoorde hij aan tot een sfeer van verzet tegen de Britse onderdrukkers. Dit leidde tot de oorlog van 1880-1881 die het begin was van de nieuwe onafhankelijkheid van de Transvaal. Gedurende deze Eerste Boerenoorlog commandeerde hij de Boerentroepen bij Laingsnek, Ingogo en Majuba. Ook nam hij deel aan de eerste onderhandelingen tussen Boer en Brit. Hij werd opperbevelhebber en bestuurde de provisorische regering gevestigd in Heidelberg.