Gough wurde als ältester Sohn von General Sir Charles John Stanley Gough, VC, GCB geboren und in Eton und Sandhurst erzogen. 1889 trat er als Leutnant in die "16th Lancers" ein. Er war Teilnehmer des Tirah-Feldzugs in Britisch-Indien 1897–98. Er besuchte danach das Staff College Camberley, wurde aber vorzeitig nach Südafrika abberufen, als dort 1899 der Zweite Burenkrieg ausbrach. Gough wurde darin erstmals weithin bekannt als Führer einer berittenen Vorausabteilung der Kolonne, die während der Belagerung von Ladysmith die eingeschlossene britische Besatzung unter George Stuart White entsetzte. In der Schlacht von Blood River Poort erlitt er eine Niederlage gegen überlegene burische Truppen und wurde kurzzeitig gefangen genommen, was seine Reputation aber nicht ernsthaft beschädigte. Von 1904 bis 1906 war er Ausbilder am Staff College und erhielt danach das Kommando über die "16th Lancers". 1911 wurde er als Brigadegeneral nach Curragh, Irland, versetzt, wo er die 3. Kavalleriebrigade befehligte. Hier war er im März 1914 am sogenannten „Curragh-Vorfall“ beteiligt.