Dopo aver lasciato Eton, Gough ottenne di essere ammesso alla Royal Military Academy, Sandhurst nel 1888. Egli aderì quindi al 16th Lancers nel 1889 e prestò servizio nella Campagna di Tirah. Gough divenne ben presto noto per la sua distinzione nel comando durante l'Assedio di Ladysmith nel corso della Seconda guerra boera. Il suo incontro con George Whie gli porterà grande fortuna nella carriera.