Han ble født som den tiende sønnen av pastor Charles Burrough og hans hustru Georgina Long. Burrough begynte sin karriere som marinkadett i 1903 etter å ha vært student ved St Edward's School ved University of Oxford. Han var første gang i krigshandlinger under den første verdenskrig som kanonoffiser om bord i krysseren HMS «Southampton» da han deltok i Jyllandsslaget i 1916. Han ble senere gjort til kommandant av femte jagerflotiljen i 1935 og av HMS «Excellent» («fregatt av stein», marinens festning på land) i nærheten av Portsmouth i 1937. I 1939 ble han forfremmet til assisterende sjef for marinens stab.