Henry Francis Oliver ble født som den femte sønn av Robert Oliver og Margaret Oliver (født Strickland) på Lochside i nærheten av Kelso, Oliver sluttet seg til Royal Navy som en kadett på treningsskipet HMS «Britannia» den 15. juli 1878. Han ble beordret til den væpnede fregatten HMS «Agincourt», flaggskipet til den Second-in-Command over Kanalskvadronen, i september 1880, og etter å ha blitt forfremmet til midshipman den 21. januar 1881 ble han overført til korvetten HMS «Amethyst» tilknyttet South America Station i mars 1882. Han ble forfremmet til sub-løytnant den 21. januar 1885 og beordret til slagskipet HMS «Triumph», flaggskipet til Pacific Station, i oktober 1886. Han ble forfremmet til løytnant den 30. juni 1888 og ble beordret til kartleggingsskipet HMS «Stork», og kvalifiserte seg deretter som en navigatør. Han ble deretter beordret som navigasjonsoffiser på krysseren HMS «Wallaroo» tilknyttet Australia Station i februar 1894, navigasjonsoffiser på krysseren HMS «Blake» tilknyttet kanalskvadronen i januar 1898 og navigasjonsoffiser på krysseren HMS «Niobe» på Cape of Good Hope and West Coast of Africa Station i desember 1898, der han tjenestegjorde under Andre Boerkrigen. Han ble forfremmet til Commander den 31. desember 1899 og beordret som navigasjonsoffiser på slagskipet HMS «Majestic», flaggskipet til Commander-in-Chief av Kanalskvadronen, i september 1900. Han foreslo en rekke ideer for å forbedre organisering og opplæring av Marinens navigasjonsgren, og ble beordret av Admiral Jacky Fisher, på den tiden den Second Sea Lord, til å sette dem i kraft.