Han var født i nærheten av Alresford i Hampshire som sønn av Rawson Boddam Gardiner. Han tok sin utdannelse ved Winchester College og deretter ved Christ Church ved Universitetet i Oxford hvor han oppnådde første klasse i . Han avbrøt sin studier i 1853 da han tilsluttet seg irvingianernes trossamfunn, som han tilhørte i et tyvetalls år og var siden 1855 gift med en datter til samfunnets stifter, Henry Irving.