Er trat im Alter von 10 Jahren als Hornist dem 1. Infanterieregiment der New South Wales Military Forces bei und diente in fast allen Abteilungen des Regiments, bis er es 1903 selbst befehligte. Er wurde 1886 zum Secondeleutnant ernannt und 1890 zum Leutnant befördert. Achtzehn Monate lang diente er in einer Unterwasser-Kompanie des Ingenieurkorps, deren Aufgabe es war, den Hafen von Sydney im Falle eines feindlichen Seeangriffs auszubauen. Seit 1894 wurde er zum Kapitän befördert. Im Oktober 1899 meldete sich Holmes freiwillig zum aktiven Dienst im Südafrikakrieg beim Infanteriekontingent von New South Wales. Obwohl in dieser Zeit bereits seine Beförderung zum Major vorgesehen war, akzeptierte er weiterhin die Position als Kapitän um frontnaher führen zu können. Bei seiner Ankunft in Südafrika wurde er einer Kavallerieeinheit zugewiesen, aus deren Kader bald das australische Mounted Infantry-Regiment hervorging. Holmes wurde zum Kapitän der E-Company ernannt, dem späteren 1. New South Wales Mounted Rifles. Er nahm im Juni 1900 an den Gefechten bei Colesberg, Pretoria und Diamond Hill teil, wo er auch verwundet wurde. Holmes wurde in Depeschen erwähnt, zum Oberstleutnant befördert und mit dem Distinguished Service Order ausgezeichnet. Letztere Auszeichnung wurde nach seiner Rückkehr im August 1900 als nicht rechtmäßig vergeben als ungültig erklärt. Holmes befehligte das australische 1. Infanterie-Regiment ab 1903 bis 1911, wurde am 6. Januar 1912 zum Oberst und zum Kommandeur der 6. Infanterie-Brigade ernannt.