Durante la Seconda guerra boera, Chaytor era un capitano del Third New Zealand Contingent e un tenente colonnello nel Eighth New Zealand Contingent. Dopo la guerra Chaytor divenne un funzionario del ministero della New Zealand Army. Nella prima guerra mondiale si trovava nella New Zealand Expeditionary Force in Egitto e Gallipoli. Alla fine del 1915 gli fu dato il comando della New Zealand Mounted Rifles Brigade, che faceva parte della Campagna del Sinai e della Palestina e subito dopo è stato promosso a generale di brigata.