Armytage studeerde in Australië en het Verenigd Koninkrijk. In 1889 ging hij dienen in het Australische leger. Hij behaalde de rang van onderluitenant. Tijdens de Tweede Boerenoorlog diende hij in Zuid-Afrika. In 1907 werd hij door professor Edgeworth David uitgenodigd om deel te nemen aan de Nimrod-expeditie van Ernest Shackleton op Antarctica. In 1908 was hij lid van de "Westelijke groep" (samen met Raymond Priestley en Philip Brocklehurst die onderzoek ging doen in de buurt van de Ferrargletsjer.