Quatre ans plus tard, en 1912, Taylor fut sélectionné pour participer aux Jeux de Stockholm. Il y aida son équipe à remporter le bronze en relais . En 1916, il n'y eut pas de Jeux à cause de la Première Guerre mondiale. Taylor s'était engagé dans la Royal Navy en 1914 et gardait la forme en nageant autour de bateaux quand ceux-ci étaient ancrés à Scapa Flow. Il était présent lors de la Bataille du Jutland. Une histoire populaire raconte que durant la bataille, le bateau sur lequel Taylor servait, le HMS "St. Vincent" fut coulé et les survivants durent attendre des heures avant d'être secourus, Taylor nageant et encourageant ses camarades. Toutefois, cette histoire n'est probablement qu'une légende car le HMS "St. Vincent" n'a pas été coulé pendant la bataille du Jutland. Taylor a ensuite été transféré sur le "HMS Ramillies" où il servit jusqu'à la démobilisation.