Alexander trat 1886 als Private in die 4th Infantry Division der United States Army ein. Im nachfolgenden Jahr wurde er zum First Sergeant seiner Kompanie und 1889 zum Second Lieutenant befördert. Während des Ersten Weltkrieges kommandierte er als Generalmajor die 77th Infantry Division in Frankreich. In dieser Funktion nahm er an dem Vesle-Aisne-Vorstoß, der Maas-Argonnen-Offensive und dem Vorstoß auf Sedan teil.