Allen war der Sohn des Unternehmers Hervey Allen Sr. und seiner Frau Helen Eby Meyers Allen. Er verließ die High School ohne Abschluss und wechselte 1913 an die U.S. Naval Academy, verletzte sich dort bei einem Sportwettbewerb und musste die Akademie verlassen. Mit der National Guard seines Heimatstaates war er während der mexikanischen Revolution an einer Strafexpedition der USA beteiligt. Im Ersten Weltkrieg wurde Allen in Frankreich als Leutnant der US-Armee eingesetzt und verwundet, Erlebnisse, die er später auch in seine Werke einfließen ließ. Nach dem Krieg schloss er ein Studium der Wirtschaftswissenschaften an der University of Pittsburgh ab und setzte seine Ausbildung in Harvard fort.