Nach dem japanischen Angriff auf Pearl Harbor wollte sich Sledge zusammen mit seinem besten Freund Sidney Phillips freiwillig zum United States Marine Corps melden, was aber aufgrund einer nicht vollständig ausgeheilten Herzerkrankung zu diesem Zeitpunkt noch nicht möglich war. Nach dem Abschluss der High School im Mai 1942 besuchte er zunächst kurzzeitig das "Marion Military Institute" in Marion, Alabama. Erst im Dezember 1942 konnte er seinen ursprünglichen Wunsch verwirklichen und in das US Marine Corps eintreten. Nach seiner Ausbildung zum Mörserschützen wurde er der 1. US-Marinedivision zugeteilt. Im Pazifikkrieg nahm er als Private First Class an den Schlachten um Peleliu und Okinawa teil. Seine in einem Neuen Testament festgehaltenen Erlebnisse dienten ihm später als Grundlage für seine Kriegserinnerungen.