Vid första världskrigets utbrott 1914 var Rommel sedan två år "Leutnant" (fänrik). Han deltog de första dagarna av kriget i området runt Longuyon vid Meuse. I september erhöll han Järnkorset av andra klassen samt blev sårad i ena låret nära Varennes väster om Verdun. Han återkom till sitt förband vid fronten i Argonne efter tre månader och erhöll Järnkorset av första klassen i januari 1915. I september 1915 blev han befordrad till "Oberleutnant" (löjtnant) och sårad i benet en andra gång. I oktober placerades han som kompanichef vid Württembergisches Gebirgsbataillon. Bataljonen blev 1916 förflyttad till rumänska fronten och 1917 deltog han vid offensiven vid Isonzofronten, vid vilken de italienska trupperna led svåra nederlag. I oktober samma år stormade han med sina soldater Monte Matajur i de juliska alperna, vilket var höjdpunkten av hans insatser under första världskriget. I samband med detta erhöll Rommel det tyska kejsardömets högsta militära utmärkelse "Pour le Mérite" (även kallad "Blauer Max"). I januari 1918 blev Rommel placerad vid staben i "generalkommando 64" och blev i oktober befordrad till "Hauptmann" (kapten). Efter krigsslutet återvände han till 124. infanteriregementet i Weingarten.