ביולי 1942 מונה הרמון למפקד הדיוויזיה המשוריינת ה-2, ואימן אותה לקראת הקרבות הצפויים. בנובמבר אותה שנה נשלחו חלק מיחידות הדיוויזיה לאלג'יריה במסגרת מבצע לפיד, ובפברואר 1943 סייע הרמון לייצב את הקו בתוניסיה לאחר הכישלון בקרב מעבר קסרין. הרמון מתח ביקורת על תפקודם של לויד פרדנדאל מפקד הקורפוס האמריקני ה-2 וקנת' אנדרסון מפקד הארמייה הבריטית הראשונה, והיה לו חלק בהחלפתו של פרדנדאל בג'ורג' פטון. באפריל 1943 מונה הרמון למפקד הדיוויזיה המשוריינת ה-1, והוא הוביל אותה בשלבי הסיום של המערכה בתוניסיה. לאחר מכן לחם הרמון עם הדיוויזיה בחזית האיטלקית בשטחים שאינם מיועדים לשריון, ואף הוביל אותה בקרב אנציו. ביולי 1944 חזר הרמון לארצות הברית, ובספטמבר אותה שנה מונה שוב למפקד הדיוויזיה המשוריינת ה-2. הרמון פיקד על הדיוויזיה בלחימה בחזית המערבית, ואף מילא תפקיד חשוב במהלך הקרב על הבליטה. ב-23 בינואר 1945 מונה הרמון למפקד הקורפוס ה-22, ולחם עמו בפלישת בעלות הברית המערביות לגרמניה עד סוף המלחמה.