Во время Второй мировой войны Абрамс проявил себя блестящим командиром. В сентябре 1942 года ему было присвоено звание подполковника, в сентябре 1943 года он возглавил 37-й бронетанковый полк, который в первых рядах третьей армии генерала Паттона сражался в Западной Европе. Абрамсу приписывают шесть лично уничтоженных за годы войны танков противника, а на счету его подразделения свыше 300 единиц немецкой техники, 150 пушек и 15 танков. Сам Паттон называл Абрамса лучшим командиром танковых войск в американской армии.