Zu Beginn des Zweiten Weltkrieges diente Devers in Panama und wurde im Mai 1940 Brigadegeneral. Er kommandierte vom 15. November 1940 bis zum 15. Juli 1941 die 9. US-Infanteriedivision in Fort Bragg, North Carolina. Am 14. August 1941 wurde er als jüngster Generalmajor der Landstreitkräfte nach Fort Knox geschickt, um die gepanzerten Streitkräfte zu kommandieren. Während seines Kommandos wuchs diese Truppe von zwei gepanzerten Divisionen auf 16 Divisionen und 63 separate Panzerbataillone. Im September 1942 wurde er Generalleutnant und im Mai 1943 Befehlshaber der US-Armee in Europa mit Hauptquartier in London. Dort organisierte er die Operation Overlord.