El 22 de junio de 1941, el Ejército alemán ataca a la URSS en un amplio frente, desde el Báltico hasta el mar Negro. El nombre en clave del ataque es "Operación Barbarroja". Desde el inicio de la ofensiva, el Ejército rumano toma parte activa junto a los alemanes. En total, 473 000 soldados rumanos participan en la ofensiva, encuadrados en el  y 4.º Ejércitos rumanos. De entre las tropas del Eje, se trata del contingente más numeroso, con la exclusión evidentemente de los propios alemanes. Las tropas rumanas atraviesan el río Prut y, junto a los alemanes, recuperan la Besarabia cedida poco antes a los rusos, para luego conquistar la ciudad ucraniana de Odesa (), así como Sebastopol. Los rumanos tomaron parte esencial en el dispositivo de sitio de Odesa, finalizado el 14 de octubre de 1941 con la evacuación de la ciudad por parte del Ejército Rojo.