Les tropes alemanyes van entrar en acció als Balcans, a l'abril de 1941, quan dos exèrcits, el Segon, comandada pel general Maximilian von Weichs, i el Dotzè, comandat per mariscal Wilhelm List, recolzada pel VII. Fliegerkorps de la Luftwaffe van envair Iugoslàvia i Grècia. El 12. Armee va romandre com a força d'ocupació a Grècia fins a les darreres etapes del conflicte, sent elevat al rang de grup de l'exèrcit (Heeresgruppe E) el gener de 1943; en aquest sentit, la unitat va participar en la campanya del Dodecanès i en la massacre de Cefalònia.