Cuando en 1940 Mussolini decretó la entrada de Italia en la Segunda Guerra Mundial al lado del Tercer Reich, Cavallero fue designado comandante en jefe de las fuerzas italianas en Albania; cuando en octubre de ese mismo año Mussolini ordenó la invasión de Grecia, Cavallero fue el jefe máximo de las fuerzas invasoras. Pese a los graves reveses italianos en Grecia, Cavallero fue designado en diciembre de 1940 como jefe del comando supremo de las fuerzas armadas, encargándose de dirigir las operaciones italianas en Grecia, junto con las operaciones en Egipto y en Abisinia contra las fuerzas británicas, reemplazando a Pietro Badoglio.