Als Marschall Pietro Badoglio im Dezember 1940 vom Posten des Generalstabschefs der Streitkräfte zurücktrat, übernahm Cavallero diese Aufgabe und versuchte umgehend, die für Italien extrem negative Entwicklung der militärischen Lage im Griechisch-Italienischen Krieg in den Griff zu bekommen. Er begab sich selbst nach Albanien und schaffte es dort, den griechischen Vormarsch zu stoppen. Nach diesem unglücklichen Feldzug forderte er im Frühjahr 1941 eine Neuordnung der militärischen Führungsstrukturen. Mit einem Gesetz vom 27. Juni 1941 wurde der Generalstab der Streitkräfte ("stato maggiore generale") nachhaltig aufgewertet und in "Comando Supremo" umbenannt, dem es unter Cavallero nach und nach gelang, eine einheitlichere Führung der militärischen Operationen zu erreichen.