כראש המטה הכללי האיטלקי, נאלץ קאוואלרו לעבוד מקרוב עם גנרלים גרמנים. הוא היה מיודד עם אלברט קסלרינג, אולם היו לו חילוקי דעות עם ארווין רומל. לאחר קרב גזאלה במאי 1942, טען רומל שיש ליזום התקפה גרמנית-איטלקית משותפת נגד מצרים. קאוואלרו התנגד לתוכנית, והציע במקום ליזום פלישה למלטה, לכבוש אותה וכך לאפשר העברת תגבורות ואספקה לכוחות הציר באפריקה. לאחר שהועלה רומל לדרגת גנרל-פלדמרשל, הועלה קאוואלרו לדרגת "מרשלו" המקבילה, כדי שלרומל לא יהיה יתרון על פניו. קאוואלרו התנגד לפיזור הצבא האיטלקי בזירות שונות (מזרח אפריקה, צפון אפריקה וברית המועצות), אולם לא העז להתנגד לדעתו של מוסוליני בנושא. בינואר 1943, בעקבות השמדתו המוחלטת של הצבא האיטלקי באפריקה, והכשלונות האיטלקיים במזרח, הורה מוסוליני על החלפתו של קאוואלרו בוויטוריו אמברוסיו. לאחר שממשלת מוסוליני הופלה בידי המלך והמועצה הפשיסטית העליונה, הורה מנהיג איטליה החדש באדוליו, שכאמור היה אויב וותיק של קאוואלרו, על מעצרו. הוא שוחרר ממעצר בספטמבר 1943, בעקבות הקמת הרפובליקה הסוציאלית האיטלקית. זמן קצר לאחר מכן הוצע לו תפקיד הרמטכ"ל של הצבא החדש בידי ידידו הגנרל הגרמני אלברט קסלרינג.