ב-1935–1936 פיקד על החזית הדרומית במלחמה האיטלקית-אתיופית השנייה. כוחותיו פלשו לאתיופיה מסומלילנד האיטלקית, והוא פיקד על הכוחות האיטלקיים בקרבות ג'נאלה, דוריה ואוגדן. הכוח הפולש של גרציאני היה כוח משני לכוח העיקרי שפלש מאריתריאה בפיקודו של אמיליו דה בונו, ולאחר מכן בפיקוד המרשל פייטרו באדוליו. היה זה באדוליו ולא גרציאני שנכנס לאדיס אבבה ב-5 במאי 1936 וזכה בתהילה הכרוכה בכך. עם זאת, ניתן לגרציאני התואר מרקיז מנגלי והוא קודם לדרגת מרשל על תפקידו בפיקוד על זרוע הפלישה הדרומית.