Fra 1926 til 1930 var Graziani viseguvernør i Kyrenaika i Libya. I 1930 ble han guvernør samme sted, og hadde denne posisjonen fram til 1934, da det ble bestemt at han skulle sendes et annet sted. Året etter, i 1935 ble han guvernør i Italiensk Somaliland.