Fra 2004 til 2005 jobbet Grandi som representant for generalsekretæren i United Nations Assistance Mission in Afghanistan. I 2005 begynte han å jobbe for FNs hjelpeorganisasjon for palestinske flyktninger i Midtøsten, hvor han var generalkommissær i perioden 2010-2014.