En septiembre de 1939 Grandi se opuso inicialmente a que Italia entrase en la Segunda Guerra Mundial al lado de la Alemania nazi, pero al empezar la lucha en junio de 1940 comenzó a tejer una muy amplia red de contactos dentro de la administración pública fascista, rivalizando sólo con la del propio ministro de exteriores Galeazzo Ciano. En 1941 fue «movilizado» en las fuerzas armadas y enviado al frente bélico de Grecia brevemente.