I 1933 bad Hermann Göring ham om hjelp til å gjenoppbygge et tysk luftvåpen, Luftwaffe. I 1934 ble Greim kommandant for den første jagerflyverskolen siden den hemmelige skolen i Lipetsk ble stengt under Weimarrepublikken. Årsaken til hemmeligholdet var at Tyskland ifølge Versaillestraktaten ikke hadde anledning til å ha et luftvåpen.