争爆发，格莱姆被给予一航空队的指挥官，参与了波兰战役、挪威战役、不列颠战役与巴巴罗萨作战。在1942年末，他唯一的儿子－Hubert Greim，空军联队"红男爵"的一名Bf-109战机飞行员，被列在突尼西亚的失踪名单，他儿子被皇家澳洲空军的一名喷火战斗机飞行员给击落，但跳伞被俘，关在美国的一个监狱直到战争结束。格莱姆最大的战术成就是在库尔斯克会战，这使他获希特勒颁发橡叶带剑骑士铁十字勋章。在1945年4月26日，当苏联红军已迫近柏林，第三帝国已注定战败时，时任一级上将的格莱姆与知名女飞行员汉娜·瑞