他是参谋部的军官，曾于1916年参加凡尔登战役。 1936年，他被晋用为陆军上将。1937年奉命指挥第6军团；该军团后来改编为第4军团。1939年他指挥该军团攻入波兰。尽管他反对进攻西线，但他仍在法国战役中率领第4军团进攻阿登。1940年7月被晋升为陆军元帅后，他在1941年6月22日开始的巴巴罗萨行动中继续指挥第4军团；在这段时间他与古德里安因进攻战术上的分岐及古德里安经常违反他的命令而双方关系恶劣。当冯·博克在1941年12月被解除中央集团军群的指挥权后，克鲁格被晋升为集团军群司令官直至1943年