斯曾先后出任数个集团军的参谋长。在东方战线服役时，克雷布斯晋升少将，同时于1942年2月出任第9军团参谋长。1943年3月，克雷布斯升任中央集团军参谋长，并晋升中将；随后又于1944年8月获授步兵上将军衔。1944年9月至1945年2月间，克雷布斯均在西线战场的B集团军群中担任参谋长；1945年2月调任陆军副参谋总长。
柏林战役.1945年4月1日，克雷布斯升任陆军参谋总长。柏林战役期间，克雷布斯均居住于帝国总理府花园下方的元首地堡中。1945年4月28日，克雷布斯在元首地堡中