出任德国驻莫斯科大使馆武官，并持续担任此职务直至德国入侵苏联为止。因此，克雷布斯在德军错估红军实力一事中扮演着重要的角色。
第二次世界大战.第二次世界大战期间，克雷布斯曾先后出任数个集团军的参谋长。在东方战线服役时，克雷布斯晋升少将，同时于1942年2月出任第9军团参谋长。1943年3月，克雷布斯升任中央集团军参谋长，并晋升中将；随后又于1944年8月获授步兵上将军衔。1944年9月至1945年2月间，克雷布斯均在西线战场的B集团军群中担任参谋长；1945年2月调任陆军副参谋总长。