I 1941 ble han utnevnt til oberst og før operasjon Barbarossa var han militærattache i Moskva. Dette oppholdet medførte at han var en av få tyske offiserer som hadde hatt nær kontakt med og blitt vennskapelig slått på skulderen av Josef Stalin, noe som blant annet skyldtes at Krebs snakket russisk.