I september 1939 skickades Krebs till Moskva för att delta i förhandlingarna med Kreml om delandet av Polen. Efter sin befordran till överste i oktober 1940 skickades Krebs till Moskva för att bistå den tyske militärattachén Ernst-August Köstring, men på grund av Köstrings sjukdom kom Krebs i praktiken att agera militärattaché fram till tyskarnas invasion av Sovjetunionen i juni 1941. Krebs själv var troligen emot kriget med Sovjetunionen. Istället var han en stark förespråkare för ett tyskt-ryskt samarbete och han kände flera ledande militärer i Röda armén.