Ved krigens avslutning ble han såret i et voldsomt bombeangrep på Zossen hvor Oberkommando des Heeres hadde sitt hovedkvarter, og hvor han var Heinz Guderians nestkommanderende i generalstaben. Og da Guderian fikk sparken av Hitler 28. mars 1945, ble Krebs sjef for generalstaben.