Hans maktimperium gikk tapt med Den røde armés gjenerobring av Ukraina i løpet av 1944, hvorpå Koch vendte tilbake til Øst-Preussen. Han gikk inn for å holde området mot sovjetiske styrker for enhver pris. Der utmerket han seg blant annet gjennom sin sabotering av de tyske forsøkene på å evakuere lokalbefolkningen i tide, slik at den kunne skånes for hevnen fra de sovjetiske soldatene, som nærmet seg grensen til Øst-Pressen. Koch forbød folk å flykte vestover. Da de sovjetiske styrkene krysset grensen var det noen tjenestemenn som ignorertes Kochs instruks og ga folk beskjed om å flykte. Selv flyktet han i slutten av april 1945 vestover til Schleswig-Holstein med båt, like før de siste tyske brohodene i Øst-Preussen ble inntatt av Den røde armé. Han gikk i dekning under navnet Berger og klarte å holde seg skjult til 1950. Høsten 1944 var områdene i øst gjenerobret av sovjetiske styrker og Hinrich Lohse og Koch hadde flyttet tilbake til selve Tyskland. Mot slutten av krigen forsøkte Koch og Lohse å få plass om bord på ubåt for å flykte til Sør-Amerika. Ved krigsslutt gikk Koch i dekning, og klarte å holde seg på frifot frem til han ble oppdaget og arrestert av britene utenfor Hamburg i mai 1949.