En el mismo año ingresó en la Wehrmacht, sirviendo como cabo primero ("Unteroffizier") en Polonia y más tarde como oficial de inteligencia en Francia y Yugoslavia, pasando a teniente ("Oberleutnant") en el estado mayor de la 14 División Panzer en Stalingrado. Gravemente herido en esta batalla, Gerlach fue tomado prisionero, siendo uno de los pocos supervivientes. Como Theodor Plievier, describió en un libro las condiciones de vida en la batalla, pero a diferencia de él, Gerlach las vivió desde el bando hitleriano.