Vor der nahenden sowjetischen Front flüchtete die SS-Besatzung des Ghettos im Oktober 1944 aus Riga in Richtung des noch sicheren Danzig. Von dort aus setzte sich Roschmann mit einigen anderen SS-Angehörigen nach Süddeutschland in Richtung österreichischer Grenze ab. Dabei legte er seine SS-Uniform ab und versuchte, in Wehrmachts-Kleidung unterzutauchen. Bei einer Kontrolle hinter der österreichischen Grenze wurde Roschmann bei der Flucht angeschossen. Danach versteckte er sich bis Mitte 1945 bei Freunden im Raum Graz. Nach seiner Genesung tauchte er erneut unter und versteckte sich mit Hilfe seiner falschen Papiere unter anderen Kriegsgefangenen.