Allerede 20. januar iverksatte tyskerne sin andre offensiv, denne gangen sør for byen hvor de lyktes i å slå et 20 km stort hull i de sovjetiske linjene. Framrykningen nådde fram til Donau og truet dermed de sovjetiske forsyningslinjene. Stalin beordret sine styrker til å holde posisjonene, uansett kostnader, og de etter hvert utmattede tyske styrkene visste at de ikke kunne klare å holde på de nylig erobrede områdene. De anmodet derfor forgjeves Hitler om å få slå seg ut av byen. Hitler nektet dem dette, og de var da fortapte. 28. januar måtte de trekke seg tilbake inn i byen uten håp om å komme ut.