Opprydning etter ødeleggelsene og gjenoppbygging begynte kort tid etter at sovjetiske styrker inntok byen. Det ble diskutert å forlate den ødelagte byen og gjenoppbygge den et annet sted. Blant annet i eksilmiljøet i Storbritannia ble det diskutert om Gamlebyen (polsk: ) overhode skulle bygges opp igjen og modernistisk orienterte arkitekter foreslo å benytt anledningen til å reise en moderne by på ruinene. Innbyggerne begynte nokså spontant å rydde gatene og det ble satt i gang innsamling av penger for å betale for gjenreising av Gamlebyen. I forbindelse med gjenreisingen ble det utført arkeologiske undersøkelser på stedet.