Ved slutten av annen verdenskrig planla og utførte han den etniske rensningen av de østlige delene av det daværende Tyskland, hvor mellom 12 og 15 millioner mennesker ble fordrevet fra det som hadde vært deres hjemland i århundrer. Denne prosessen foregikk svært brutalt, det antas at mellom to og tre millioner sivile døde som direkte følge av fordrivelsene. Stalin overlot disse tyske områdene til Polen, bortsett fra det nordlige Østpreussen som ble annektert av Sovjetunionen og gitt det nye navnet Kaliningrad oblast (etter det nye navnet på den gamle byen Königsberg).