Dzerzjinskij døde av et hjerteslag i 1926. Fram til Sovjetunionens oppløsning i 1991 stod Dzerzjinskijs statue foran Lubjanka. I Belarus’ hovedstad Minsk står en statue av ham på hovedgaten skrått i mot KGBs hovedkvarter. Han har også en by og et fjell i Belarus oppkalt etter seg, begge litt utenfor Minsk og nær hans fødselssted.