一方、市民からは独裁政権下における統制の象徴と目された。冷戦が崩壊した1989年11月、ワルシャワではジェルジンスキーの銅像が市民により引き倒されたほか、1991年8月にソ連の守旧派によるクーデターが失敗に終わるとKGB本部前に建てられていた銅像も取り壊された。また新たに成立した民主主義政権からも負の遺産としてあまり良好な評価は得ていなかった。