Dzerzjinskij ble kommunist allerede under sine gymnasstudier i Wilno, der han studerte fra 1887 til 1895. En av de eldre studentene der var hans senere erkefiende Józef Piłsudski.