Józef Piłsudski z rodu Piłsudských se narodil 5. prosince 1867 na panském sídle Zułów (rus. "Зулов") poblíž vesnice Zułowo (lit. "Zalavas"; rus. "Залавас") ve Vilenské gubernii Ruského impéria, do rodiny s vlasteneckými tradicemi. Otec, Józef Wincenty (1833–1902), byl v době lednového povstání v roce 1863 okresním komisařem Národní vlády v Kovenské gubernii, matka, Maria z Billewiczů (1842–1884), pocházela ze známého šlechtického rodu Mogiła. Rodiče se vzali těsně před povstáním.