联邦祖武夫（现，，）的一个波兰贵族家族庄园内出生了，因为18世纪时普奥俄三国瓜分波兰，毕苏斯基出生时这里归俄罗斯帝国所有，而现在此地则属于立陶宛什文乔尼斯自治区。毕苏斯基家族是一个拥有波兰爱国传统的没落贵族家族，这个家族可能是波兰人家族也可能是波兰化的立陶宛人家族。约瑟夫是家里的次子。毕苏斯基在维尔纽斯的俄罗斯文科中学就读，当时他并不是一个特别勤奋的学生。讽刺的是，毕苏斯基的学弟中有一位正是将来的共产主义者费利克斯·捷尔任斯基，后来两者成为政敌。约瑟夫·毕苏斯基与他的兄弟亚当、布罗尼斯瓦夫和扬一起在他们