Роден е на 17 февруари 1892 година в голямо семейство в украинското село Заздрост (на украински "Заздрист"), тогава в Кралство Галиция и Лодомерия на Австро-Унгария. Баща му е Иван Коберницки-Слипий, а майка му - Анастасия Дичковска. Според традицията семейството носи прозвището "Слипий", тоест "Слепи" от предшественик, който през 1709 година е бил ослепен от руснаците, защото се е сражавал при Полтава срещу цар Петър I на страната на хетман Иван Мазепа и шведския крал Карл XII. Предците на Йосиф Слипий търгували на пазара в Бучачи.