Рупник родился в Локве недалеко от Гориции, деревни в тогдашнем австрийском графстве Гориция и Градишка (ныне часть Новой Горицы, юго-западная Словения). Профессиональный солдат, с 1895 по 1899 год он учился в военной пехотной академии в Триесте и получил высшее образование в звании второго лейтенанта. Его обучение продолжалось в Вене с 1905 по 1907 год. После Первой мировой войны он присоединился к Югославской королевской армии в мае 1919 года в звании майора. После этого он рос в звании, став подполковником (1923 г.), полковником (1927 г.), бригадным генералом (1933 г.) и генерал-майором (1937 г.). Когда 6 апреля 1941 года вермахт вторгся в Королевство Югославию, Рупник был начальником штаба 1-й группы армий.