יוזיאס נולד ב-13 במאי 1896 בארולזן לפרידריך, נסיך ולדק ופירמונט ובטילדיס, נסיכת שאומבורג-ליפה, בתם של וילהלם, נסיך שאומבורג-ליפה ובטילדיס, נסיכת אנהלט-דסאו, והיה אחיינם של אמה, נסיכת ולדק ופירמונט והלנה, נסיכת ולדק ופירמונט, ובן דודם של וילהלמינה, מלכת הולנד וקרל אדוארד, דוכס סקסוניה-קובורג-גותה. בשנת 1914 התגייס יוזיאס לצבא הקיסרות הגרמנית, והצטרף לרגימנט הרגלים ה-83 (נסיכות הבוחר מהסן ה-3 - פון ויטיך), עמו לחם במהלך מלחמת העולם הראשונה, שבה אף נפצע כמה פעמים. ב-13 בנובמבר 1918 התפטר אביו מתפקידו, בעקבות המהפכה הגרמנית והתבוסה במלחמת העולם הראשונה.