בשנת 1782 התגייס יוהאן יוזף לצבא הקיסרי, ובשנת 1783 הצטרף לרגימנט קירסירים. בשנת 1790 מונה יוהאן יוזף למפקד גדוד ברגימנט פרשים קלים, ולחם עמו במהלך המלחמה העות'מאנית-רוסית (1787–1792). בהמשך נלחם יוהאן יוזף במלחמת הקואליציה הראשונה, והשתתף בקרב אבסנה-לה-סי. בשנת 1794 הועלה יוהאן יוזף לדרגת גנרל מיור, ולאחר מכן הוא פיקד על חטיבה בקרב פלריס ובקרב וירצבורג. ב-19 ביוני 1799 לחם יוהאן יוזף בקרב טרביה, וב-15 באוגוסט הועלה לדרגת לוטננט פילדמרשל. לאחר מכן לחם יוהאן יוזף עם כוחותיו בקרב נובי, וב-4 בדצמבר כבש את קונאו. ב-3 בדצמבר 1800 לחם יוהאן יוזף בקרב הוהנלינדן, ולאחר מכן פיקד על נסיגת הצבא.