הדיוויזיה הוקמה בגראץ ב-1 באפריל 1938, על בסיס הדיוויזיות ה-5 וה-7 של הצבא האוסטרי. תחת פיקודו של אדוארד דיטל, לחמה הדיוויזיה במהלך הפלישה לפולין כחלק מהקורפוס ה-18 במסגרת הארמייה ה-14. הדיוויזיה לקחה חלק פעיל במערכה בנורווגיה, והונחתה דרך הים בהרי הצפון. ב-28 במאי 1940 חזרו בעלות הברית בפיקודו של אוטו רוגה וכבשו את נרוויק. דיטל פתח בהתקפה, וב-8 ביוני נסוגו בעלות הברית מהעיר. כוחותיו של רוגה נכנעו בפני הדיוויזיה ההררית השלישית ב-12 ביוני. לאחר מכן הוכפפה הדיוויזיה לקורפוס ההררי נורווגיה, ולחמה במסגרת "מבצע אייל" שהתרחש במקביל למבצע ברברוסה. במבצע זה, הגרמנים, בשיתוף פעולה עם פינלנד, כבשו את עיר הנמל האסטרטגית פטסאמו מידי ברית המועצות.