הארמייה הוקמה לאחר המערכה בנורווגיה, על בסיס הקורפוס ה-21. תפקידה העיקרי של הארמייה הייתה להגן על חופיה האסטרטגיים של נורווגיה. כמפקדה מונה ניקולאוס פון פאלקנהורסט שתכנן מלכתחילה את מבצע כיבוש נורווגיה. באמצע יוני 1941 עבר פאלקנהורסט לרובניימי פינלנד, במטרה לפקד על מבצעים פיניים-גרמניים משותפים, וארמיית נורווגיה הקימה בסיסים גם בארץ זו. בעקבות מספר תוכניות כושלות, חזר פאלקנהורסט לנורווגיה, והכוחות הגרמניים בפינלנד עברו לפיקוד הארמייה ההררית ה-20, שכונתה גם "ארמיית לפלנד". החל מינואר 1942, מפקד היחידה שימש גם כמושל הצבאי של הוורמאכט בנורווגיה (Wehrmachtbefehlshaber Norwegen). בתפקידו זה הורה פאלקנהורסט לחייליו להתייחס לאזרחים בכבוד. בדצמבר 1942 תכנן פאלקנהורסט את מבצע "השועל הארקטי" לכיבוש שוודיה עם 10 דיוויזיות, שלבסוף לא יצא אל הפועל. ב-18 בדצמבר 1944 הודח פון פאלקנהורסט מתפקידו עקב חילוקי דעות עם יוזף תרבופן - הרייכסקומיסר של נורווגיה. ארמיית נורווגיה אוחדה עם ארמיית לפלנד.