לאחר ההתקפה הנאצית על ברית המועצות ב 1941 נתמנה בולגנין להיות חבר בקבינט המלחמה של סטלין ויושב ראש ועדת ההגנה הלאומית בדרגת קולונל, בולגנין הגיע לדרגת מרשל, אך מעולם לא פיקד על גייסות. השבועון טיים הגדיר את בולגנין כ"בירוקרט במדי מרשל". בשנת 1944 נתמנה לתפקיד סגן שר ההגנה ושימש למעשה כסוכן העיקרי של סטלין בצבא האדום. השבועון "טיים" סיפר כי מתלוצצים עליו כי אינו מבחין בין מרגמה להוביצר.