ב-15 בנובמבר 1941 הוקמה הארמייה ה-28 בפעם השנייה כחלק מעתודת הסטאבקה והוצבה בגדה המזרחית של נהר הוולגה מצפון-מזרח למוסקבה, כדי להגן על האזור המבוצר של ירוסלבל. ב-10 באפריל 1942 הועברה הארמייה דרומה וסופחה לחזית הדרום מערבית. היא ספגה אבדות כבדות ביותר במהלך קרב חרקוב השני (12-29 במאי) ובשלב הראשון של מתקפת הקיץ הגרמנית באזור וורוניז'-וורושילובגרד. ב-17 ביולי הועברו היחידות הנותרות של הארמייה תחת פיקוד חזית סטלינגרד החדשה, ובסוף החודש פורקה מפקדת הארמייה בשנית ושרידיה סופחו לארמייה ה-21.