רוקוסובסקי התבלט כאחד המפקדים המוכשרים ביותר של הצבא האדום בקרבות 1941. ב-14 ביולי 1942, זמן קצר לאחר פתיחת מתקפת הקיץ הגרמנית בדרום רוסיה, הוא מונה למפקד חזית וורונז', וכוחותיו הצליחו למנוע מהגרמנים לנצל את כיבוש העיר וורוניז', ממזרח לנהר הדון, כדי להתקדם לאזור סראטוב-טמבוב. ב-30 בספטמבר 1942 מונה רוקוסבסקי למפקד חזית הדון, שהחזיקה בקו החזית מצפון לעיר סטלינגרד. בנובמבר של אותה שנה השתתפה החזית שלו במתקפת הנגד הסובייטית, שהביאה לכיתור הכוחות הגרמניים באזור סטלינגרד, ובינואר 1943 הוא מונה למפקד הכוחות הסובייטיים, שביצעו את המתקפה הסופית על הכוחות הגרמניים הנצורים בסטלינגרד, והשמידו את הארמייה הגרמנית השישית.