בימים הראשונים לאחר פלישת גרמניה הנאצית לברית המועצות ביוני 1941, השתתף הקורפוס ה-9, יחד עם כוחות ניידים נוספים של החזית הדרום-מערבית, במתקפת נגד על הכוחות המתקדמים של קבוצת ארמיות דרום באזור דובנו. ב-27 ביוני תקף הקורפוס את האגף הצפוני של קבוצת הפאנצר הראשונה וספג אבדות ניכרות. כאשר הצטווה רוקוסובסקי לחדש את המתקפה למחרת, הוא הודיע לממונים עליו, שהחליט על אחריותו להורות לקורפוס לעבור למגננה, בטענה שאין סיכוי למתקפה נוכח העדיפות המכרעת של כוחות האויב. בהתחשב בעברו של רוקוסובסקי מדובר היה בהחלטה אמיצה ביותר. הקורפוס שלו הציב מארב לכוחות השריון הגרמניים המתקדמים, גרם להם אבדות כבדות, והצליח לעכב את התקדמותם למשך מספר ימים. למרות סירוב הפקודה שלו, רוקוסובסקי לא נענש, אלא קודם בזכות הצטיינותו בשדה הקרב לתפקיד פיקודי בכיר יותר. ב-11 ביולי מונה רוקוסובסקי למפקד הארמייה הרביעית, וב-17 ביולי הוא הועבר תחת פיקוד החזית המערבית ומונה לפקד על כוח מאולתר שהורכב משרידי הארמיות ה-16 וה-22, אשר הצליחו לפרוץ את טבעת הכיתור הגרמנית באזור סמולנסק. הכוח שבפיקודו, שקיבל את השם הארמייה ה-16, הגן על מעברות הדנייפר באזור ירצבו, והצליח לבלום את התקדמות קבוצת הפאנצר השלישית מצפון לסמולנסק.