לאחר סיפוח אוסטריה לגרמניה הצטרף ראוס לוורמאכט, ומונה לראש מטה המחוז הצבאי ה-17 בווינה, ומשום כך לא השתתף בפלישה לפולין ובמערכה על צרפת. ביוני 1940 מונה ראוס למפקד הרגימנט ה-243 שהפך ב-15 ביולי לרגימנט הממונע ה-4, וב-15 באפריל 1941 מונה למפקד חטיבת הרובאים ה-6 שהייתה חלק מדיוויזיית הפאנצר ה-6. במהלך מבצע ברברוסה פעלה הדיוויזיה כחלק מקורפוס הפאנצר ה-41 בארמיית הפאנצר הרביעית שפעלה בגזרה הצפונית. החטיבה בפיקוד ראוס פרצה את קו סטלין והתקדמה בלטביה ואסטוניה עד לפאתי לנינגרד. ב-7 בספטמבר מונה ראוס למפקדה בפועל של דיוויזיית הפאנצר ה-6, ב-15 בספטמבר הועברה הדיוויזיה לקבוצת ארמיות מרכז, והשתתפה בקרב על מוסקבה כחלק מהקורפוס הממונע ה-56 בארמיית הפאנצר השלישית. הדיוויזיה יחד עם דיוויזיות נוספות כיתרה 400,000 לוחמים סובייטיים בכיס ויאזמה. במהלך מתקפת הנגד הסובייטית פיקד ראוס על הגנה מוצלחת של הדיוויזיה וכוחות נוספים שסופחו לה כנגד הרוסים. באפריל 1942 נשלחה הדיוויזיה למנוחה בצרפת, שם מונה ראוס למפקד הדיוויזיה באופן רשמי ב-29 באפריל. ב-24 בנובמבר 1942 הועברה הדיוויזיה לחזית המזרחית והוכפפה לקורפוס הפאנצר ה-57, עמו השתתפה במבצע סערת חורף לחילוץ הארמייה השישית מסטלינגרד. ב-10 בפברואר 1943 מונה ראוס למפקד הקורפוס ה-11 ופיקד עליו בקרב חרקוב השלישי ובקרב קורסק. לאחר הכישלון בקרב קורסק הגן הקורפוס שבפיקוד ראוס על נסיגת הכוחות הגרמניים אל מעבר לנהר הדונייץ, ולאחר מכן לחם בקרבות הנסיגה אל נהר הדנייפר. ב-4 בנובמבר 1943 מונה ראוס למפקד קורפוס הפאנצר ה-47, וב-10 בדצמבר 1943 מונה ראוס למפקד ארמיית הפאנצר הרביעית, ופיקד על הארמייה בבלימת המתקפה הסובייטית, לא מעט מהצלחת הארמייה נבעה מתפקוד מפקד קורפוס הפאנצר ה-48 הרמן באלק. ב-21 באפריל 1944 מונה ראוס למפקד ארמיית הפאנצר הראשונה במקום גנרל הנס הובה שנהרג בתאונה, וב-15 באוגוסט 1944 מונה למפקד ארמיית הפאנצר השלישית. ב-10 במרץ 1945 הודח ראוס מתפקידו על ידי היטלר, בעקבות כישלונו בבלימת הרוסים בקו האודר, וב-14 במאי נפל ראוס בשבי האמריקאי.