במהלך הפלישה לפולין והמערכה על צרפת פיקד גילה על הגדוד ה-1 ברגימנט הארטילריה אס אס ה-5, וב-30 בינואר 1941 הועלה לדרגת שטנדרטנפיהרר. במהלך מבצע ברברוסה היה גילה קצין מטה בדיוויזיית הפאנצר אס אס ה-5, וב-1 באוקטובר 1941 הועלה לדרגת אוברפיהרר. ב-8 באוקטובר 1941 קיבל גילה על פעולותיו את עיטור צלב האבירים של צלב הברזל, וזמן קצר לאחר מכן מונה למדריך ביחידות הארטילריה. ב-1 במאי 1943 הועלה גילה לדרגת בריגדפיהרר, ומונה למפקד דיוויזיית הפאנצר אס אס ה-5. גילה פיקד על הדיוויזיה בקרב חרקוב השלישי, ועל פעולותיו בקרב קיבל ב-1 בנובמבר 1943 תוספת עלי אלון לעיטור צלב האבירים של צלב הברזל, וב-9 בנובמבר 1943 הועלה גילה לדרגת גרופנפיהרר. במהלך קרב קורסון-צ'רקאסי לחם גילה עם חייליו בחירוף נפש, ובמהלך הבריחה מהכיס, ספגה הדיוויזיה שלו אבדות קשות בנפש וציוד. אולם גילה לחם תוך דוגמה אישית, נלחם לצד חייליו, והיה בין האחרונים שיצאו מהכיתור, ועל כך קיבל ב-20 בפברואר 1944 תוספת חרבות לעיטור צלב האבירים של צלב הברזל. לאחר מכן לחמה הדיוויזיה בקובל, וגילה הצליח לשמור על העיר במשך 22 ימים של כיתור רוסי, ולאחר מכן הצליח לחלץ את כוחותיו, ועל כך ב-19 באפריל 1944 קיבל תוספת יהלומים לעיטור צלב האבירים של צלב הברזל.