במהלך המערכה בפולין לחם פון טטאו עם הרגימנט שבפיקודו כחלק מהדיוויזיה ה-14, וב-1 במרץ 1940 הוא הועלה לדרגת גנרל מיור. במהלך המערכה על צרפת שוב לחם פון טטאו עם הרגימנט שבפיקודו, וב-14 ביוני 1940 הוא מונה למפקד הדיוויזיה ה-24. במהלך מבצע ברברוסה לחמה הדיוויזיה שבפיקודו כחלק מהקורפוס ה-4 במסרת הארמייה ה-17, והשתתפה בקרב אומן ובקרב קייב, ולאחר מכן אף השתתפה במצור על סבסטופול כחלק מהארמייה ה-11. באוגוסט 1942 הועברה הדיוויזיה לגזרה הצפונית, שם לחמה כחלק מהארמיות ה-16 וה-18 לסירוגין. ב-1 במרץ 1942 הוא הועלה לדרגת גנרל לוטננט, וב-5 במאי הוענק לו על פעולותיו עיטור הצלב הגרמני בזהב. ב-3 בספטמבר 1942 הוענק לו עיטור צלב האבירים של צלב הברזל, וב-1 בספטמבר 1943 הוא מונה למפקד מחנה הדרכה בהולנד, ובמהלך הקרב על ארנהם הוא פיקד על צוות קרב שהוקם מכוחותיו. ב-4 בנובמבר 1944 הוא מונה למפקד הדיוויזיה ה-604, ובאמצע ינואר 1945 הוא מונה למפקד צוות קרב בקולברג. ב-16 במרץ 1945 הוא הועלה לדרגת גנרל חיל הרגלים, וב-5 באפריל הוא קיבל תוספת עלי אלון לעיטור צלב האבירים. בסוף המלחמה נפל פון טטאו בשבי בעלות הברית.