אחרי קמפיין מאכזב ביורו 2000 של הנבחרת הגרמנית תחת הדרכתו של אריך ריבק, התאחדות הכדורגל הגרמנית בחרה בפלר כמאמן החדש, על אף שלא היה לו רישיון אימון. תחילה תוכנן שיאמן שנה אחת בלבד, אך חוזהו הוארך לאחר שמחליפו המיועד, כריסטוף דאום, היה מעורב בפרשיית סמים. הארכה זו ניתנה על אף תבוסה של גרמניה 5:1 לנבחרת אנגליה במוקדמות מונדיאל 2002, שבגינה גרמניה נאלצה להתמודד בפלייאוף העלייה למונדיאל מול נבחרת אוקראינה. למרות זאת, פלר הוביל את הנבחרת, שהציגה כדורגל התקפי מאוד והייתה מאוזנת בכל העמדות, עד לגמר מונדיאל 2002, בו הפסידה 2:0 לנבחרת ברזיל. לאחר מכן, פלר אימן את גרמניה גם ביורו 2004, בו נחלה הנבחרת הגרמנית כישלון, והודחה כבר בשלב הבתים. פלר התפטר מתפקידו לאחר הטורניר.