بعد از این آلمان نتوانست موفقیت خود در جام جهانی ۲۰۰۲ را تکرار کند و در جام ملت‌های اروپا ۲۰۰۴ در دور گروهی حذف شدند و رودی فولر از سمت خود کنار رفت و یورگن کلینزمان به عنوان جانشین او انتخاب شد.