Чемпионат Европы 2004 года, проходивший в Португалии, стоил Руди Фёллеру поста главного тренера сборной. Две ничьи с Нидерландами (1:1) и Латвией (0:0) и поражение от Чехии 1:2 выбили Германию из розыгрыша. Хотя среди претендентов на пост тренера фаворитом был Оттмар Хитцфельд, к домашнему чемпионату мира 2006 года команду готовил бывший игрок сборной Юрген Клинсман. В помощники ему был назначен его будущий преемник Йоахим Лёв. При Клинсманне сборная провела серию контрольных матчей против разных сборных, а также сыграла на домашнем Кубке конфедераций, заняв 3-е место по итогам турнира.