Inizialmente chiamato come semplice traghettatore, Völler venne confermato in pianta stabile fino al poiché nel frattempo il selezionatore designato, Christoph Daum del , ebbe problemi di droga e perse così l'occasione di sedere sulla panchina della nazionale. Nel mondiale asiatico la Germania guidata da Völler non sfigurò, riuscendo a raggiungere la finale di Yokohama: pur cedendo al , che vinse 2-0 con due gol di Ronaldo, Völler divenne la terza persona, dopo Mário Zagallo e Franz Beckenbauer, ad avere raggiunto la finale iridata sia da giocatore sia da allenatore. In seguito la federazione tedesca rinnovò la fiducia al commissario tecnico, che fu al comando anche nel : la Germania non riuscì però a passare neppure la prima fase, e tornò a casa dopo sole tre partite (1-1 con i , 0-0 con la e 1-2 con la ); in seguito all'insuccesso, Völler si dimise il 24 giugno 2004.