Norges nye landslagssjef ble den gamle storspilleren Åge Hareide, som kom fra trenerjobben i Rosenborg og ble ansatt i januar 2004. Hareides «Nye Norge» vant sine seks første kamper. Riktignok var mange av disse kampene mot annenrangs motstand, men de gode resultatene skapte uansett ny entusiasme rundt landslaget. I kvalifiseringen til VM i 2006 ble resultatene svært varierende, fra en imponerende 3–0 seier over Slovenia til en skuffende uavgjort mot Moldova og hjemmetap for Skottland. Norge endte til slutt på andreplass i gruppen, bak Italia, og måtte ut i playoff igjen, denne gangen mot . Norge leverte en hederlig innsats i Praha, etter en svært dårlig kamp på Ullevaal. Begge kampene endte imidlertid med ettmålstap, og dermed måtte Norge nok en gang bli hjemme.