Diese Funktion übte Hareide allerdings nur von Januar bis Dezember 2003 aus, ehe ihn der norwegische Verband als Nachfolger von Nils Johan Semb zum Trainer der Nationalmannschaft beförderte, die kurz zuvor die Qualifikation für die EM 2004 verpasst hatte. Doch auch unter Hareide gelang es der Mannschaft nicht, sich für die nächste Großveranstaltung zu qualifizieren: In der Qualifikationsgruppe zur WM 2006 in Deutschland belegte Norwegen Platz zwei hinter Italien und scheiterte im Anschluss in den Play-off-Spielen an Tschechien. Am 8. Dezember 2008 trat Hareide zurück.