Tammikuussa 2004 Hareide siirtyi Norjan jalkapallomaajoukkueen päävalmentajaksi. Hänen johdollaan Norja ei onnistunut selviytymään MM-kisoihin 2006 eikä EM-kisoihin 2008. Hareide sai kuitenkin jatkaa tehtävissään, mutta paineet kasvoivat Norjan aloitettua MM2010-karsinnat kehnosti. Lopulta Hareide erosi tehtävistään joulukuussa 2008.