Como treinador, Hareide ganhou títulos em todos os Escandinavos países, Na Suécia com o Helsingborgs IF, em 1999 , e com o Malmö FF em 2014, na Dinamarca, com o Brøndby em 2001-02 e em seu país natal, a Noruega com o Rosenborg, em 2003. Hareide foi encarregado da Noruega equipe nacional , a partir de 2003 a 2008.