Den første sesongen etter nedrykket fra Tippeligaen endte på en fjerde plass for klubben. Året etter gjorde man sin verste sesong på over tjue år og rykket ned til 2. divisjon etter en begredelig høstsesong der laget kun tok 12 poeng på de siste nitten kampene. I 2003 kom Vegard Skogheim inn som trener og tok laget ubeseiret gjennom sesongen med tjueto seire, fire uavgjort og 70 poeng. En poengrekord for 2.divisjon som fortsatt står seg. Over 5000 tilskuere så for øvrig toppkampen på Gjemselund mot tabelltoerUll/Kisa det året. Sesongen etter endte med tredjeplass og kvalifiseringsspill for opprykk til Tippeligaen, som man tapte over to kamper mot Bodø/Glimt.