Follo FK startet i 3. divisjon for 2001-sesongen, og rykket direkte opp i 2. divisjon, etter å ha slått LSK 2 i kvalifiseringen. Da var det under ledelse av Hans Knutsen og Aksel Bergo. I 2002 ledet den nevnte duoen det nyopprykkete laget til en respektabel 3.-plass. I 2003 satset klubben på to ex. spillere. Erland Johnsen og Sindre Rekdal tok over roret og etter en meget rotete 2003-sesong hvor det ikke ble avgjort før i siste seriekamp i forhold til nedrykk.