Rekdal overtok som spillende hovedtrener i Vålerenga Fotball etter Tom Nordlie i 2001, og under hans ledelse rykket klubben opp til Tippeligaen samme år. Året etter ledet han også laget til seier i cupen. I 2003 havnet Vålerenga på plassen som ga nedrykkskvalifisering, der møtte de Sandefjord, og Rekdal scoret selv ett av målene som gjorde at Vålerenga sikret plassen. I 2004 tok han Vålerenga til sølv i Eliteserien, før de i 2005 ble seriemester for første gang siden 1984.