I 2003 prøvespilte han for Brann, men han valgte å legge opp som fotballspiller etter at Brann gjorde det klart at de ikke trengte ham lenger. I 2004-sesongen var Soltvedt assistenttrener for 2.-divisjonslaget Hovding. Planen var at han skulle overta som hovedtrener sesongen etter, men uenighet med klubben førte til at det ikke skjedde. Istedenfor gjorde Soltvedt comeback som spillende trener for 5.-divisjonslaget Kvernbit i 2005.