Foran 1992-sesongen gikk han til Brann der han i løpet av få år ble en av klubbens mest populære spillere. Etter 1994-sesongen var han på utlån til engelske Stoke, men en permanent overgang gikk ikke i orden. I stedet ble han rett før 1995-sesongen avskjediget av klubben etter beskyldninger om illojalitet mot trener Hallvar Thoresen. En opprivende strid fulgte før Soltvedt dro til Rosenborg, hvor han raskt etablerte seg på laget. Han rakk å få med seg to seriemesterskap (Soltvedt hadde én kamp for lite til å bli seriemester i 1997), et cupmesterskap og kvartfinale i Mesterligaen for trønderklubben før han ble solgt til engelske Coventry City. Senere har han også spilt for Southampton FC og Sheffield Wednesday. I Sheffield Wednesday var han også i noen få uker fungerende manager sammen med lagkamerat David Burrows som en midlertidig løsning.