Fra juli 2006 ble By Rise assistenttrener på det , etter at Stig Inge Bjørnebye sluttet for å bli trener for . Først var han assistent med Åge Hareide som hovedtrener, deretter med Egil Olsen som hovedtrener. Da Olsen ble erstattet med Per-Mathias Høgmo i 2013, fikk ikke Ola By Rise fortsette. Fra 8. juni 2015 og ut sesongen 2015 var han hovedtrener for Ranheim.