I årene 1904–07 arbeidet Rivertz i Ålesund etter bybrannen, og i kompaniskap med arkitekt Heinrich Jürgensen tegnet han flere av byens viktige jugendbygninger. I perioden 1907-09 arbeidet han i Kristiansund, og tegnet der blant annet Norges Banks bygg (1907–1908).