Knudsen var en av arkitektene som ble engasjert til å delta i gjenoppbyggingen av Ålesund etter den store bybrannen i 1904. Han tegnet blant annet Ålesund kirke, som stod ferdig i 1909. Senere tegnet han den nye bankbygningen til Hønefoss Sparebank (1915). Tilbake i Oslo – den gang Christiania – tegnet han Markus kirke, som ble innviet i 1927.