Bugge arbeidet også med kirker. Fra 1903 overtok han som utførende arkitekt for Øvre Vang kirke ved Johan Meyers sykdomsforfall, og han omarbeidet i den forbindelse Meyers tegninger. (Waldemar Hansteen overtok prosjektet da Bugge flyttet til Trondheim i 1905.) I 1937 arbeidet han med undersøkelse av Holtålen stavkirke.