Fra 1927 var Rubach også involvert i korpsmusikk i Harstad, blant annet var han med å stifte Harstad Guttemusikkorps (nåværende Harstad Janitsjar). Han var også dirigent for strykeorkesteret til U.L. Solhov på Lundenes samt sangkorene Vaarbud, Lurlokk og Harstad Baptistkor.