Bang skrev og oversatte mange sanger og gav ut to diktsamlinger; I og II. Sangene hans er plukket ut i flere sang- og salmebøker som blir brukt i kirke- og organisasjonsliv, og han er blant annet representert med en salme han har oversatt i og .