I 1883 var Bang satt inn i en kommisjon til bedømmelse av utkast til en ny katekismusforklaring til avløsning av den dengang fortsatt anvendte, helt foreldede Pontoppidanske. Dette ledet til at han selv utarbeidei en ny oversettelse av Luthers lille katekismus (1890) og en ny (1891), og så en på lærerstanden beregnet (1891), en (1891) og en vitenskapelig kommentar til disse undervisningsbøker i en omfangsrik samling (1893; bind II utgitt av Sigurd Odland, 1899). Dessuten deltok han fra 1892 i kommisjonen for en ny norsk bibeloversrttelse, fra 1896 som kommisjonens formann.