教堂于1912年由最早来华的西方差会伦敦会传教士祁理信牧师创建，最初在上西关万善里（今西华路东段）租赁平房开设福音堂。1920年代初购买芦荻西50号地藏庵废址，兴建芦荻巷礼拜堂，1926年建成，风格中西合璧，融合有巴洛克风格。当时，广州长老会、伦敦会、公理会等教派的十余座教堂加入了中华基督教会广东协会，遂命名为中华基督教会万善堂，以纪念发源地万善里。万善堂为伦敦会在广州所开辟的两座教堂之一（另一座为惠爱堂），人们称之为“兄弟堂”。惠爱堂之教友多为社会上层人士和知识分子；万善堂则为一间穷教会，其教友多为店