八岁跟随父亲白晓山学习三弦。15岁，向韩永先与韩永禄拜师学艺。不久便享誉曲坛。成名后，他仍向很多名师求教，譬如单弦名家全月如、德寿山、梅花大鼓名家金万昌等人。此后对多种北方曲艺非常熟悉，并锐意改革创新。他演奏三弦、琵琶、四胡、扬琴的技术非常独到。他曾为京韵大鼓名家刘宝全伴奏5年。后来，他帮助胞弟白凤鸣改革京韵大鼓的唱腔，并且编了《击鼓骂曹》、《七星灯》、《罗成叫关》等20多段崭新曲目。自此创立了京韵大鼓的「少白派」。1954年，他担任中央广播说唱团艺术指导的时候，更创立“新梅花调”。