Phạm Đình Chương được nhiều người chỉ dẫn nhạc lý nhưng phần lớn vẫn là tự học. Trong những năm đầu kháng chiến, ông cùng các anh em Phạm Đình Viêm, Phạm Thị Quang Thái và Phạm Thị Băng Thanh gia nhập ban văn nghệ Quân đội ở Liên Khu IV.