Ông tham gia kháng chiến chống Pháp ở liên khu 3, cùng người bạn học là nhạc sĩ Nguyễn Hiền. Theo lời kể của Phạm Duy, trong thời gian ở Lào Kai, ông có cùng Ngọc Bích hát tại quán Biên Thùy và còn tiếp tục đi cùng nhau vài năm sau đó.