Ngày 9 tháng 3 năm 1945, Nhật đảo chính Pháp. Chiều ngày 10 tháng 3, khi gánh hát Đức Huy đang lưu diễn ở Cà Mau, ông cùng hai người trong gánh hát bị mật thám Pháp bắt vào tù do treo cờ Nhật, nhưng đến tối thì được binh lính Nhật trả tự do. Giữa năm 1945 Phạm Duy từ giã gánh hát Đức Huy đến ở nhờ nhà một người bạn tại khu Dakao (Tân Định), Sài Gòn. Ông sinh sống, đi hát tại Sài Gòn rồi gia nhập Thanh niên Tiền phong, làm công tác văn nghệ rồi vào đội Võ trang Tuyên truyền. Tháng 10/1945, sau khi quân Pháp làm chủ Sài Gòn, ông rời Tân Định ra Bắc, về Hà Nội.