Ông lập gia đình với bà Nguyễn Thị Hường năm 1953. Hai người có với nhau 5 người con (4 gái, 1 trai). Người con gái lớn của ông bà tên là Nguyễn Thị Thanh Phương. Người con trai duy nhất của ông bà là Nguyễn Văn Dũng, sinh năm 1960, đã hy sinh trên chiến trường Tây Nam năm 1979.