Sau khi gia đình trở lại Hà Nội, ông tiếp tục đi học và tốt nghiệp Khoa Ngữ văn, Đại học Tổng hợp Hà Nội năm 1964, được giữ lại làm cán bộ giảng dạy. 
Tháng 9 năm 1971, ông nhập ngũ theo lệnh tổng động viên, vào tham gia chiến đấu tại mặt trận Quảng Trị. Tại đây, ông đã sáng tác bài thơ nổi tiếng "Đêm Trường Sơn nhớ Bác" vào ngày 6 tháng 6 năm 1972.
.