Năm 1954, Hiệp định Genève được ký kết, ông được phân công ở lại miền Nam, ban đầu phụ trách bảo vệ cho Lê Duẩn, nguyên Bí thư Trung ương Cục Miền Nam. Năm 1965, ông làm Chính trị viên Tiểu đoàn Hậu cần 123. Năm 1966, do tuổi tác đã cao, ông được Khu ủy miền Tây Nam Bộ rút về công tác tại Ban Tổ chức Khu ủy.