Năm 22 tuổi, ông bắt đầu tham gia hoạt động bí mật cho phong trào Việt Minh chống Pháp. Khi Cách mạng tháng 8 thành công, ông tham gia vào đội tự vệ bảo vệ chính quyền cách mạng. Khi quân Pháp nổ súng tái chiếm Nam Bộ, ông chiến đấu trong các đội quyết tử, đồng thời làm công tác vận động tài chính cho chính quyền Việt Minh, tham gia hoạt động phá hoại cơ sở hậu cứ của quân Pháp trong các vùng bị quân Pháp kiểm soát. Ông được kết nạp vào Đảng Cộng sản Đông Dương năm 1948. Năm 1949, ông được phiên chế thuộc Tiểu đoàn Quyết tử 950 Đặc khu Sài gòn - Chợ Lớn.