Khi Cuộc đảo chính quân sự ngày 11 tháng 11 năm 1960 nổ ra, ông chỉ huy Sư đoàn 21 Bộ binh kéo về Sài Gòn để giải vây cho Tổng thống Ngô Đình Diệm, chống lại nhóm sĩ quan cầm đầu là Đai tá Nguyễn Chánh Thi và Trung tá Vương Văn Đông. Do hành động giải vây trên, ông rất được Tổng thống Diệm tín nhiệm. Đầu tháng 12 năm 1962, bàn giao Sư đoàn 21 Bộ binh lại cho Đại tá Bùi Hữu Nhơn để về tùng sự tại Bộ Tổng Tham mưu. Ngày 6 tháng 12, ông được thăng cấp Thiếu tướng. Mười ngày sau ông được cử giữ chức vụ Tham mưu trưởng Liên quân, thay cho người tiền nhiệm là Thiếu tướng Nguyễn Khánh