Là một trong những sĩ quan cao cấp của Quân đội Quốc gia Việt Nam được chuyển sang Quân đội Việt Nam Cộng hòa, tuy nhiên suốt thời gian từ 1955-1963, ông chỉ được phân công công tác ở các chức vụ không có thực quyền. Điều này có lẽ do thái độ thiếu tin cậy với quá khứ đào ngũ nhiều lần cũng như quan hệ gia đình của ông. Từ đó ông có tâm lý bất mãn và trở thành một trong những sĩ quan cao cấp đầu tiên tham gia âm mưu đảo chính đứng đầu bởi tướng Dương Văn Minh và Trần Văn Đôn. Khi Đảo chính tháng 11 năm 1963 nổ ra, ông được phân công chỉ huy một bộ phận Thiết giáp bao vây Dinh Độc Lập và ngày 2 tháng 11 ông được Hội đồng Quân nhân Cách mạng thăng cấp Thiếu tướng. Một tháng sau, ông được bổ nhiệm chức vụ Tư lệnh Sư đoàn 7 Bộ binh thay thế Đại tá Phạm Văn Đổng. Không hài lòng với vai trò này, ông bí mật tham gia ủng hộ các tướng Nguyễn Khánh, Trần Thiện Khiêm thực hiện Cuộc Chỉnh lý ngày 30 tháng 1 năm 1964, phế truất các tướng lĩnh Dương Văn Minh, Trần Văn Đôn, Tôn Thất Đính, Mai Hữu Xuân, Lê Văn Kim với lý do trung lập. Sau chỉnh lý, ngày 2 tháng 2, ông được tướng Nguyễn Khánh bổ nhiệm chức vụ Tư lệnh Quân đoàn III thay thế Trung tướng Trần Thiện Khiêm sau khi bàn giao Sư đoàn 7 Bộ binh lại cho người bạn cùng khóa Võ bị Viễn Đông là Đại tá Bùi Hữu Nhơn. Đến ngày 7 tháng 4 cùng năm, ông bàn giao Quân đoàn III lại cho Trung tướng Trần Ngọc Tám. Sau đó, ông được tham chính trong Nội các Chính phủ với chức vụ Tổng trưởng Nội vụ thay thế kĩ sư Hà Thúc Ký xin từ nhiệm.