Ngày 5 tháng 1 năm 1964, ông được bổ nhiệm chức vụ Tổng Tham mưu trưởng Quân đội Việt Nam Cộng hòa. Một tháng sau, ông bị quản thúc bởi tướng Nguyễn Khánh làm Chỉnh lý nội bộ, đồng thời tướng Nguyễn Khánh đảm nhiệm luôn chức vụ Tổng Tham mưu trưởng Bộ Tổng Tham mưu và đổi danh xưng chức vụ này thành Tổng Tư lệnh Quân đội.