Tuy nhiên, từ năm 1960 trở đi, mối quan hệ giữa ông và Tổng thống Diệm bắt đầu có những rạn nứt. Ngày 8 tháng 12 năm 1962, ông được điều về lại Bộ Tổng tham mưu giữ chức vụ Tư lệnh Lục quân, trên thực tế là một chức vụ không nắm thực quyền, sau khi bàn giao chức vụ Tư lệnh Quân đoàn I lại cho Thiếu tướng Lê Văn Nghiêm. Những người quen cũ của ông ngày nào từng ủng hộ Tổng thống Diệm cũng giữ một chức vụ "quyền lực" không kém: Trung tướng Dương Văn Minh, Tư lệnh Hành quân Bộ Tổng tham mưu, Thiếu tướng Lê Văn Kim, Phụ tá Tư lệnh Bộ Tư lệnh Hành quân, Trung tướng Trần Văn Minh, Chỉ huy trưởng Trường Đại học Quân sự... Cộng thêm tình thế chính trị và xã hội phức tạp của Việt Nam Cộng hòa trong Biến cố Phật giáo 1963, ông dần trở thành một nhân vật quan trọng trong các báo cáo về những ý đồ đảo chính của phân bộ CIA tại Sài Gòn.