Khi Chính phủ Nguyễn Bá Cẩn được thành lập ngày 14 tháng 4 năm 1975, ông giữ chức vụ Phó Thủ tướng đặc trách Thanh tra kiêm Tổng trưởng Quốc phòng. Tuy nhiên, Chính phủ chỉ tồn tại được 10 ngày thì đổ. Ngày 27 tháng 4 năm 1975, ông ra trước Quốc hội trình bày thực trạng quân sự, thuyết phục các nghị sĩ ủy nhiệm cho tướng Dương Văn Minh làm Tổng thống nhằm tìm một giải pháp về chính trị để thương thuyết với đối phương. Tuy nhiên mọi việc đã quá trễ. Ngày 28 tháng 4, khi Chính phủ Vũ Văn Mẫu thành lập, ông là người thay mặt cho Chính phủ cũ để bàn giao.