Tuy nhiên, khi còn là thái tử, ông có mối quan hệ không tốt đẹp với nhiều bộ tướng của cha, và sau khi đăng cơ trở thành hoàng đế, các tướng lĩnh này trở nên lo sợ và không hết lòng ủng hộ ông. Ngoài ra, mưu chủ Hác Viện do quá thương tiếc Tiết Cử nên bản thân cũng lâm bệnh mà qua đời. Ba tháng sau khi Tiết Nhân Cảo đăng cơ, Lý Thế Dân suất quân tiến đến, và sau một trận chiến khốc liệt giữa Lý Thế Dân và Tông La Hầu, Lý Thế Dân đã chiến thắng và tiến đánh Tiết Nhân Cảo. Tiết Nhân Cảo buộc phải lui vào trong thành Cao Chỉ (高墌, nay thuộc Hàm Dương, Thiểm Tây), binh sĩ Tần thấy tình thế vậy liền bắt đầu lũ lượt đầu hàng Lý Thế Dân. Bản thân Tiết Nhân Cảo cuối cùng cũng phải đầu hàng. Cuộc chiến giữa phụ tử Tiết Cử-Tiết Nhân Cảo với triều Đường được gọi là chiến tranh Thiên Thủy Nguyên (淺水原之戰).