Ved valget i 1885 vant de konservative og Lord Randolph fikk stillingen som minister for India, året etter ble han finansminister. I desember 1886 gikk han av, hans avgang var et taktisk spill for å utmanøvrere politiske motstandere innen partiet, men han ble selv utmanøvrert og fikk ingen ny stilling i regjeringen.