Cuando Gladstone formó su tercer gobierno en 1886 Baring fue apartado de él debido a las diferencias que habían surgido entre ambos; tras ello, se retiró de la vida política.