1894 trat der hochbetagte Gladstone zurück; er selbst sah William Harcourt als seinen Nachfolger vor, die Liberalen entschieden sich jedoch für Lord Rosebery – auch wegen Königin Victorias Abneigung für ersteren. Die folgende Phase der liberalen Regierung war von einem unsicheren Balanceakt gekennzeichnet. Harcourt trat Roseberys Regierung nur gegen weitreichende Zugeständnisse als neuer Schatzkanzler (Finanzminister) bei. Als Führer der liberalen Regierungsfraktion im Unterhaus unterlief er wiederholt die Führung Roseberys, der im Oberhaus saß. Über Fragen der Außen- und Finanzpolitik waren beide völlig zerstritten. Im Zuge der Armenischen Krise kam zudem Gladstone aus seinem Ruhestand zurück und unterminierte Rosebery, indem er energisch – wie schon im Zuge seiner Midlothian-Kampagne vor dem Hintergrund der Balkankrise 1877/78 – eine militärische Intervention Großbritanniens gegen das Osmanische Reich forderte.