Durante el tercer y cuarto ministerio de Gladstone, igual que en el gobierno de Rosebery de 1894 a 1895, sirvió como Secretario de Estado de Guerra; durante su tiempo en dicho puesto convenció al Duque de Cambridge, sobrino de la reina, para que dimitiese como Comandante en Jefe de las Fuerzas Armadas: esto le hizo ganarse el título de Sir.