Ocupó importantes cargos políticos y militares durante los reinados de los últimos tres zares de Rusia. Fue General Adjunto en tiempos del reinado de su padre, senador en 1868 y miembro del Consejo de Estado desde 1872. En tiempos del reinado de su hermano Alejandro III fue miembro del Consejo de Ministros, comandante del Cuerpo de Guardias Imperiales y Gobernador Militar de San Petersburgo. Cuando su sobrino Nicolás llegó al trono fue uno de los que trató de ejercer una influencia decisiva a principios de su gobierno. Tras los sucesos del Domingo Sangriento de 1905 su reputación cayó en picado frente al zar, lo que lo mantuvo en constantes disputas familiares hasta su muerte, sobre todo debido a la caída en desgracia de su hijo Cirilo.