岡部長職
翌年12月に在英国公使館勤務を命じられ(翌月赴任)、臨時代理公使を務めた。1889年(明治22年)12月に外務次官に任じられ、1890年(明治23年)2月に帰国。同年7月10日には貴族院議員(子爵議員)にも選出された。青木周蔵外相の下、条約改正に尽力したが、1891年(明治24年)6月、前月の大津事件の責任をとる形で、特命全権公使に転任した(94年6月迄)。
1897年(明治30年)10月、高等官一等に叙せられ、東京府知事に任じられる(翌年7月迄)。この頃には貴族院会派・研究会の幹事長を務めるなど、貴族院議員の中心人物として活躍していた。そのため、1908年(明治41年)7月には第2次桂太郎内閣の司法大臣(11年8月迄)に任じられ、1911年(明治44年)の大逆事件では、その処理に努めた。1916年(大正5年)4月8日には枢密顧問官に任じられ、同月11日、貴族院議員を辞職した。
その他、鉄道会議議員(1894年)、鉄道国有調査会副会長(1899年)、南満洲鉄道株式会社設立委員(1906年)、臨時仮名遣調査委員会委員(1908年)、法律取調委員会会長(1908年)、学習院評議会会員(1916年)、宗秩寮審議官(1924年)、東京保善商業学校校長等の要職を歴任。晩年は一木喜徳郎と共に大正天皇の側近として宮内省にあった。
1925年(大正14年)12月27日、かねてより患っていた脳梗塞が再発し、72歳で死去。天皇・皇后より祭資が下賜された。墓所は東京都港区の青山墓地。
身の丈180cmを超えるという、いわゆる「六尺豊かな大男」であり当時としてはもちろん、現代日本人男子と比較しても大柄な人物であった。