省工作，前往日本驻伦敦大使馆赴任，和赴欧进行宪法调査的伊藤博文相识。此后，牧野伸顕历任福井县知事、茨城县知事、文部次官、驻意大利公使、奥地利公使等职务。1906年，牧野伸顕在第一届西园寺内阁中任文部大臣，1907年11月4日因外交方面的功绩被授予男爵。1911年在第二届西园寺内阁任农商务大臣、1913年的第一届山本内阁任外务大臣。这个时期的牧野，与伊藤博文及其后継者西园寺公望政见接近，主张对外进行协调外交，强调英美自由主义政治，是立宪政友会资深官僚政治家。一面方依靠萨摩阀在政界、外交界、宫中的势力巩