后，在木户孝允、大久保利通和细田道一的领导下负责处理外交事务。历任外国事务局交涉员、判事，兵库县知事，会计官权判事，大藏少辅兼民部少辅，工部大辅等职。
四度拜相.1885年12月根据他的建议废除太政官制，实行内阁制，出任首届内阁总理大臣兼宫内大臣，并开始起草宪法的任务。被誉为“明治宪法之父”。1894年，伊藤博文参与策划了日本对朝鲜王朝的战争和中日甲午战争，战后代表日本与清朝代表直隶总督兼北洋通商大臣李鸿章等人签订《马关条约》，将台湾和澎湖纳入日本版图。1898年，清廷戊戌