大久保利通的门徒，并伴随他到北京和清朝在牡丹社事件方面谈判。在大久保利通遇刺后，他跟从伊藤博文和岩仓具视工作，并成了元老院的一员。
官僚生活.在1875年，井上毅利用他在欧洲的所见所闻和外语能力，以及岩仓具视的支持，从普鲁士和比利时两国的宪法中抽取精华，并翻译成《帝国宪法》这巨作。岩仓具视更鼓励他帮忙起草新日本宪法。他又参与皇室典范及教育敕语的制定工作。在1877年至1888年间，他进入了内阁，地位不断攀升。井上毅于1890年成了枢密院的一分子，并在1893年至1895年期