外相岸信介的秘书，并辞去新闻社的工作；隔年，岸信介成为首相，他亦转任为首相秘书官。1958年，首次当选衆议院议员（山口县），历任农林政务次官、农林大臣、自民党国会对策委员长；1977年，担任福田内阁的官房长官，尔后历任自民党政调会长、通商产业大臣、外务大臣、自民党总务会长及自民党干事长等要职。1982年，安倍晋太郎首次竞选首相，败给竹下登。在中曾根康弘内阁时，安倍晋太郎与前首相竹下登、宫泽喜一并称为中曾根康弘之后的日本政坛“三领袖”。1985年10月20日，蒋介石遗孀宋美龄函电中华民国总统蒋经国