士服部重文之次男，幼名総吉。爱知一中、东京帝国大学法学部第一届毕业。后来加入三菱总公司。1886年与该公司会长岩崎弥太郎之长女结婚。1888年进入政界，后为伊藤博文所借重。大隈重信担任外相时，加藤对当时的条约修改，贡献良多。1894年出任驻英公使，主张英日同盟。自1900年，历任伊藤第四次内阁、西园寺第一次内阁，以及桂太郎第三次内阁的外相。1913年，参加桂太郎之立宪同志会，桂逝世后，加藤继任该会总裁。1916年，将立宪同志会改组为宪政会。当1914年担任大隈内阁的外相时，主张对内增强军备，对外参加第一