町）出生，是家中三子。父亲是广岛藩低级武士加藤七郎兵卫，俸禄只有13石。初年于广岛藩校修道学习，1884年（明治17年）10月自海军军校毕业，是第7届毕业生。其后于1888年（明治21年）11月自海军大学毕业，是海大的首批毕业生。毕业后获派到巡洋舰「吉野」号担任炮术长，并随舰参与甲午战争的黄海海战。日俄战争时任联合舰队参谋长兼第一舰队参谋长，在日本海海战中与联合舰队司令长官东乡平八郎和参谋秋山真之等人冒着枪林弹雨，一直站在旗舰「三笠」号的舰桥上指挥，激励士气。其后历任海军次官、吴镇守府司令长官、第一舰队