1889年，佐世保镇守府开厅，加藤任初代长官赤松则良的传令使，踏上了其军队行政生涯的第一步。1891年7月至1893年3月，加藤重新回到舰上，担任无防护巡洋舰水雷长以及炮术长。其后加藤作为伏见宫博恭王赴德留学的随行人员，到德国出差，也因此没有参加甲午战争，战争结束后才回到日本。回国后先后任防护巡洋舰严岛的水雷长，以及常备舰队参谋等职务。1897年8月，任海军大臣（海相）西乡从道的秘书官。加藤深得西乡的信赖，在西乡升任海军元帅后，也继续留用加藤，前后一年半时间都跟随自己左右。期间加藤晋升为海军中佐。