时后辈同乡的山本权兵卫开始崭露头角，山本等人的革新派和柴山等保守派的海军派系开始发生争执，柴山等保守派失败失去军权。但柴山作为军事专家以及成绩的积累，人们对他的能力评价很高。明治27年（1894年）7月13日，日清战争开战之际，西海舰队司令长官兼佐世保镇守府司令长官相浦纪道少将推荐柴山以大佐军衔继任佐世保镇守府司令长官。柴山是日本海军史上唯一的大佐军衔镇守府长官。一周后晋升少将。战后的明治30年（1897年）10月8日，柴山晋升中将，被任命为常备舰队（联合舰队前身）司令长官。常备舰队职务卸任后，