藩士川岛良显与妻子荣子的长子。1875年一家移居东京，进入东京外国语学校学习中文。1886年从该校退学，同年渡海前往上海，游历中国各地。1889年因病归国。1894年清日甲午战争爆发，川岛浪速以陆军翻译官的身份从军，转战中国大陆和台湾。1896年为台湾总督乃木希典所赏识，成为台湾总督府官吏。1900年中国发生义和团之乱后，再次以陆军翻译官的身份，加入八国联军中的日本派遣军。八国联军攻入北京后，兼任军政事务官，负责警察事务。翌年八国联军将北京的行政权交还中国，清廷以其表现优异，拜为北京警务学堂的学长，