送赴日本留学，起初入成城学校骑兵连队学习，后入日本陆军士官学校骑兵科并于1904年毕业。他和浙江海宁的蒋方震均精通军事，被章太炎誉为“浙江二将”，当时他们二人又加上蔡锷被并称为“南方三杰”。光绪三十二年（1906年），他在日本东京加入光复会，同年加入中国同盟会并任宣传部长。回国后，1906年（光绪32年），蒋尊簋应浙江巡抚张增敫之邀，到浙江出任新军第二标标统。此后他曾任第一标标统、浙江督练公所教练处帮办、浙江讲武学堂总办。他还在杭州海潮寺创办浙江弁目学堂并任总办，并参与创建了浙江陆军小学堂、浙江炮工学堂