试成秀才。1899年，入浙江求是书院，学「实学」，与钱均夫、厉绥之为同窗。1901年，蒋百里入读清华学校，继而肄业于成城学校。因获地方官员赏识，受其援助赴日本，先后入成城学校、日本陆军士官学校第十五期学习。期间组织浙籍留日学生成立同乡会，编印刊物《浙江潮》，任首届主编。亦多次参加留日学生的学生运动。1906年蒋百里回国，在赵尔巽幕府任东三省督练公所总参议，但为张作霖等旧军人物排挤。同年去德国实习军事。1910年再回国，得日本士官学校同学良弼提拔，就任禁军管带，后转赵尔巽幕。1911年任东三省督练公