1901年，蒋百里入读清华学校，继而肄业于成城学校。因获地方官员赏识，受其援助赴日本，先后入成城学校、日本陆军士官学校第十五期学习。期间组织浙籍留日学生成立同乡会，编印刊物《浙江潮》，任首届主编。亦多次参加留日学生的学生运动。1906年蒋百里回国，在赵尔巽幕府任东三省督练公所总参议，但为张作霖等旧军人物排挤。同年去德国实习军事。1910年再回国，得日本士官学校同学良弼提拔，就任禁军管带，后转赵尔巽幕。1911年任东三省督练公所总参议。武昌起义后，同省同届士官同学蒋尊簋任浙督，蒋百里受其邀，任浙江都督府