幼年本来有志于科举，光绪三十年（1904年）清廷废除科举制，他遂辍学经商，赴兖州城内的沽衣市街（位于中御桥西），进入延盛沽衣店向亲戚学做生意，因打碎店中茶壶受责，乃辞职当兵。他进入袁世凯在小站编练的新建陆军，不久因善于书写小楷而升任司书生，获保送入保定陆军军官学校。后来他又从天津武备学堂炮兵科和参谋学堂（北京陆军大学的前身）毕业。毕业后，他最初在北京的禁卫军参谋处任二等参谋，后升少校参谋，其间曾三次到日本考察军事及观摩演习。1911年武昌起义后，随冯国璋赴前线镇压，任第一军司令部机要参谋官，获得冯国璋信