早年丧父，家境贫苦。有外甥张纪云，黄埔军校一期毕业生，也是民国名将，后剃度出家为僧。早年就读于奉化县柏坑镇高等小学。毕业于浙江省立第四师范学校。毕业后，子承父业，在奉化县剡源高等小学担任教员三年。1924年春，经吴嵎（时任中山舰舰长）、王登云（孙中山广州大本营副官）保荐，投考黄埔军校。1924年5月，抵达广州，入读黄埔军校学习军事，入第一期第二队。黄埔军校毕业后，先后担任黄埔军校教导第一团见习、排长。北伐中，先后担任担任国民革命军总司令部宪兵营排长、连长、参谋（少校军衔），第九师政治训练处主任。