中国国民党，之后到福建许崇智处改造军队。1924年1月，作为浙江省代表参加了国民党第一次全国代表大会。会后参加黄埔军校筹建工作。1924年6月，黄埔军校正式开学，任黄埔军校管理部卫兵长。1924年12月，黄埔军校教导二团成立，担任一营党代表。国民革命军第一次东征时，调为第二营营长。1926年5月，到黄埔军校第四期政治科担任大队长。在此期间，他对胡宗南多有提携。北伐战争开始后，任国民革命军总司令部政治宣传大队长、总司令部副官处长、第六十七团团长、东路军前敌总指挥部政治部主任等职。 1927年蒋介石发动四一