与蒋介石为好友，1924年1月，蒋介石透过国民党浙江省党部主任沈玄庐，让宣铁吾加入国民党。4月宣铁吾考入黄埔军校第一期，编入学生第三队。后来他加入孙文主义学会，受蒋介石宠信。毕业后，宣铁吾在黄埔军校教导团和国民革命军中历任排长、连长、营长、团长，并曾参加东征和北伐。1927年秋，宣铁吾到青岛土地局任第四科科长。1928年1月，蒋介石在杭州举办军官训练班，收训黄埔军校第六、七期学生，宣铁吾担任第三大队大队长。1928年冬，宣铁吾任中央军校办公厅上校科长、国民政府警卫团团长。1932年，一·二八事变爆发时，