924年5月入黄埔学校第一期第四队，是第一期唯一以少将军衔就读的学员，在黄埔一期中创造了两个纪录：年龄最大、曾任职位最高的学员。毕业后任教导第一团二营五连排长、教导第二团副连长。1925年东征讨伐陈炯明，任粤军第一师少校参谋、第一旅中校主任参谋。当年调陈铭枢第七师第二十九团第一营中校营长。 1926年夏任国民革命军第四军第十师二十九团上校团长。率部参加了北伐战争着名的汀泗桥战役,继而激战玛瑙岭、贺胜桥、武昌城、德安马回岭。1926年10月晋升蒋光鼐第10师副师长。1927年春宁汉分裂时,范汉杰和第一