民国8年（1919年）考入徐州的江苏省立第七师范学校。毕业后，回乡任小学教员、校长等职。民国15年（1926年）考入黄埔军校第四期。在校期间，因对中山舰事件以及“孙文主义学会”等右派组织的活动不满，发表过一些反对校长蒋介石、批评时政的言论，故被视作左倾激进分子。1927年四一二事件后，被迫离开广州到武汉，参与中国国民党江苏省的地下反蒋活动。同年七一五事件后，在国民革命军第五路军政治部任职，随军北伐，任團政治指導員。