考入徐州的江苏省立第七师范学校。毕业后，回乡任小学教员、校长等职。民国15年（1926年）考入黄埔军校第四期。在校期间，因对中山舰事件以及“孙文主义学会”等右派组织的活动不满，发表过一些反对校长蒋介石、批评时政的言论，故被视作左倾激进分子。1927年四一二事件后，被迫离开广州到武汉，参与中国国民党江苏省的地下反蒋活动。同年七一五事件后，在国民革命军第五路军政治部任职，随军北伐，任团政治指导员。民国17年（1928年）离开部队，来到山东金乡、诸城等县师范学校任教。在金乡任教时，因为支持民众反对县长侵吞公款