4年毕业后回乡教私塾。1916年，黄公略参加湘军，历任文书、国文教员、排长等职，与同连的彭德怀、李灿等结为挚友，在连队秘密组织救贫会。1922年秋，考入湖南陆军讲武堂，次年结业，担任湘军第2师3旅6团任副连长、连长。1926年7月，湘军第2师改编为国民革命军第八军第1师，参加北伐战争。1927年1月，黄公略入黄埔军校高级班学习（比照黄埔三期）。在校学习期间，加入中国共产党。
第一次国共内战时期.1927年12月，黄公略参加广州暴动。1928年2月，八军独立第一师师长周磐计划开办师随