团任连党代表，为中共黄埔军校特别支部委员。1925年1月，参加讨伐陈炯明的国民革命军第一次东征作战，升任营党代表。6月被中共党组织调到上海开展工人运动。10月，赴苏联入莫斯科东方大学军事班学习。1926年秋，彭干臣奉命回国，加入叶挺独立团，参加北伐战争。叶挺担任国民革命军第十一军二十四师师长兼武昌卫戍司令后，彭干臣任武昌卫戍司令部参谋长。
第一次国共内战期间.1927年3月到上海，参加上海工人第三次武装暴动，参与南市区军事指挥。同年5月护送周恩来到武汉，代理武昌卫戍司令。8月，参加