期间，胡步三的对外公开身份是吉林省第六中学的教师。1926年12月至1927年10月，升任中共北满地方委员会负责人，期间受地委书记吴丽实委派，在哈尔滨南岗举办了军事训练班。同时胡步三还负责护送前往莫斯科东方劳动者共产主义大学学习的中共学员从哈尔滨出发至海参崴。1927年初，胡步三前往武汉，2月抵达上海，3月在上海工人第三次武装起义中担任南市指挥员，起义成功后担任南市工人纠察大队长。4月返回武汉，以列席代表的身份参加中国共产党第五次全国代表大会，会后被任命为中共中央军事委员会中央特务工作处下属的匪运股负责人，