骂他是“泥鳅精”转世和“辽西悍匪”。政府悬赏1万银元活捉他，打死他赏5千银元。1936年初，他又与苑九占、周荣久等人联合，这支1000多人的抗日队伍在朝阳、阜新、库伦和彰武等地游击。据称，他与日、伪军共进行过百余场规模不小的战斗，与杨靖宇、赵尚志一道被满洲国列为“肃整重点”和“清剿要犯”。高鹏振率领的辽西骑兵支队被誉为“义勇铁骑”。报刊上陆续刊载过辽西义勇军围攻北镇县城、歼灭日军古贺联队、参加锦州保卫战、热河保卫战以及长城抗战的战绩。1937年4月，高鹏振因在新民张配窝堡的突围战斗中臂部负伤，转移到彰武