初，改编为国民革命军新四军四支队，高敬亭任四支队司令员，出兵抗日。四支队下辖七、八、九团和手枪团，共3100人。因部队远在长江以北，由中共中央长江局直接指挥（序列上属第五战区）。5月12日，高敬亭率部在巢县蒋家河口伏击日军获胜，成为新四军抗日首战，得到蒋中正亲自致电勉励。但是不久以后，由于不执行新四军军部要求其放弃大别山区东进的命令，先后与中共中央派来的郑位三、萧望东、戴季英等人产生矛盾，同时又因为其部发展过快，引起国民政府猜忌，加上高本人当年曾协助张国焘等人进行肃反，导致高同时受到中共中央、新四军、国民政