领导干部很担心将八路军交给国民政府后，蒋介石再来一次四一二清党。共产党方面认为，共产党和国民党都应将自己的军队交给一个新建立的联合政府。双方的相互不信任，让谈判异常艰难。于是在1927年至1937年间，中国共产党开始进行武装推翻被共产党认为是背叛革命的蒋中正领导下的国民政府的活动，其领导下的中国工农红军与政府军国民革命军长期进行战争，在抗日战争爆发后的西安事变中，双方最终同意停止内战，一致抗日。1945年日本宣告投降以后，双方针对避免内战和重组政府及改制部队等举行了这次谈判。
大致过