1945年8月15日，昭和天皇发布诏书无条件投降。9月9日，日本中国派遣军總司令官冈村宁次向中国陆军总司令何应钦递交降书。按照《波茨坦公告》和国际法规定，日本须要永久削除军国主义，军队完全解除武装後驱出被侵略国的国土，遣返日本。日本华北方面军第一军司令澄田𧶛­四郎、第一军参谋长山冈道武、参谋岩田清一、山西省政府顾问辅佐官城野宏、第114师团师团长三浦三郎和山西产业株式会社社长河本大作秘密策划将日军一部分势力留在中国，作为日后再次侵略的伏兵。事实上，冈村宁次在签订投降书以后也曾经向何应钦提出，可以让华中长江与黄河的30万日军“暂不缴械”，帮助国军围剿中共。这一提议被中国政府拒绝。但阎锡山认为自己派系的军队实力不够，希望能借助日军作为攻打中共的本钱。而驻山西的日军也希望藉助山西省的资源达到战败后日本的复兴。因此，阎锡山与澄田𧶛­四郎等驻山西日军高层达成协议，将一部分日军在阎锡山的庇荫下继续作为成建制的军队留在山西。