日本が日清戦争に勝利し、20世紀初頭に世界の一新興勢力となったことがきっかけとなって数世紀に渡りモンゴルを支配下においてきた清が崩壊し（辛亥革命）、1911年に（詳細はモンゴルの歴史を参照）が起きると、ボグド・ハーンによるモンゴルのボグド・ハーン政権は世界の様々な国に公式の国交樹立を求めて内務大臣を含む使節団を派遣した。日本もこの中に含まれており、1913年にを日本へと派遣、に大正天皇に対する国書を持たせたものの、いずれも失敗に終わった。やがて、1921年のモンゴル革命によってボグド・ハーン政権はソビエト連邦の影響下に置かれ、1924年には社会主義国家として外モンゴルにモンゴル人民共和国が建国された。一方、中華民国領土に留められた内モンゴルは日中戦争中には日本の占領下に置かれ、蒙古聯盟自治政府や蒙古聯合自治政府が設置された。また後に内モンゴル自治区東部となった東モンゴル地域（興安省）は日本支配下の満州国に組み入れられ、モンゴル族は五族協和 (満州国)で挙げられる一民族となった。1939年のノモンハン事件と1945年のソ連対日参戦では、ソ連赤軍と連携したモンゴル人民軍（ザバイカル戦線）が日本軍（関東軍、駐蒙軍）と元寇以来の戦火を交え、モンゴルは内モンゴル東部から西部までほぼ占領して戦勝国となる。満州国のモンゴル族代表だったボヤンマンダフ、ジョンジュルジャブ、カンジュルジャブ兄弟は関東軍に従わずソ蒙連合軍に投降し、蒙古聯合自治政府のデムチュクドンロブ（徳王）と李守信は中国の北京で駐蒙軍と離れ後にモンゴル人民共和国に逃れることとなった。日本の敗戦後にソ連に抑留された旧日本軍将兵には、モンゴル人民共和国で労役を課せられた者もいた。邦人の引き揚げが成功した内モンゴルに残留日本人は殆どなかった上に、内モンゴルを支配した中華人民共和国が当時日本と国交を結ばなかったことで日本と内モンゴルの関係も途絶えた（日本と中華人民共和国の国交樹立は1972年）。