1932年に清朝皇帝であった溥儀が関東軍の協力のもとで満州国を建国した。これにより内モンゴル東部は満州国となった。満洲国では清王朝以来続く満洲・モンゴルの友好血縁関係からモンゴル人は積極的に満州国皇帝に仕えた。1935年3月、ソビエトは内モンゴル東部（満州国内）に権益を持っていた北満鉄道を満州国に売却する。内モンゴルの中部ではチャハルのデムチュクドンロブ（徳王）やユンデン・ワンチュク（雲王）などの王公によって自治要求運動がなされるようになり、1936年には自治を求める内モンゴル軍（ru）と中華民国軍とが全面衝突した（綏遠事件）。1939年、デムチュクドンロブは日本の支援を受けて蒙古聯合自治政府を樹立し内モンゴルにモンゴル人による自治政府が誕生した。ただし、総人口525万4833人のうち漢民族が9割の501万9987人に対してモンゴル人は15万4203人だった。満州国とともに蒙古聯合自治政府はそれぞれ独自の行政機関・軍事組織・通貨をもつなど中国本土とは完全に分離した政治経済体制であった。1941年4月13日、日ソ中立条約がソビエト連邦と日本の間で締結され、満州国（内モンゴル東部）とモンゴル人民共和国（外モンゴル）の領土保全と相互不可侵を約束した共同声明が出された。ところが、1945年2月11日にソビエト連邦・アメリカ合衆国・大英帝国はヤルタ会談を開き、満州を中華民国のものとし、北満鉄道・南満州鉄道をソ連・中華民国共同のものとすることを取決め、外モンゴルのみを独立させ、内モンゴルを中華民国の影響下とした上で現状維持とすることをモンゴル人・満州人の意志とは関係なく決定した。1945年8月9日に突如としてソ連と外モンゴルの連合軍が満州国と内モンゴルに侵略してきたことによって満州国・蒙古自治邦政府（1941年に蒙古聯合自治政府から改称）は崩壊した（ソビエト参戦）。日本の根本博中将揮下の駐蒙軍は約4万の在留邦人が引き揚げるまで張家口でソ連軍の進撃を食い止めた。ソ連軍の1個師団と3個機械化旅団、モンゴル人民軍の4個師団及び1個機械化旅団は内モンゴルに侵攻し、内モンゴル東部からチャハルや熱河省といった内モンゴル西部まで進駐した。旧蒙古自治邦政府では内モンゴル独立宣言をした内モンゴル人民共和国、旧満州国興安総省では東モンゴル自治政府やホロンバイル自治省政府などが成立して外モンゴルへの内モンゴルの併合を求める運動が勃発した。ソ連とモンゴルは当初汎モンゴル主義を煽って内外モンゴルの統一を掲げてたが、中ソ友好同盟条約で中華民国に外モンゴル独立を認めさせる代わりに内外モンゴル統一の要求を取り下げて撤退することになった。
キシニョーフの商人の子として生まれた。キシニョーフのヘデルで学び、1887年にギムナジウムを最優秀の成績で卒業し、1889年までベルリン工科大学で歴史と哲学の講義を聴講した。モスクワ大学に入学し、歴史と言語学、特に古代ギリシア史の研究に専念した。法制史の教授ヴィノグラドフはゲルシェンゾーンの才能を愛し大学の教授として推薦したが、彼がユダヤ人であるという理由だけで拒絶された。学者としての道を絶たれ、『ロシア思想　Русская мысль』『Русские ведомости』などの雑誌へ書評・評論を投稿し身を立てることになる。グラナート（Гранат）の百科事典のために中国の明朝についての記事を書いたり、ドイツの史家ベロッホ（Beloch）やエドゥアルト・マイヤーの翻訳も行っている。1893年にE・N・オルローヴァ（Елизавета Николаевна Орлова）が貧しい人々が自己教育するのを目的とした文庫を創設し、師のヴィノグラドフがその委員会のメンバーとなりゲルシェンゾーンに協力を求めたので、独自のテキストとペトラルカの翻訳を作成し文庫の使用に供した。オルローヴァとは終生の交友が成り立ち、その後の影響が大きかった。1904年から『Научное слово』誌と『Критическое обозрение』誌の、1907年から1908年までは『Вестник Европы』誌の編集長を務め、他には『Русская молва』と『Биржевые новости』などの雑誌に寄稿している。1909年には、セルゲイ・ブルガーコフやニコライ・ベルジャーエフなどとともに論文集『道標　Вехи』を発刊し、1905年の革命を指導したインテリゲンチャを批判した。しかし、1914年には他の「道標派」の人々と決裂し、1917年のロシア革命においては道標派の中で唯一亡命せず、全ロシア作家同盟の設立に加わり、初代同盟議長となる。1920年から1921年までナルコムプロス（Наркомпроса）の文学部門の事務局を務め、1921年からは芸術科学アカデミー（Государственная академия художественных наук）にも参加した。1913年のベイリス事件後に『ユダヤ人の世界 Еврейский мир』誌と協力するようになり、詩人ハイム・ナフマン・ビアリクを発見し、ヘブライ語の詩をロシア語訳して編集した『ヘブライ詩選集　Еврейская антология』も出版している。心理的にはシオニズムに魅了されていたが、民族国家を樹立するのは神に与えられたユダヤ民族の運命を裏切ることである、「イスラエル王国はこの世のものでないからだ」と主張している。息子のセルゲイ（セルヒー） Сергей Михайлович Гершензон は遺伝学者、微生物学者。