しかし、1260年に、第４代皇帝モンケの死去に伴い皇位継承戦争が勃発し、その次弟クビライが上都で第5代皇帝としてこれを制して即位したが、当時の主要なモンゴル王族であったジョチ・ウルスのベルケ、クビライの実弟フレグ、チャガタイ家のアルグらが相次いで死去したため、モンゴル皇帝を正式に選出する全帝国的な統一クリルタイの開催が事実上不可能になってしまった。そのため、クビライは自らが直接支配できていた中国とモンゴル高原、チベットを中心とする、現在の区分でいう東アジア部分の統治機構を整え、あわせてモンケの死去によって中断されていた南宋遠征を完遂させる事で、モンケの後を継いだ事実上のモンゴル皇帝である事を内外にアピールした。この過程で、中央アジアのモンゴル王族たちとの紛争の前線基地と化していたカラコルムに替わり、1271年に帝国の中国方面支配の拠点のひとつであった金朝の旧都・の北隣に大都（現在の北京）を建設し、帝国の東半分の地域は事実上クビライとその子孫が領国として継承する体制ができあがった。他の地域もそれぞれの地域の主要な王族たちが領民と領国を囲い込むようになり、13世紀後半、帝国はモンゴル皇帝による全土支配の時代から、徐々にモンゴル皇帝を盟主としジョチ家、チャガタイ家、オゴデイ家、フレグ家のような各地の主要王族を頂点とする諸ウルスの連合による緩やかな「連邦」化が進んで行った。このうち、クビライはモンゴル皇帝直轄の中核国家の国号を大元大モンゴル国と改称するが、その後も皇帝を頂点とする帝国はある程度の繋がりを有した。