西征的同时，蒙哥于1258年率三路大军征伐南宋。1259年7月27日蒙哥在四川合州的钓鱼城久攻不下，在一次战斗中中流矢受伤，不久就不治身亡了。正在进攻鄂州的蒙哥的弟弟忽必烈和从安南入侵南宋的兀良哈台军遂北返，忽必烈在开平自称大汗。在战胜也自称大汗的弟弟阿里不哥之后，1267年忽必烈开始营建大都，1285年建成。1271年改国号为大元，蒙古文称为“大元大蒙古国”，是为元朝的开始。1264年至1279年，经过对南宋的多年征战，元军终于灭宋。至1275年高丽已臣服于元朝，成为其属国。蒙古曾于1257年征伐越南