Da Mongolene invaderte Sentral-Asia en gang mellom 1215 og 1220, måtte hele Rumis familie flykte vestover, sammen med en gruppe av farens disipler. På vei til Anatolia møtte Rumi en av de mest kjente persiske poeter og mystikere, Farid al-Din Attar, i byen Nishapur. Attar skal angivelig ha fornemmet Rumis åndelige evner. Etter pilegrimsreise til Mekka og et kort opphold i Bagdad slo familien seg ned i Karaman. Her ble han, 18 år gammel, giftet bort til Cevher Hatun. De fikk to sønner: Sultan Valad og Ala'ed-din Jalabi. Da hustruen døde, giftet han seg på nytt og fikk sønnen Amir 'Alem Jalabi og datteren Melike Hatun.