Fødebyen Balkh ligger i dagens Afghanistan. Han døde i Konya, i seldsjukkenes rike i dagens Tyrkia, hvor han også tilbragte det meste av sitt liv. Hans etniske bakgrunn er omdiskutert og det har vært nevnt at han kan være av tyrkisk, persisk eller tadsjikisk opprinnelse. Faren var Baha'od-din Valad, en teolog, jurist og mystiker fra Balkh. Faren var også kjent i sin samtid som «De lærdes sultan». Rumis mor var Mümine Hatun.