Abu Maʿshar kom fra Balkh i Khurasan, som var et av arnestedene til støtte for den abbasidiske revolusjon tidlig på 700-tallet. Befolkningen der, likesom det lenge var tilfellet i yttergrenseområdene i det arabisk-erobrede Persia, var forblitt tro mot den sassanidiske og hellenistike arv. Han begav seg sannsynligvis til Bagdad i al-Maʾmūn-kalifatets (r. 813–833) tidlige år. Ifølge An-Nadims verk (fra det 10. århundre) bodde han på Bagdads vestside, nær , nordøstre port til den opprinnelige by på vestre bredd av Tigris.