Senere dro Asfar fordel av et opprør i samanidenes hær og tok makten i Gurgan (dagens Golestan) i det nordlige Iran. Asfar tok også Amol, Ghazvin, Zanjan og byen Rayy og utnevnte Mardavij som guvernør i Zanjan. På grunn av Asfars økende uberegnelige oppførsel, dukket det opp mektig motstand mot ham i 927, og året etter sluttet Mardavij seg til denne motstanden, beseiret Asfar og tok over Asfars landområder. På dette tidspunktet grunnla Mardavij offisielt ziyaridenes dynasti. Kort tid etter satte Mardavij sammen en hær for å møte abbasidenes kalif, først i Hammadan og Kashan og til slutt i Isfahan.