Nippur forble bebodd i begynnelsen av islamsk tid, og er nevnt av tidlige muslimske geografer under navnet Niffar. Den lå ved Nahr an-Nars-kanalen, som antas å ha blitt bygget av Narses. På slutten av 800-tallet ble kanalen imidlertid ikke lenger nevnt av geografer, noe som indikerer at byen hadde fått en klar tilbakegang på den tiden. Kanalen er forøvrig tørr i dag. Dette var en del av en bredere nedgang i bosetninger i hele Irak, spesielt i sør, ettersom infrastrukturen forfalt og i tillegg politisk vold førte til at store områder ble fullstendig forlatt. Imidlertid forble Nippur sete for en assyrisk kirke i det østkristne bispesetet til slutten av 900-tallet, da bispesetet ble overført til byen Nil, lenger nordvest, på stedet for dagens by Niliyah. Nippur selv kan ha forblitt bosatt ytterligere en tid ettersom keramikk funnet blant ruinene viser underglasur av sgraffitotegninger, som ikke ble brukt mye før slutten av 1000-tallet. På tiden til den arabiske geografen Yaqut al-Hamawi tidlig på 1200-tallet hadde Nippur blitt definitivt forlatt, selv om Yaqut fortsatt anerkjente ruinene som stedet som et kjent sted.