Al-Jāḥiẓ erstattet Ibrāhīm ibn al-'Abbās al-Ṣūlī i det statlige sekretariatet for al-Ma'mūn etter bare tre dager. Senere i Samarra han skrev et stort antall av sine bøker. Kalifen al-Ma'mun ønsket at al-Jāḥiẓ skulle undervise hans barn, men ombestemt seg da han så at barna ble skremt av al-Jāḥiẓ's utstående øyne (). Dette skal etter sigende være opphavet til hans kallenavn. Han nøt godt av støtten han fikk fra al-Fath ibn Khaqan, som var venn av Kalifen al-Mutawakkil, men etter at han ble drept i desember 861, forlot al-Jāḥiẓ Samarra og dro tilbake til Basra, hvor han bodde på sin eiendom med sin «konkubine, hennes hushjelp, en tjener og et esel». Han døde der i slutten 868. I henhold til en anektote døde han av at en haug av bøker i hans bibliotek falt over ham.