Etter Samanidernes fall flyttet Avicenna rundt i Persia og jobbet som lege og administrator for ulike herskere. Han tilbrakte de siste årene av sitt liv i Hamadan, hvor han døde i 1037. Han er gravlagt i Hamadan, hvor et mausoleum er reist til hans ære.