Ifølge sjia-muslimsk overlevering ble han forgiftet. Hn ble begravet på en gravlund, men snart ble dette stedet fokuset for pilegrimsferder. En by vokste opp rundt gravstedet. Navnet på byen ble Kadhimiya (byen imamen Kadhim). En kjent teologisk skole ble grunnlagt i denne byen, og skolen ekisterer fortsatt.