Johannes Hyrkanos var sønn av Simon Makkabeus og således nevø av Judas Makkabeus, Jonatan Apphus og andre søskenbarn. Deres historie er fortalt i de deuterokanoniske bøkene og , i og av historikeren Josefus. Johannes var ikke tilstede ved et gjestebud hvor hans far og hans to brødre ble myrdet, angivelig av hans svoger, Ptolemaios. Han kvalifiserte til sin fars tidligere posisjoner, den som , ypperstepresten i Israel og som nasjonal leder (men ikke som konge). Josefus forteller at han hadde fem sønner, men kun tre navngis i hans fortellinger: Judas Aristobulos I, Antigonos I, og Aleksander Jannai.