О происхождении и ранних годах жизни Захарии ничего неизвестно. Патриархом Иерусалимским он был избран в 609 году. Иерусалим находился в то время в составе Византийской империи, которой в те годы (с 610 по 641) правил император Ираклий I. В 614 году армия противника Ираклия, иранского шаха Хосрова II из династии Сасанидов, вторглась в пределы Византийской империи и разграбила Иерусалим. Согласно армянскому летописцу VII века Себеосу, автору «Истории императора Ираклия», в Иерусалиме персы убили тысячи христиан и десятки тысяч угнали в плен. Среди последних был и патриарх Захария.