Poslancem byl poprvé zvolen ve volbách v roce 1999, v nichž kandidoval za Národní náboženskou stranu. Svůj poslanecký mandát obhájil i v následujících volbách v roce 2003, po nichž byl jmenován ministrem sociální péče a sociálních služeb ve vládě premiéra Ariela Šarona. Během stranické krize, způsobená Šaronovým plánem na jednostranné opuštění Pásma Gazy, Orlev vedl tu část strany, podle níž bylo lepší volbou zůstat ve vládě, spíše než ji opustit. V důsledku toho označil Orleva předseda strany Efrajim Ejtam „mejmadnikem.“ Když Ejtam a Jicchak Levy opustili v roce 2004 vládu, odmítl Orlev a řada poslanců strany učinit totéž. Orlevovi se podařilo převzít kontrolu nad stranou, což vedlo k odchodu Ejtama a Levyho, kteří založili Obnovenou národní náboženskou sionistickou stranu (později Achi), která se následně připojila k Národní jednotě.