Narodil se v litevské části carského Ruska ve městě Smarhoni (dnes Hrodenská oblast, Bělorusko). Když mu byly tři roky, podnikl společně s rodinou aliju do Palestiny, tehdy ještě pod osmanskou nadvládou, kde se jeho otec stal učitelem hebrejštiny na základní škole v Tel Avivu. Razi'el později studoval filosofii a matematiku na Hebrejské univerzitě v Jeruzalémě a v roce 1929 v reakci na Hebronský masakr vstoupil do židovské podzemní vojenské organizace Hagana. Když pak v roce 1931 revizionistické sionistické hnutí založilo svou vlastní podzemní vojenskou organizaci s názvem Irgun, stal se jedním z jeho prvních členů a podle internetových stránek této organizace „prokázal vynikající vojenské dovednosti.“