Baratz var født av jødiske foreldre. Helt fra han var liten ble han kjent for å ha «et godt hode». Han var sterkt musikalsk, og spilte trommer og trompet. Faren hans drev et vertshus i landsbyen. Ved 1905-revolusjonen i Russland ble foreldrene drevet til å forlate distriktet. Han lykkedes i å immigrere, og i desember 1906 ankom han til Jaffa i Israel, bare 16 år gammel. Han reiste til Jerusalem, og lærte seg billedhuggerkunst. I 1910 sluttet han seg til bosetterne i Degania. I 1920 var han en av etablererne i . I 1921 reiste han til USA for å lære mere om amerikansk zionisme, og forelese for amerikanske zionister.