Lahir di Dobre, Kekaisaran Rusia (sekarang Ukraina), Kesse dididik di sebuah heder. Pada masa muda, ia giat ke rumah Rabbi Menachem Mendel Schneerson. Orangtuanya meninggal dalam Holodomor pada 1921. Ia adalah anggota HeHalutz, yang merupakan organisasi ilegal di Rusia. Pada 1925, ia ditangkap karena kegiatan-kegiatan Zionis. Pada tahun berikutnya, ia melakukan aliyah ke Mandat Palestina.