Matka Jicchaka Rabina, rodným jménem Rosa Kohenová, se narodila do rodiny rabína roku 1890 v Mohylevě v carském Rusku, na území dnešního Běloruska. Na rozdíl od zbytku své rodiny nebyla Rosa nábožensky založená a další věcí, kterou se svým otcem nesdílela, byl jeho odpor vůči sionismu. Jako jediná ze sourozenců studovala na křesťanské dívčí střední škole v sousedním Homelu. Tam se stala svědkem pogromů a jako zdravotní pomocnice pomáhala Židům, kteří při nich utrpěli zranění. Podporovala dělnické hnutí, pracovala v muniční továrně a většinu vydělaných peněz dávala rodinám svých kolegů. Kvůli zhoršení podmínek dělníků a Židů nebyla spokojena s komunistickou říjnovou revoluci a po odmítnutí vstupu do Komunistické strany se stala podezřelou a pronásledovala ji tajná policie. Rosa Kohenová se tedy v roce 1919 rozhodla emigrovat do Švédska. Jediná loď v přístavu však plula do Palestiny, takže Kohenová neměla na vybranou a stala se příslušnicí třetí aliji, která se do tohoto období datuje. Po přistání v Palestině navštívila svého strýce žijícího v Jeruzalémě, nedlouho poté se však rozhodla odejít pracovat do kibucu. Dostala se tak do oblasti poblíž Galilejského jezera, kde pomáhala při vysoušení bažin. Během práce onemocněla malárií, takže se na radu lékaře vrátila zpět do Jeruzaléma. Později se přestěhovala do Haify, kde se stala první ženou ve vedení podzemní židovské vojenské organizace Hagana. Byla rovněž bojovnicí za ženská práva, socialistkou (přezdívalo se jí „Rudá Rosa“) a později členkou telavivské městské rady.