Jogiches kom fra en velstående jødisk kjøpmannsslekt. Han vokste opp i Vilna, som er det jiddische navnet på det som i dag er den litauiske hovedstaden Vilnius. På den tiden var Vilnius et senter for den rike, jødiske kulturen i Øst-Europa, men byen var også en del av Tsarriket.