После 1891 писатель жил в Одессе. На протяжении 1903—1905 годов жил в Киеве, в доме по улице Мариинско-Благовещенской (ныне — улица имени Панаса Саксаганского), 27, в квартире на третьем этаже (на доме в 1988 году установлена мемориальная доска с бюстом писателя). В эти годы он активно занимался литературной и общественной деятельностью, например, готовил издание в пользу пострадавших от кишиневского погрома. После погромов в 1905 уехал с семьёй в Швейцарию, затем в Германию. Считается, что Шолом-Алейхем пересёк океан четыре раза.