I sin første novelle, («To gravsteiner»), hentet han inspirasjon fra sitt kjærlighetsforhold til Olga Lojev. Historien ble ikke satt på trykk før de to hadde giftet seg i 1883. Han arbeidet som agent for en sukkerprodusent, og i 1884 fikk paret sitt første barn, Esther. I 1885, da svigerfaren døde, ble Aleichem bestyrer for Lojev-godset, og en velstående mann. I 1887 flyttet familien til Kyiv.