Urodził się w rodzinie chłopskiej we wsi Narewszczyzna, w powiecie prużańskim guberni grodzieńskiej Imperium Rosyjskiego (obecnie wchodzi w skład wsi Rzeczyca w rejonie kamienieckim Białorusi). W 1909 roku wyemigrował do Stanów Zjednoczonych w poszukiwaniu pracy. Dwa lata później został z nich wydalony wraz z innymi rosyjskimi imigrantami za działalność rewolucyjną, po czym trafił do Władywostoku. Tam aresztowała go rosyjska policja, zdołał jednak zbiec. W 1912 roku podjął nielegalnie pracę w kopalni złota w Lensku. Był tam świadkiem stłumienia protestów robotników przez rosyjskie wojsko. Ponownie uciekł policji, po czym osiedlił się w Moskwie. Tam wstąpił do Socjaldemokratycznej Partii Robotniczej Rosji (SdPRR). W 1914 roku został ponownie aresztowany pod zarzutem socjalistycznej propagandy. Po rewolucji lutowej pracował w Piotrogrodzie i Moskwie, służył jako ochotnik w 171 pułku zapasowym, później był jego komisarzem. Występował przeciwko Rządowi Tymczasowemu Rosji. Groziło mu zesłanie, którego uniknął dzięki wybuchowi rewolucji październikowej (według innego źródła w latach 1914 i 1917 został aresztowany i zesłany). Na początku wojny domowej w Rosji walczył po stronie bolszewików, służąc jako komisarz polityczny na różnych frontach zachodniego teatru działań wojennych. Był m.in. naczelnikiem oddziału zabezpieczenia 2 Brygady Ukraińskiej Armii Czerwonej. Wraz z rozpoczęciem wojny polsko-bolszewickiej był mianowany dowódcą różnych bolszewickich oddziałów partyzanckich, działających za linią frontu, na terenie Zarządu Cywilnego Ziem Wschodnich.