Ад мая 1918 г. Язэп належаў да I Лужскага партызанскага кавалерыйскага палка IV Петраградскай дывізіі Чырвонай Арміі пад кіраўніцтвам брата Станіслава (пазней быў перайменаваны ў 3-і Петраградскі кавалерыйскі полк). Пазней, з узмацненнем белага руху і адначасовым ростам рэпрэсій з боку органаў ЧК, перайшоў да «белых» разам з братам Станіславам і ваяваў у розных фармацыях (Эстонская вайна за незалежнасць) — у тым ліку і ў арміі генерала Юдзеніча, дзе ён атрымаў рангу падпалкоўніка, і затым палкоўніка. У лістападзе 1919 г. атрад Станіслава Булак-Балаховіча, у якім знаходзіўся і Язэп, перайшоў на бок БНР у якасці Асобнага атрада БНР. У лістападзе—снежні 1919 атрад займаў частку антыбальшавіцкага фронту каля Ізборска, паміж эстонскай і латышскай арміямі.