Жыццядзейнасць Язэпа Ігнатавіча Мазуркевіча прыпынілася ў часы рэпрэсій. 17 верасня 1937 ён быў беспадстаўна арыштаваны і 20 кастрычніка 1937 асобай нарадай пры НКУС СССР як член «Польскай арганізацыі вайсковай» прыгавораны да вышэйшай меры пакарання з канфіскацыяй маёмасці. Расстраляны 4 лістапада 1937 у Віцебску. Рэабілітаваны Вярхоўным судом БССР 16 ліпеня 1957. На момант арышту з'яўляўся настаўнікам СШ № 1 Віцебска, быў жанаты, меў дзіця.