У липні 1941 року Вінницька область була окупована німецькими військами. До березня 1944 року проживав на окупованій території. 27 березня 1944 року, коли Ямпільський район був звільнений радянськими військами, Балабух був мобілізований до лав Робітничо-селянської Червоної Армії Ямпольським районним військовим комісаріатом. З 1 квітня 1944 року - на фронтах Німецько-радянської війни. Брав участь в боях в 1-му і 2-му Українському фронтах, Яссько-Кишинівській, Сандомирско-Сілезької, Нижньо-Сілезької операціях, форсуванні Одера, Берлінської операції. В ході останньої особливо відзначився. На той час старший сержант Юзеф Балабух був помічником командира взводу 399-го стрілецького полку 111-ї стрілецької дивізії 52-ї армії 1-го Українського фронту.