В марте 1944 года призван в Красную Армию и направлен на фронт автоматчиком моторизованного батальона 233-й танковой бригады 5-го механизированного корпуса 6-й танковой армии. Воевал на 2-м Украинском фронте. Участвовал в Уманско-Ботошанской, Ясско-Кишиневской операциях и боевых действиях в центральной части Румынии, в том числе и в освобождении Бухареста. В сентябре 1944 года 6-я танковая армия была переименована в 6-ю гвардейскую, а 5-й механизированный корпус стал 9-м гвардейским. В ноябре того же года 233-я бригада преобразована в 46-ю гвардейскую танковую бригаду. В её составе И. К. Гаврилюк участвовал в Дебреценской, Будапештской и Венской операциях.