На 2-м Украинском фронте в составе 40-й армии Я. П. Шипилов участвовал в Ясско-Кишинёвской стратегической наступательной операции (20 − 29 августа 1944 года); Бухарестско-Арадской наступательной операции (30 августа — 3 октября 1944 года); Дебреценской наступательной операции (6 — 28 октября 1944 года) и освобождении города Сату-Маре (Румыния); Будапештской стратегической наступательной операции (с 29 октября 1944 по январь 1945 года).