После начала кампании против СССР Пайпер вновь начал бомбардировать Гиммлера рапортами об отправке на фронт. Рейхсфюрер некоторое время сопротивлялся, но затем признал, что истинный эсэсовец должен тяготиться тыловой службой, в то время как его товарищи проливают кровь на фронте. 1 августа 1941 года гауптштурмфюрер СС Пайпер вернулся в «Лейбштандарт» и на первых порах был зачислен в штаб, до тех пор пока ему не будет подобрана соответствующая должность. Ко времени прибытия Пайпера на фронт «Лейбштандарт» уже немногим больше месяца вёл бои и как раз готовился в новому наступлению. Летом и осенью 1941 года эсэсовцы Дитриха действовали на южном участке советско-германского фронта. «Лейбштандарт» с боями двигался по маршруту Житомир — Бердичев — Херсон — Ростов. 4 октября Пайпер, наконец, стал командиром уже хорошо ему знакомой, 11-й роты 3-го батальона. Его непосредственным начальником вновь был штурмбаннфюрер СС Август-Вильгельм Трабандт — к тому времени выздоровевший и вернувшийся к командованию батальоном. Его первой крупной операцией на советско-германском фронте, в должности командира роты, стали бои на Миусе, который немцы форсировали 28 октября. Несколько раньше — 16 октября — «Лейбштандарт» захватил Таганрог. В ходе наступления эсэсовцы понесли значительные потери — к концу октября численность рот (в том числе и роты Пайпера) сократилась всего до одной трети штатного состава.