年间，派佩尔在党卫军总部担任海因里希·希姆莱的副官，1940年在法国战场初试啼声，后又回任希姆莱的第一副官，直到1941年10月离开。他的妻子希格尔德（，本姓）是希姆莱的秘书，她比派佩尔大两岁半，两人于1939年6月结婚，育有二女一子。他经历过法国、苏联、义大利、诺曼第、阿登等等许多主要欧洲战场。1942年获颁骑士十字勋章，1943年获颁橡叶骑士十字勋章。1944年12月，派佩尔在突出部之役中指挥派佩尔战斗团(Kampfgruppe Peiper)作为第六装甲军先头部队之一。不过最后因为缺乏燃料、派佩尔