Peiper là một người chỉ huy có tài và đã tham gia rất nhiều trận chiến có xe tăng trong Chiến tranh thế giới thứ hai. Peiper được cấp dưới trung thành tuyệt đối và được xem là một thủ lĩnh có sức thu hút. Peiper đã tham gia vào một số trận đánh nổi tiếng trong cuộc chiến, bao gồm cả các trận chiến tại Kursk và Kharkov vào năm 1943 tại mặt trận phía Đông nước Nga. Nổi tiếng nhất trong số đó là Peiper đã chỉ huy đội quân "Kampfgruppe Peiper" (Đội chiến đấu Peiper) của "Leibstandarte Adolf Hitler" (thuộc sư đoàn Panzer số 6 dưới quyền chỉ huy của Sepp Dietrich) trong chiến dịch "Wacht am Rhein". Đội quân này tiến thẳng về ngôi làng La Gleize, nước Bỉ, trước khi bị đẩy lùi lại bởi các lực lượng Mỹ. Peiper bị buộc phải bỏ lại hàng trăm phương tiện vận chuyển tại ngôi làng này, gồm cả sáu xe tăng Tiger II, và quay lại phòng tuyến của Đức với 800 lính bộ binh.