Han ble drept natten til 14. juli 1976 etter at boligen hans ble satt fyr på da huset ble angrepet med molotovcocktailer. Det kom til skuddveksling. Peiper avfyrte også skudd. I brannruinen fant man hans forkullede lik, med en kule i brystet. Drapet ble aldri oppklart.