Under det nasjonalsosialistiske styret ble bestefaren og flere andre familiemedlemmer drept av nazistene på grunn av familiens antinazistiske innstilling, og Peter Gumpel måtte selv flykte to ganger, først til Frankrike og så til Nederland, hvor han under krigen gikk under jorden og hjalp jøder å flykte. Som tenåring fikk han vite at nazistene hadde arrestert moren og ville henrette henne, men en gammel venn av bestefaren klarte å forhindre dette. Gumpels opplevelser under krigen førte til at han i 1944 gikk inn i Jesuittordenen. Han studerte i England, og tok doktorgraden i kirkehistorie. Deretter begynte han å undervise ved det pavelige universitetet Gregoriana, og ble i 1972 knyttet til Kongregasjonen for helligkåringer.