Peiper var fra en familie innen dannelsesborgerskapet i Schlesien. Faren, Waldemar Peiper i Den keiserlige hæren, hadde tjenestegjort under erobringen av Tysk Øst-Afrika. Faren ble dekorert i 1904, og ble såret flere ganger, samt smittet av malaria. Da første verdenskrig brøt ut, vendte faren tilbake til aktiv tjeneste, og ble sendt til Tyrkia, men hjerteproblemer som følge av malaria gjorde at han ble dimittert allerede i 1915. Faren sluttet seg etter krigen til frikorps i Schlesien og tok del i å slå ned oppstanden i Øvre Schlesien 1919–1921.