Som en del av Himmlers stab kom han tett innpå en rekke høye SS-offiserer og ble en av Himmlers favorittadjutanter. Peiper tjenestegjorde senere ved Himmlers personlige stab, og fulgte ham blant annet på statsbesøk til Italia.