Herheim er oppvokst på Ammerud i Oslo. Hans tyske mor arbeidet ved Goethe-instituttet i Oslo, mens hans norske far var bratsjist i Den Norske Operas orkester. Som barn fikk han cello-undervisning og sang i St. Hallvardguttene fra han var seks år gammel. Han begynte også å lage oppsetninger med marionetter på gutterommet, og sammen med pater Ronald Höllscher satte han opp operaer med dukketeateret for nonnene i St. Hallvard kirke og kloster etter søndagsmessen.