Som 15-åring startet Manheim svartmetallbandet Mayhem sammen med Jørn «Necrobutcher» Stubberud (bass) og Øystein «Euronymous» Aarseth (gitar), i 1984. Før de møtte Aarseth hadde Manheim og Stubberud allerede spilt sammen i flere band, men ville heller lage noe mørkere og hardere – som Venom og Sodom. Det var da de møtte Aarseth, som hadde samme ambisjoner.