Bergh var formann i Norges eldste jazzklubb, Oslo Jazz Circle, leder i Norsk jazzforbund 1961–1963) og var mangeårig redaktør og journalist i . I 1981 etablerte han Norsk jazzarkiv som han ledet fram til 1991. Han var programsekretær i NRK 1976–1996, og var statsstipendiat fra 1996 for sin forskning innen jazzhistorie.