Rosengren var opprinnelig inspirert av bl.a Charlie Parker, Dexter Gordon, Sonny Rollins, Bjarne Nerem, John Coltrane, Bill Evans og Sonny Stitt. Han debuterte i 1957 som vikar for Lars Gullin. I 1958 ble han valgt til å representere Sverige i «The International Youth Band» på Newport-festivalen og Verdensustillingen i Brussel. Hans spill fra denne tiden kan høres på plata (Dragon, 2000). Rosengren ble engasjert i filmmusikk gjennom Roman Polańskis (1962). Han spilte mange år fast med den svenske jazzkomponisten og barytonsaksofonisten Lars Gullin, som blant annet tilegnet et orkesterverk til Rosengren kalt (1976). Rosengren har etter Gullins død vært med på å dokumentere hans komposisjoner på flere utgivelser, sammen med pianist Lars Sjösten på plater som (Mirrors, 1994Inside PicturesDoug Raney Sextet Meeting the TenorsCuttin' LooseLive at Jazz AliveStorytellersStockholm duesWith Bobo StensonSurprise PartySummit MeetingFull of LifeBernt Rosengren OctetPlays Evert Taube'' (vol. 1 og 2, Arietta 1999/2000), som gav den svenske Grammy i 1999. Orkesterjournalen deler ut den årlige «Lars Gullin Prize» til en jazzmusiker som har virket i Gullins ånd. Mottaker i 2004 var Bernt Rosengren.