I 1900/1901 slås «Musikkforeningen» og «Musikkselskabet Harmonien» seg sammen og i 1907 blir det fusjonerte orkesteret gjort til Edvard Griegs universalarving gjennom «Edvard Griegs fond». Fra sesongen 1907-08 tiltrer Harald Heide som Harmoniens dirigent. Heide var samtidig dirigent for orkesteret til Den Nationale Scene, og i 1919/1920 ble teaterets 18 musikere overtatt av Harmonien mot at Harmonien skulle sørge for mellomaktsmusikk i teateret 6 kvelder i uken. Fra da av var orkesteret i praksis et fullt ut profesjonelt ensemble. Orkesterets hovedscene var fra 1915 Koncert-Palæet hvor orkesteret kom til å bli værende fram til Grieghallens åpning i 1978. Heide er den lengst sittende kunstneriske lederen i orkesterets historie med sine 40 år i rollen (1908-1948). I hans periode opptrådte kunstnere som Sibelius, Kirsten Flagstad (i Beethovens 9. symfoni) og Carl Nielsen. Og blant verkene som ble oppført i denne perioden hører Mahlers 4. symfoni (1921-22-sesongen) og Stravinskijs Petrusjka (1932-33-sesongen).