I 1892 kom den første symfonien og i 1898 , en kjærlighetserklæring til kona. I 1902 debuterte Nielsen som dirigent med uroppføringen av sin egen opera . Samme år kom hans andre symfoni, . I 1903 reiste han og kona til Hellas, der han skrev (1903). I 1905 sa han opp som fiolinist, men var dirigent ved Det Kongelige Teater i 1906–14, deretter ved Musikforeningen. I 1906 var det premiere på den komiske operaen etter en komedie av Ludvig Holberg. Større anerkjenning fikk ha i 1912, etter uroppføringen av sin tredje symfoni og fiolinkonserten.