Родился в семье гитарного мастера, и, получив музыкальное образование у композитора Андреаса Берггрена, стал скрипачом в Датском королевском оркестре, который в 1841 впервые исполнил его увертюру «Отзвуки Оссиана» (). Написанная вслед за ней Первая симфония Гаде получила одобрение Мендельсона, исполнившего её в марте 1843 в Лейпциге с оркестром Гевандхауза и пригласившего Гаде вторым дирижёром в оркестр, где последний стал также преподавать в новосозданной консерватории. В свою очередь Гаде дирижировал в 1845 году премьерой скрипичного концерта Мендельсона. После кончины Мендельсона в 1847 Гаде должен был стать его преемником на посту руководителя оркестра, но начавшаяся Датско-прусская война вынудила его вернуться на родину.