Tidlig på 1840-tallet etablerte han seg i Wien, som hoffkapellmester der startet Nicolai en rekke konserter. Disse ble begynnelsen til Wienerfilharmonikerne. I 1844 fikk han tilbud om å bli kapellmester i Berlin domkirke, stillingen var blitt ledig etter Felix Mendelssohn, men han kom ikke tilbake til Berlin før i sitt siste leveår. En messe tilegnet kong Friedrich Wilhelm IV i 1843 og en festovertyre over Nå la oss takke Gud til feiringen av 200-årsjubileet for Königsberg universitet banet veien for engasjement som dirigent for Berlins domkor i 1847 og også som kapellmester for Den kongelige opera i Berlin.