Blant hans viktigste arbeider som arkitekt er Børsen fra 1828, Norges Banks Christiania-avdeling 1830, Observatoriet 1834, Christiania Theater 1837, Universitetsbygningen 1838–1854, Basarene og Brannvakten ved Vår Frelsers kirke 1840–1859, og Krohgstøtten sykehus 1859 (gjenværende bygning nå del av Oslo legevakt). I tillegg til disse og andre offentlige bygninger i hovedstaden tegnet han en lang rekke bygårder, landsteder og industribygg. Utenfor Oslo har han blant annet tegnet Latinskolen og Søylegården i Halden og Tollboden i Stavanger. Som kirkearkitekt satte han spor etter seg over hele landet – omkring 80 kirker fra Halden til Kirkenes. Omkring ti åttekantede kirker ble oppført etter tegning av Grosch, blant annet Hval kirke, Tangen kirke og Rogne kirke.