Han var sønn av stadskaptein Joachim Susemehl Grieg og Juliane Katharina Monrad. Han var svært musikkinteressert. Etter å ha begynt en handelsutdannelse gikk han senere over til musikkstudier, og tilbragte flere år i utlandet. På 1850-tallet kom han tilbake til Bergen og drev musikkundervisning.