Grieg var en av foregangsmennene for målsaken i Bergen og medlem av Vestmannalaget. Han var en nær venn av Henrik Krohn. I tillegg til at han utga bøker på landsmål fra trykkeriet, oversatte han en rekke skrifter til landsmål. Han valgte da særlig slike tekster som han antok av bøndene ville interessere seg for: (1868), John Bunyans (1862), (1870), Berthold Auerbachs (1870), Oliver Goldsmiths (1892) og (1905).