Groven hadde også en fin sans for tekst, noe som ikke minst viser seg i hans tonesetting av stor lyrikk, for eksempel av Henrik Wergeland.