Grefstad ble utdannet lærer ved Klæbu seminar i 1876 og arbeidet deretter i Surnadal. Fra 1878 var han lærer i Meldal, og fra 1900 også kirkesanger. Ved siden av dette drev han gårdsbruk.