Røstvig livnærte seg først som tegnelærer i Stavanger. Arne Garborg satt i 1913 modell for Røstvig i København, og han omtaler ham i dagboka si som «». Bondeungdomslaget i Stavanger eier et Røstvig-portrett av Garborg i Knudaheio.