Gundersen var sønn til skipper Carl Magnus Gundersen og Maren Christine Andersen. Han ble selv student i 1872 og cand. mag. i 1881. I perioden 1878-83 var han lærer ved privatskoler i Kristiania, og fra 1883 til 1892 drev han sin egen privatskole i samme byen. I 1892 flyttet han til Bodø, der han ble rektor på Bodø kommunale mellom- og handelsskole til 1909. Senere var han rektor ved Skien skole.