Gundersen tok medisinsk embetseksamen i Kristiania i 1890. Han reiste året etter – sammen med to medkandidater – på ferie med en båt som skulle til Jamaica. Undervegs blei han oppmerksom på en annonse der nordmannen Christian Christensen (1852–1919), som dreiv praksis i La Crosse, søkte etter en assistent. Gundersen søkte og fikk stillinga. Seinere blei han kompanjong, og etter hvert utvida han praksisen til Gundersen Clinic, et omfattende medisinsk miljø.