Han kom fra gården Gausdal i Geiranger, fra nokså trange kår. Faren arbeidet som gårdbruker, fisker og smed. Ole Martin Gausdal var imidlertid skoleflink, og klarte å skaffe seg friplass ved lærerskolen i Tromsø. Der lærte han seg blant annet kvensk, og avla eksamen i 1880.