Røst hadde stor lærelyst, men økonomien var dårlig. Etter konfirmasjonen gikk han på skole hos ordføreren og stortingsmannen Lars Hektoen. I 1859 døde faren og Olaf ville bruke arven sin på 300 spesidaler til å skaffe seg lærerutdanning. I 1862 ble han godkjent lærer med beste karakter. Som lærer var han først tre år i Tylldalen, men lønna var så lav at han måtte ta seg huslærerpost om sommeren. Februar 1866 forlot han Tylldalen og reiste til Christiania (Oslo) for å overta annenlærerstillinga på en skole der. To år senere fikk han også førstelærerstillinga ved den samme skolen. Da var han bare 24 år gammel.