Etter middelskole var Olaf Jahnsen assistent ved Johan Fayes arkitektkontor, fikk tegneundervisning på aftenskole og var i lære i snekker-, tømrer- og murerfaget før han tok den 3-årige tekniske skolen. Han jobbet så hos arkitekt Edvard Madsen, og i firmaet Ottesen & Co, dro på studietur til utlandet og fikk i 1900/01 sin avsluttende arkitektutdanning som hospitant ved den tekniske høyskolen i München. I 1908 var han med å stifte Bergen Arkitektforening.