Ole Andreas Olsen var sønn av byggmester Erik Olsen (1831–1918) og Josefine Andrea Nicolaysen (1839–99). Han tok eksamen ved Trondhjems Tekniske Læreanstalt i 1886 og ved den tekniske høyskole i Charlottenburg i Berlin i 1890. I mellomtiden var han assistent hos professor Hans Grisebach i Berlin 1887–88. Navneendringen av etternavnet til ble foretatt i 1896.