Welhaven studerte ved Den kongelige tegneskole i Kristiania i 1870, og fikk deretter sin arkitektutdannelse ved den tekniske høyskole i Hannover i perioden 1871–73. Fra 1875 etablerte Welhaven eget arkitektkontor, med spesialitet innen trebygninger i sveitserstil. Tidvis underviste han også ved Tegneskolen. Welhaven var slottsforvalter fra 1883 til 1920, først for kong Oscar II og etter tronskiftet i 1905 for Haakon VII, med drifts- og vedlikeholdsansvar for mange av kongens eiendommer som Det kongelige slott, Bygdøy kongsgård, Oscarshall og ferieboligen Skinnarbøl.