Konow var sønn av presten Wollert Otto Konow (1833–1895) og Henrikke Christiane Johanne Molde Wolf, og bror av indologen Sten Konow. Han vokste opp i Vang i Valdres, hvor faren var sogneprest. Han blev elev ved Lillehammer skole og tok i 1883. I 1889 tok han juridisk embetseksamen. Deretter studerte han malerkunst i Paris og München. Som maler oppholdt han seg i mange år i utlandet, særlig i Roma og Paris, senere i Berlin.