Han var sønn av handelsmann Hans Peter Dahl (1813–67) og Christiane Scherving Bech (1834–1910). Etter examen artium fra Trondheim katedralskole i 1880 studerte han filologi i Kristiania ved Det Kongelige Frederiks Universitet som ga embetseksamen i 1886. Han fulgte Axel Blytt (1843–98) sine forelesninger og jobbet 1890 til 1892 i hjembyen med å sortere notatene etter Johan Ernst Gunnerus (1718–73) i arkivene ved Det Kongelige Norske Videnskabers Selskab. Fra 1893 til 1918 jobbet han ved Botanisk museum (Oslo). Han ble sinnssyk og bodde resten av livet på Gaustad. Kollegene fullførte et større verk og Rolf Nordhagen (1894–1979) hedret ham ved å i 1932 sette navnet på en svalbardvalmue som vokser i Finnmark der Dahl tilbrakte flere perioder for kartlegging. Dahl etterlot seg flere titusen innsamlede ark.