Thaulow fikk sin utdannelse ved Kunstakademiet i København i 1870–72, og i 1873–75 var han elev av Hans Gude i Karlsruhe. De påfølgende årene oppholdt han seg for det meste i Paris, der de franske impresjonistene fikk stor betydning for hans kunstneriske utvikling.