Veit ble født i Berlin i Preussen i 1793. Han var sønn av en bankmann, Simon Veit, og hans kone, Dorothea. Veit fikk sin første kunst utdannelse i Dresden og Wien. Han ble sterkt påvirket av den nasarenske bevegelsen, som han senere ble medlem av. Han jobbet i Roma noen år før han dro til Frankfurt am Main. Her var han direktør over kunstsamlinger fra 1830 til 1843, han underviste også som professor. Fra 1853 til hans død i 1877 holdt han stillingen som direktør over det kommunale galleriet i Mainz. Veit var, sammen med nazarenes bevegelsen, mer aktiv i tegninger enn klassiske malerier, og selv om han til tider brukte mange sterke farger, er hans verk ofte blitt sett på som fargede tegneserier enn malerier med dagens øyne.