Rottweil ble grunnlagt av romerne i 73 som Arae Flaviae og ble et municipium, men det er spor av bosettinger tilbake til 2000 før Kristus. Romerske bad og en mosaikk av Orfeus ( 180) som kan tidfestes til tiden for den romerske bosetningen. Dagens by ble et hertugsete og hoffsete før 771 og inn i middelalderen ble det en fri riksstad i 1268.