Noen mener rasen nedstammer fra såkalt , andre at den har utviklet seg fra romerske molosserhunder som ble ført til Tyskland under de romerske invasjonene. Under middelalderen fantes det en type trefarget molosser i Sveits og deler av Tyskland som gikk under tilnavnet «slaktermastiff». Denne ble blant annet brukt av sveitsiske soldater i krig, men det er også kjent at disse hundene ble benyttet til vaktoppdrag mot røvere og banditter som herjet i Rottweil på den tiden. Rottweileren kan derfor ha et felles opphav med de såkalte sennenhundene fra Sveits.