Byen ble først nevnt i 985 som , og ble på 1000-tallet et grevskap i Det tysk-romerske rike. Byen ble på gammeltysk kalt , og i 1397 gikk grevskapet via giftemål til Huset Württemberg. I 1524, 10 år tidligere enn i Württemberg, innførte grev Ulrich og reformator William Farel protestantisme i Mömpelgard. Fra 1598 til 1608 bygde arkitekten Heinrich Schickhardt flere landemerker i byen; St. Martin, et slott, en bro, et universitet og flere hotell.