Tarsus er en svært gammel by, og historien strekker seg tilbake til steinalderen. Byen har ligget i krysningspunktet mellom flere viktige handelsruter. Den har gjennom tidene vært underlagt hettitterriket, Assyria, Perserriket, Aleksander den store, Romerriket, Armenia, Bysants, seldsjukkene og Det osmanske riket.