Kaupungin muinainen nimi oli "Sis" tai "Siskia". Se oli 1000-luvulla armenialaisten asuttama kaupunki ja Kilikian armenialaisvaltion keskus. Se oli vahva kristillisyyden keskus piispanistuimineen ja linnoineen. Tuolloin Sis länsimaalaistui ja ranskalaistui vahvasti. Ottomaanivalta alkoi alueella 1300-luvulla, mutta silloinkin Sis pysyi omaleimaisena ja sen uskonnollinen vapaus säilyi. Niinpä kansanparantajat työskentelivät paikallisten jäsenkorjausoppien ja luonnonlääkinnän avulla. Vielä 1900-luvun alussa kaupungin asukkaiden enemmistö oli armenialaisia, mutta suuri osa heistä surmattiin armenialaisten kansanmurhassa vuonna 1915. Turkin tappio ensimmäisessä maailmansodassa merkitsi sitä, että Kilikia oli ranskalaisjoukkojen valvonnassa joulukuusta 1918 lokakuuhun 1921. Tänä aikana armenialaisten sallittiin palata Kozaniin. Tosin useilla vastaavilla alueilla armeinialaiset karkotettiin uudelleen, kun Turkki sai päätösvallan takaisin itselleen, joten näin lienee tapahtunut Kozanissakin. Lausannen sopimus palautti alueen hallinnan Turkille.