Karayakup Kasabası, 1956 yılında Terzili Köyü ile birleşerek belediye olmuştur. Eski dönem medeniyetlerinde Hititler, Frigyalılara ev sahipliği yapmış. Cumhuriyet dönemi öncesi Ermeni yerleşkesi olarak bilinir. Ermeni Kırımı'ndan sonra bölgeye Yunanistan ve Bulgaristan göçmenleri başta olmak üzere batı ve doğu illerinden göç almıştır. Karayakup Kasabasında Osmanlı Döneminde yapılan köprü ve Hitit döneminde kullanıldığı sanılan höyük vardır. Kasabanın nüfusu 2008 itibarıyla 2.294'tür. Köyün geçim kaynağı tarım ve hayvancılıktır. İlçeye 7100 metre uzaklıkta olan kasaba Sarıkaya-Akdağmadeni karayolu üzerindedir.