Navnet Kirkcaldy betyr «stedet for den harde borgen» eller «stedet for Caleds borg». Det er avledet fra det piktiske som betyr «borg/festningsverk», , som er piktisk «hardt» eller et personnavn, og «-in», et suffiks som betyr «sted for». kan beskrive selve borgen eller være et tilnavn for en lokal «hard» hersker. En tolkning av det siste elementet som (igjen betyr «borg») i stedet for er feil. The Old Statistical Account gir en avledning fra , som har blitt gjentatt i senere publikasjoner,, men dette er også feil.