Kirkcaldy har lenge hatt tilnavnet (skotsk for «lang by») i henvisning til den tidlige byens 1,4 km lange hovedgate, som angitt på kart fra 1500- og 1600-tallet. Gaten skulle til slutt nå en lengde på nesten 6,4 km, og forbinde byen med de nærliggende bosetningene Linktown, Pathhead, Sinclairtown og Gallatown, som ble en del av byen i 1876. Den tidligere adskilte burgh og landsbyen Dysart ble også senere oppslukt av Kirkcaldy i 1930, og vedtatt ved lov fra parlamentet.