Byens tidlige historie er usikker - noen historikere mener den fantes allerede i Sangam-perioden, selv om det så tidlig ikke finnes nedtegnelser om den. Thanjāvūr ble først en viktig by i regjeringstiden til mellomcholaene, da den var Chola-dynastiets hovedstad. Etter cholaenes fall var byen underlagt en rekke forskjellige riker, som Pandya-dynastiet, Vijayanagarariket, Madurai-nayak-dynastiet, Thanjavur-nayak-riket, Thanjavur-maratha-riket - de to sistnevnte med Thanjāvūr som sin hovedstad - og Britisk Raj. Siden 1947 har den vært del av Republikken India.