પંદરમી અને સોળી સદીમાં સુરત અને તેની આસપાસના વિસ્તારમાં સૂર્યપૂજા પ્રચલીત હતી. તાપી પુરાણ અને તાપી મહાત્મ ગ્રંથોમાં નોંધ અનુસાર કપિલ મુનિએ તપ કરીને સૂર્યદેવને પ્રસન્ન કર્યા હતા. તેની વિનંતીથી સૂર્ય તાપી કિનારે કાંતારશિવ સ્વરૃપે આવીને રહ્યા હતા. બાદમાં આ વિસ્તારમાં ત્રણ શિવલિંગ પ્રગટ થતા રાજરાજેશ્વર મહાદેવ મંદિરનું નિર્માણ થયું હતું. ઇતિહાસકાર સંજય ચોકસીના જણાવ્યા અનુસાર ચોકબજાર વિસ્તારમાં રાજા ઓવારા સ્થિત પ્રાચીન રાજરાજેશ્વર મહાદેવ મંદિરમાં પથ્થરોના શિલ્પોમાં ઇ.સ. 1264-1273નો પાળિયો છે.