કહેવાય છે કે માતા પાર્વતી જયારે યજ્ઞ કુંડમાં ભસ્મ થયા હતા ત્યારે શિવજીએ તેમના અંગની ભસ્મ ચારે દિશામાં ફેંકી હતી અને જ્યાં જ્યાં તે ભસ્મ પડી છે તે શક્તિપીઠ તરીકે પૂજાય છે.