માતા સતિના અંગ જ્યાં-જ્યાં પડ્યા, ત્યાં શક્તિપીઠના રૂપમાં સ્થાપના થઈ. ધર્મગ્રંથોમાં કુલ 51 શક્તિપીઠોની માન્યતા છે. આ શક્તિપીઠોમાંથી એક માતા હરસિદ્ધિ છે. અહીં માતા સતીની કોણી પડી હતી. હરસિદ્ધિ માતાનું મંદિર મધ્યપ્રદેશના ઉજ્જૈન અને ગુજરાતના દ્વારકા બંને જગ્યાએ સ્થિત છે. માતાજીની સવારની પૂજા ગુજરાતમાં અને રાતની પૂજા ઉજ્જૈનમાં થાય છે. માતાજીનું મૂળ મંદિર ગુજરાતના દ્વારકામાં સ્થિત છે. અહીંથી મહારાજ વિક્રમાદિત્ય તેમને પ્રશન્ન કરીને પોતાની સાથે ઉજ્જૈન લઈ ગયા હતા. આ વાતનું પ્રમાણ છે માતાજીના બંને મંદિરમાં પૃષ્ઠ ભાગ એક જેવો છે.