આમ તો આ ગઢ કાલિકાના મંદિરનો શક્તિપીઠમાં સમાવેશ થતો નથી પરંતુ ઉજ્જૈનમાં હરસિદ્ધ શક્તિપીઠ હોવાને લીધે આ સ્થળનું મહત્વ વધી જાય છે. પુરાણોમાં ઉલ્લેખ છે કે ઉજ્જૈનમાં ક્ષિપ્રા નદીના કિનારાની પાસે ભૈરવ પર્વત પર માઁ ભગવતી સતીના હોઠનો ભાગ પડ્યો હતો.