माना जाता है कि भगवान शंकर के तांडव के समय माता पार्वती का अधर यही गिरा था। इसलिए इसे अधर देवी के नाम से भी जाना जाता है। मान्‍यता है कि यह मंदिर साढ़े पांच हजार साल पुराना है। अर्बुदा देवी की पूजा मां कात्यायनी के रूप में होती है क्योंकि मां अर्बुदा मां कात्यायनी का ही रुप मानी जाती है। यह मंदिर एक प्राकृतिक गुफा में प्रतिष्ठित है और यहां तक पहुंचने के लिए 365 सीढ़ियां चढ़नी होती हैं।