આ મંદિરમાં જ્યોતિર્લિંગ ગર્ભગૃહના ઈશાન ખૂણામાં છે. તેનો અર્થ થાય છે કે તે સંપૂર્ણ વિદ્યા અને દરેક કળાથી ભરપૂર છે. આ મંદિરનું મુખ્ય દ્વાર દક્ષિણથી ઉત્તરની તરફનું છે તેથી સૌથી પહેલા બાબાના અઘોર સ્વરૂપના દર્શન થાય છે. પ્રવેશ કરતાંની સાથે જ માણસના તમામ પાપ કર્મો નષ્ટ થઈ જાય છે. ભક્તો માને છે કે બાબા દિવસભર કાશીમાં ભ્રમણ કરે છે અને રાત્રિના નવ કલાકે મંદિરમાં થતી શ્રૃંગાર આરતી સમયે તેઓ રાજાના વેશમાં આવી જાય છે. તેથી તેમને સ્થાનિકો રાજેશ્વર પણ કહે છે. કહેવાય છે કે માતા ભગવતિ અન્નપૂર્ણાના રૂપમાં કાશી નિવાસીઓનું પેટ ભરે છે અને બાબા મૃત્યુ પછી તેમની આત્માને મુક્તિ પ્રદાન કરે છે.