સ્વર્ગદ્વાર અને મોક્ષદ્વાર તરીકે ઓળખાતાં મુખ્ય મંદિરનાં બે દ્વારો પૈકીના પ્રથમ દ્વારથી ગોમતી તરફ ઉતરતાં 56 પગથિયાની સીડીની બંને બાજુએ તેમજ ગોમતીકાંઠે અનેક બીજાં મંદિરો આવેલા છે.