કહેવાય છે કે બેલુમ ગુફાઓને પ્રાચીન કાળમાં ઉપયોગમાં લેવામાં આવતી હતી, આ ગુફામાં પ્રાચીન કાળમાં જૈન અને બૌદ્ધ સાધુઓ રહેતા હતા.