અરુણગિરિનાથના નવા મંદિરમાં પણ લોકોની ને દર્શનાર્થીઓની ભીડ સારા પ્રમાણમાં રહેતી હોવાથી મહર્ષિને શાંતિ ના લાગી. એટલા માટે એકાદ માસ પછી એમણે એ મંદિરનો ત્યાગ કર્યો, અને અરૂણાચલેશ્વરના મંદિરના મિનારામાં રહેવા માંડ્યું. પરંતુ ત્યાં પણ શાંતિ ના દેખાવાથી એકાદ અઠવાડિયાથી અધિક ના રહી શક્યા. એ સ્થાનપરિવર્તન કરીને અરૂણાચલની ઉત્તરપૂર્વ દિશામાં આવેલી પવલ કુન્નૂ નામની ટેકરી પર પહોંચી ગયા. જનતાની માન્યતાનુસાર એ ટેકરી અરૂણાચલ પર્વતની જ પવિત્ર ટેકરી છે. એની ઉપર શંકર ભગવાનનું મંદિર, જલાશય તથા ગુફા ને નીચે મઠ છે. મહર્ષિ મંદિરના મંગલ વાતાવરણમાં આવેલી ગુફામાં રહેવા લાગ્યા. પલનિ સ્વામી સેવાભાવથી પ્રેરાઈને એમને માટે ભિક્ષા માગી લાવતા, પરંતુ કોઈવાર એ બહાર જતા ત્યારે મહર્ષિ ગુફામાંથી બહાર આવી, નીચે ઊતરીને, એ કામ અત્યંત પ્રેમપૂર્વક કરી લેતા. ભાવિક ભક્તો ગુફામાં પણ ભિક્ષા પહોંચાડવાનો આગ્રહ રાખતા.