गजदंडस्वामींचा आश्रम सोडण्यापूर्वी त्यांनी गळ्यातील इष्टलिंग काढून तेथेच ठेविले आणि ते यात्रेला निघाले. या यात्रेमध्ये ते अखंड भारत हिंडले; काश्मीर ते कन्याकुमारी पर्यंत ते पायी चालत प्रत्येक तीर्थक्षेत्राला भेट देत आणि वाटेतील भक्तांच्या, मुमुक्षूंच्या वेदांतशास्त्रातील तसेच साधनेतील अडीअडचणी दूर करून त्यांना मोक्षमार्गी लावीत. आत्मज्ञानप्राप्ति हेच मानवी जीवनाचे परमोच्च ध्येय असून त्याने ते प्राप्त करण्याकरिता अखंड परिश्रम करावेत असे ते सांगत.