પોતાના શિષ્ય ખેતડીના મહારાજા સાથે અઢી મહિના ગાળી બધી માયા ખંખેરીને સ્વામીજીએ ઓક્ટોબર ૧૮૯૧માં અજમેર તરફ પ્રયાણ કર્યું અને ત્યાં હરબિલાસ શારદા અને શ્યામજી કૃષ્ણ વર્મા સાથે બે અઠવાડિયા ગાળ્યા પછી તેઓ અમદાવાદ ભણી વળ્યા. જૂના જમાનામાં કર્ણાવતી તરીકે ઓળખાતું અમદાવાદ ગુજરાતના સુલતાનોનું પાટનગર હતું અને દેશના સુંદરમાં સુંદર શહેરોમાં તેની ગણના થતી.