સિંધ પ્રાંતના પરમદેવ નામના રાજાએ તેના પર અણચિંતવ્યા હુમલાઓ કરી ગઝની લશ્કરને ત્રાહિમામ કર્યું હતું. મહમુદના લશ્કરના અનેક સૈનિકો અને પશુઓ ભૂખ અને તરસથી માર્યા ગયા હતા. હજારો સૈનિકોને લઈ મહમૂદ સ્વદેશ પરત ફર્યો ત્યારે તેની સેનામાં માત્ર ૨ હજાર સૈનિકો રહ્યા હતા. તેઓને સોમનાથની લૂંટમાંથી તેમની ક્ષમતા પ્રમાણે હિસ્સો કાઢી આપવામાં આવ્યો. મહમુદે ‘ગાઝી’ની ઉપાધિ ગ્રહણ કરી. ગઝનીમાં પુસ્તકાલય, સંગ્રહાલય અને મસ્જિદોનું નિર્માણ કરી સોમનાથનું ધન તેમાં વાપરવામાં આવ્યું. પરંતુ તેના આ વિજયનો ઉન્માદ લાંબો સમય ટકી ન શક્યો. ૩૦ એપ્રિલ ૧૦૩૦ના રોજ આંતરડાનો ક્ષય થતાં મહમુદનું અવસાન થયું. તેના મૃત્યુ પછી ગઝનીમાં તેના તરફનો આદર ઘટી ગયો હતો. ઈ.સ.૧૦૪૦માં તો ગઝનીનાં ભવનો, અરે, તેની કબરો સુદ્ધાં ખોદી કાઢવામાં આવી હતી.