üveyhoğullarına karşı halifeliği korumuş, daima halifenin ismini paralarının üzerine bastırmış, seferlerinden sonra elde ettiği ganimetlerden Bağdat'a hediyeler de göndermiştir.

Sultan Mahmut, ölmeden önce hâkim olduğu ülkeleri beş erkek çocuğundan büyük olan ikisi arasında bölüştürmüştü. Buna göre; Gazne, Horasan, Belh ve Hindistan'nın kuzeyi Muhammet'e, yeni zapt edilmiş ve geleceği meçhul olan Rey, İsfahan ve Cibal ise büyük oğlu Mesut'a verilmişti. Gazneli Mahmut 30 Nisan 1030 tarihinde öldükten sonra, hanedan üyeleri tarafından 33 yaşındaki Gazneli Muhammet tahta geçirildi. Muhammet tahta geçer geçmez sarayda bazı anlaşmazlıklar çıkmış ve bazı komutanlar ve köleler Mesut'un yanına kaçmıştı. Bu sırada İsfahan'da bulunan Mesut'a babasının ölüm haberi, 26 Mayıs 1030'da ulaşmıştı. Kardeşiyle yapacağı taht mücadelesi için ülkenin batı kısmını vekiline bırakarak Rey'e geldi. Kardeşine bir mektup yollayan Mesut, kardeşinin vekili olmak ve hutbelerle paralarda kendi adının da zikredilmesini istedi. Ancak, Muhammet bu istekleri kabul etmedi.

Abbasi halifesi El-Kadir ve Horasan orduları kumandanı gibi makam sahibi olan kişilerin de kendini hükümdar olarak tanıdığını haber alan Mesut, Karahanlı hükümdarının da desteğini almış ve babası Gazneli Mahmut devrinde ülkeden kovulan Türkmenlerin geri gelmesine izin vermiştir. Gazneli Muhammet, sultan oluşundan 4 ay sonra, kardeşinin üzerine yürüdü. Ordu komutanları Rey'e ulaşmadan, Muhammet'e artık Sultan Mesut'a tâbi olduklarını bildirdiler ve Muhammet'i yol üzerindeki bir kaleye hapsettiler.

Gazneli Muhammet'i hapseden komutanlar, Ekim 1030'da Gazneli I. Mesut'un adına hutbe okuttular ve bunun üzerine Mesut, hükümdar oldu. Gazneli Sultan Mesut, ilk iş olarak hapiste bulunan kardeşi Muhammet'in gözlerine mil çektirdi. Sonra, amcası Yusuf'u Kusdar valisi olarak görevlendirdi. Mesut'un Belh'te bulunduğu sırada Kirman'dan gelen casuslar, bu bölgenin karışıklık içerisinde olduğunu belirttiler. Sistan'a komşu olması yönüyle stratejik bir konuma sahip olan Kirman, 1031 yılında kesin olarak Gazneli hâkimiyetine alındı.

Casusları sayesinde amcası Yusuf'un Karahanlılar'la yazıştığını öğrenen Mesut, amcasını tutuklattırarak bir kalede hapsettirdi; amcası 1032'de hapiste öldü. Sultan Mesut, 2 Haziran 1031'de Gazne'ye geldiğinde halk tarafından iyi karşılanarak, çeşitli tayinler yaptı. Ardından, 17 Ağustos 1031'de Hindistan'a doğru sefere çıktı.

Buhara'daki Gazneli casuslar Karahanlıların askeri hazırlıklar yaptığını haber vermişlerdi. Belh'teyken bu durumu haber alan Sultan Mesut, devletin ileri gelenleriyle görüştü ve Karahanlılar ile savaşma görevini Harezmşah Altuntaş'a vermeyi kararlaştırıp, 15.000 kişilik bir orduyu da Altuntaş'a yardımcı kuvvet olarak gönderdi. Buhara-Semerkant yolunun yaklaşık yarı noktasında bulunan, Debusiye kasabasında meydana gelen muharebede, iki taraf da birbirine üstünlük sağlayamadı ve bir anlaşma yapıldı. Altuntaş, bu anlaşmadan hemen sonra ölünce, Sultan Mesut, onun yerine, onun oğlu Harun'u Harezm'e tayin etti.

1033'te Sultan Mesut'un ordusundaki Türkmenler'le arası yavaş yavaş bozulmaktaydı. 1034 yılı ilkbaharında Harezm hâkimi Gazne devletine isyan etti. Görünürdeki sebep, Sultan Mesut'un sarayında rehine olarak bulunan kardeşinin ölümüydü. Gerçek sebep ise, Horasan'da Türkmenlerin çıkardığı karışıklıklardan istifade ederek, bağımsız olma isteğiydi. Karahanlılar ve Selçuklular ile ittifak yapan ve Gazne yollarını kapatarak, hükümdarlığını ilan eden Harezm hâkimi'nin bu durumundan Sultan Mesut 29 Temmuz 1034'te haberdar oldu. Harezm hâkimi, Tuğrul ve Çağrı beyler, birçok asker, çadırlar ve sürüleriyle ona yardım için Harezm sınırına geldiler. Ancak Harezm hâkimi, Gazneli bir vezirin satın aldığı adamlar tarafından yaralandı ve 18 Nisan 1035'te öldü. Bu ölüm üzerine müttefikleri, saldırıdan vazgeçtiler. Bu olay üzerine Harezm'in merkezinde çıkan karışıklıklar, Harezmşah Altuntaş tarafından engellendi.

1032-1033 yıllarında Hindistan başkomutanı Ahmet Yınaltegin, Hindistan topraklarının yerel yöneticisi olan Kadı Ebu'l-Hasan Şirazî ile bir sürtüşme yaşadı. Bunun üzerine Ahmet Yınaltegin, Gazneli Mahmut'un oğlu olduğunu iddia etti. Bunu öğrenen Mesut, Eylül-Ekim 1034'te bir ordu göndererek Ahmet'i öldürttü. Dihistan'a bir sefer düzenleyen Mesut, 25 Ocak 1035'te Cürcan'a ulaştı. Selçukluların Horasan'dan birkaç vilayet istemesi üzerine harekete geçen Mesut, 29 Haziran 1035'teki savaşı -ordusunda fil avantajı olmasına rağmen- kaybetti. Daha sonra iki taraf arasındaki görüşmelerde Selçuklular, Dihistan'ı ve Horasan'dan birkaç vilayeti aldılar. Selçukluların başarısından cesaret alan Irak'taki Türkmenler de harekete geçtiler, Rey şehrine yürüdüler ve burayı ele geçirdiler. Şubat-Mart 1038'deyse Rey şehri ve civarı tamamen elden çıktı. Türkmenlerin 1037 yılının başlarında tekrar saldırıya geçmesi üzerine birtakım tedbirler alan Mesut, Türkmenlere karşı Karahanlılar'la iyi ilişkiler kurdu.

Gazneli Sultan Mesut'un Hindistan'a sefer yapmak istediğini açıklaması üzerine vezirler ve devletin diğer ileri gelenleri Horasan'da karışıklıkların bulunmasından ötürü bu sefere karşı çıktılar. Onları dinlemeyen Mahmut, 6 Ekim 1037'de Gazne'den ayrıldı ve 1038 yılının kışına kadar Hindistan'da birçok kaleyi ele geçirdi. Mesut seferdeyken Türkmenler, Horasan'daki 2 Gazneli şehrini yağmaladı. Bunun üzerine gönderilen Gazne ordusu, Mayıs 1038'de ağır bir yenilgiye uğradı ve Nişabur'u kaybetti. Karahanlılar'la arası tekrar bozulan Mesut, otuz filin de yer aldığı ordusuyla harekete geçerek 6 Nisan 1039'da yapılan savaşı kazandı ve Belh şehrine döndü. Haziran 1039'da Selçuklular ile Gazneliler arasında bir savaş daha çıksa da iki taraf da birbirine üstünlük sağlayamadı ve iki taraf arasında anlaşmaya varıldı. Türkmenlere güvenmeyen Mesut, hazırlık yaparak Nişabur üzerine yürüdü ve 16 Ocak 1040'ta şehre girdi. Ancak, aşırı tahribata uğramış Nişabur'da yiyecek sıkıntısı vardı, çevre vilayetlerden erzak getirtmek için Mesut, Selçuklu topraklarında ilerlemeye başladı. Yine de erzak bulamayan Mesut, Merv şehrine yürümeye karar verdi. 22 Mayıs 1040'ta Gazne ordusundan Selçukluların tarafına geçen Türkmen atlılarıyla bir çatışma sonucu ikmal hatları kesilse de, Gazneli Mesut'un ordusu savaş düzenini aldı.

24 Mayıs 1040'ta başlayan savaşta, Gazne ordusu Dandanakan Kalesi'ne yürürken Selçuklu ordusu hücuma geçti. Gazneli ordusu bu hücuma rağmen öğleye doğru kaleye ulaşabildi. Gazneli Mesut'un verdiği bir karardan hemen sonra, 375 saray gulamının Gazne ordusundan ayrılarak Selçukluların tarafına geçmesi ve daha önce kaçmış olanlarla birleşmesi savaşın kaderini değiştirdi. Selçukluların hücumu sonrası, yorgun ve moralsiz olan Gazne ordusu dağıldı.

Bu muharebe Selçuklular'ın bölgede hâkimiyetinin başlangıcı ve Büyük Selçuklu Devleti'nin kuruluşu olarak kabul edilir.

Dandanakan'daki yenilginin ardından, Selçuklulardan çekindiği için Hindistan'a gitmeye karar veren Mesut, oğlunu ve devlet hazinesini de yanına alarak 15 Kasım 1040 tarihinde Hindistan yoluna çıktı. Ancak, Türk ve Hint gulâmlarının yoldayken ayaklanması sonucu Mesut'un kardeşi Gazneli Muhammet, 21 Aralık 1040 tarihinde ikinci kez Gazne sultanı ilan edildi. Mesut, Kurri kalesinde hapse atıldı, 17 Ocak 1041'de bu kalede öldürüldü.

Gazneli Muhammet, ikinci kez tahta geçtikten sonra hemen başkent Gazne'ye dönmemiş ve kışı Peşaver'de geçirmişti. Babasının ölüm ve amcasının tahta çıkış haberlerini alan Gazneli Mevdud, Gazne'ye geldi ve hükümdarlığını ilan etti. Bahar geldiği zaman da, amcası Gazneli Muhammet'in üzerine yürüdü. 8 Nisan 1041'de Celalabat'ta yapılan çarpışmayı Mevdud kazandı ve Gazneli Muhammet'le taraftarları öldürüldü.

Gazneli Mevdud, Gazne Devleti'nde tam olarak hâkimiyet kuramamıştı, çünkü kardeşi Mecdud, Hindistan ordusuyla tahtı ele geçirmek için Gazne'ye yürümekteydi. Ancak Mecdud, 11 Ağustos 1041'de Lahor'daki çadırında ölü bulundu. Bu sayede hâkimiyetini tamamen ilan eden Mevdud, Sistan'da hâkimiyeti ele geçirmeye çalıştı. Ne var ki, tam anlamıyla başarılı olamadı. 1043-1044 yıllarında Hint racalar bir araya gelip isyan etse de bu isyan bastırıldı ve racalarla devletin arasının düzeltilmesi yönünde somut adımlar atıldı.

Gaznelilerin Selçuklular karşısında kaybettikleri toprakları geri almak isteyen Mevdud, Çağrı Bey'in kızıyla evli olmasına rağmen, Çağrı Bey'in hastalanmasını fırsat bilerek Horasan'a bir ordu yolladı. Bunun üzerine Çağrı Bey'in görevlendirdiği Alp Arslan, Ağustos-Eylül 1043'te Gazne ordusuna saldırdı ve birçok ganimetle babası Çağrı Bey'in yanına döndü. Selçukluları tek başına yenemeyeceğini anlayan Gazneli Mevdud, bir takım ittifak arayışlarına girdiyse de, hastalığı buna izin vermedi ve 18 Aralık 1049'da hayatını kaybetti.

Gazneli Mevdud'un ölümünden sonra yerine geçen Gazneli II. Mesut, Mevdud'un Çağrı Bey'in kızıyla olan evliliğinden doğmuştu. Onun küçük yaşından dolayı, kısa saltanatındaki devlet işleriyle annesi ilgilenmişti. Devletin ileri gelenleri II. Mesut'u 29 Aralık 1049'da tahttan indirerek yerine Sultan Ali'yi geçirdiler. Ali, tahta geçtikten sonra, amcası Abdürreşit'i hapsettirmiş ve vezirinin komuta ettiği bir orduyu orduyu Sistan'a göndermişti. Vezir ise hanedanın en yaşlı üyesi olan Abdürreşit bin Mahmut'u hapisten çıkarıp onu sultan ilan etti. Ordunun amcasının elinde olduğunu gören Sultan Ali kaçmaya çalıştı ama yakalanarak hapsedildi. 24 Ocak 1050'de Gazne tahtına oturan Abdürreşit, Gaznelilerin Hindistan'daki durumunu sağlamlaştırmaya çalıştı. Abdürreşit, başkomutan tayin ettiği Tuğrul Bozan'a Selçukluları durdurma görevi vermişti. Tuğrul Bozan, 1051'de Selçukluları mağlup etti ve Sistan'ı ele geçirdi. Sonra Gazne'ye yürüyen Tuğrul Bozan, Sultan Abdürreşit ve on bir şehzadeyi öldürerek tahtı ele geçirdi. Bu katliamdan Ferruhzad, İbrahim ve Şücâ adlı şehzadeler kurtulabildi. Gazneli Sultanı Mesut'un gulâmlarından Nuştegin yanında bulunan iki gulamı ile Tuğrul Bozan'ı hançerleyince, sağ kalan üç şehzade de kurtulmuş oldu. Bundan sonra Gazneli komutanlar bir a