avaşı'yla beraber Türkler; Marmara ve diğer sahil bölgelerini kaybederek Orta Anadolu'da toplanmaya başlamışlardır. Haçlılar ise bir-iki gün Dorileon'da kaldıktan sonra Bizans kıtalarıyla beraber harekete geçmişler ve Bizanslılar onları, Emir Dağı ile Sultan Dağı'ndan önce Akşehir'e, oradan Konya'ya ulaştırmışlardır. Bu durum karşısında Türkler, bütün yol boyu ile Konya'yı terk ve tahrip ederek Haçlılar'ı yiyecek maddelerinden mahrum bırakmışlar; sıcak, yorgunluk ve ara sıra baskınlarla onlara kayıplar verdirmişlerdir.

Kılıç Arslan; Danişmend Ahmed Gazi, Hasan Bey ve diğer beyleriyle Haçlı ordusuna son bir darbe vurmak istemiş ve bu maksatla tüm kuvvetle Ereğli'de toplanmışlardır. Fakat Haçlılar'ın muhafaza ettikleri zırhlı kuvvetlerin karşısında mücadele edilemeyeceği anlaşılınca bunlar geri çekilmişlerdir. Haçlılar, Ereğli'de ikiye ayrılarak bir kısmı Gülek Geçidi'ni aşarak Kilikya'ya girmiş büyük kısmıysa kuzeye kıvrılarak Kayseri istikametinde ilerlemiştir. Kayseri emiri Hasan Bey, bu Haçlılar ile çetin bir savaş vermiş ve çekildiği dağ yamaçlarında çok zayiata uğramıştır. Hasan Bey, burada o kadar çok şehit vermiştirki kendi adını alan bu Hasan Dağı'nda onun namına yapılan bir takım türbe ve ziyaretgahlar asırlarca Türkler'in hatıralarında yaşamıştır.

Kuzeye kıvrılan Haçlılar; Türkler'in tahliye ettikleri Kayseri, Komana (Tokat), Göksun ve Maraş yoluyla güneye ilerlerken, Kilikya'ya giren Haçlılar Tarsus, Adana ve Mamistra şehirlerini hücumla Türkler'den almışlardır. Tarsus'da zayiat veren Türkler, diğer şehirleri mukavemet etmeden bırakmışlardır. Kılıç Arslan, Buldacı'nın liderliğinde Büyük Selçuklu sultanı Berkyaruk'a gönderdiği bir elçi heyetiyle yardım istemiştir. Berkyaruk ise gülerek "Dünyanın hiçbir milletinin Türkler'e bu kadar fenalık yapamaz" şeklinde bir yanıt vermiştir. Aynı şekilde Musul atabeyi Kerboğa da Kılıç Arslan'ın bu sözlerine hayret ettiğini, Keşiş Piyer'in İznik önlerinde imha edilen kuvvetlerini ve hala her tarafın cesetlerle dolu olduğunu belirtmiştir..

Büyük Haçlı taarruzu Anadolu Selçukluları'nı büyük bir zaafa ve sarsıntıya uğratmıştır. Bizanslılar, Anadolu'nun tüm sahil bölgelerini işgal etmişler; Çaka Bey'in İzmir'de vücuda getirdiği devleti ortadan kaldırmışlar ve tüm Batı Anadolu ile Karadeniz sahillerini ilhak etmişlerdir. Gülek Geçidi'ni aşıp Kilikya'ya giren Haçlılar sebebiyle şehirler ve ovalarda yerleşen Türkler'in çekilmesiyle beraberse Toros Dağlarına sığınan Ermeniler yavaş yavaş şehir ve ovalara inmeye başlayarak bir prenslik vücuda getirmeye başlamışlardır .

İznik'in kaybı ve Birinci Haçlı Seferi fırtınasından sonra Anadolu Türkleri kendilerini toparlamaya başlamış ve Kılıç Arslan, Konya'yı yeni payitaht yapmıştır. Daha 1102 yılında Konyalı Abdullah (el-Konevi) isminde bir alimin Konya'dan Şam'a gidip vaazlarda bulunması bu şehrin az bir müddet zarfında nasıl bir Türk - İslam şehri haline geldiğini göstermektedir . Kılıç Arslan'ın, Bizans'a karşı savunmada bulunduğu muhakkak olmasına rağmen, bir müddet onun faaliyetleri hakkında tafsilat bulunmamaktadır.

Danişmend Gazi; 1100 yılında Suriye'de yerleşmiş bulunan Haçlılar'ı Malatya civarında mağlup ve esir ederek bazı Haçlı prenslerini Niksar'da hapsetmiştir. Bu esnada Kılıç Arslan'ın da Danişmend Gazi ile beraber bulunduğu veya yardım kuvveti gönderdiği bazı kaynaklarda belirtilse de bunlar kesin değildir . Nitekim Danişmend Ahmed Gazi'nin bu zaferi ve bazı Frank prenslerinin esir düşmesi sonucu Avrupa'dan yeni Haçlı orduları harekete geçmiştir. Bizans topraklarından sonra Anadolu'ya geçen Haçlı ordusu, İznik-Eskişehir istikametinde ilerlerken Kılıç Arslan'ın taarruzları karşısında kayıplar vermiştir. Daha sonra bu ordu; Çankırı ve Ankara'yı geçip Niksar'a ulaşmak isterken Kılıç Arslan ve Danişmend Ahmed Gazi tarafından Amasya civarında, 1101 yılında tamamen ortadan kaldırılmıştır. Bu ilk ordunun arkasından gelen; Nevers, Poitier kontları ve Saint Gilles kumandasındaki ordu, Niksar yolunun tehlikelerini görerek Birinci Haçlı Seferi'ndeki gibi Akşehir, Konya ve Ereğli yolunu takip etmiştir. Sultan, bu orduyu Eskişehir, Akşehir, Konya bölgelerinde çok kayba uğratmış ve Ereğli'de tamamen kılıçtan geçirmiştir. Bu zaferle beraber Türkler, Birinci Haçlı Seferi'nin intikamını almıştır. Kaynaklar, 1101 Haçlı Seferi'ne katılan 300.000 kişiden sadece birkaç bininin Antakya'ya ulaşabildiğini belirtirler .

1101 Haçlı Seferi ile beraber Haçlılar; Anadolu'dan geçme ümit ve cesaretlerini kaybetmişlerdir. Yine Bizans imparatoru I. Aleksios; Haçlı seferlerinin artık tehlikeli olmaya başladığını görünce Kılıç Arslan'a müracaat etmiştir. Amasya zaferinden sonra Danişmend Gümüş-tekin'in (Danişmend Ahmed Gazi) Malatya'yı fethetmesi ve diğer meseleler, Kılıç Arslan'ı şarka çekmekteydi. Böylece Anadolu Selçukluları ile Bizans arasında Haçlılar'a karşı bir antlaşma yapılmıştır. Bu antlaşmayla beraber fiili olarak Bizans işgalinde bulunan Marmara sahilleri, İzmir bölgesi ve Antalya havalisi Bizans'a, geri kalan Anadolu Türkler'e bırakılmıştır. Ayrıca Müslüman ve Hristiyan kaynaklar, I. Aleksios ile Kılıç Arslan arasında Haçlılar'a karşı bir ittifak yapıldığını doğrularlar ve Bizanslılar'ın, Kılıç Arslan'dan aldıkları destekle Bohemond komutasındaki Haçlılar'ı mağlup ettiğini belirtirler. Garpta emniyet ve güvenliği sağlayan Sultan Kılıç Arslan; Gümüş-tekin Ahmed Gazi'nin Niksar'da esir tuttuğu Haçlı prenslerinin fidyelerinden kendisine hisse vermemesi, Malatya'yı fethetmesi gibi başlıca nedenlerden dolayı şark seferine mecburdu. Fakat ilk önce Haçlılar'dan zulüm gören Elbistan Ermenileri'nin daveti üzerine 1103 yılında Maraş ve Elbistan'ı kurtarmıştır. Oradan Antakya üzerine sefere niyetli olan Kılıç Arslan, Halep'e elçi göndererek askerlerinin beslenmesi için taleplerde bulunmuştur. Haçlı tehlikesi karşısında tedirgin olan Halepliler bu teklifle çok memnun olmuşlardır . Fakat Kılıç Arslan, Danişmend Gazi'nin esir aldığı Bohemond'u 100.000 dinar fidye karşılığında serbest bıraktığı, diğer Haçlı prensi Richard'ın fidyesi içinde Bizanslılar ile müzakereye giriştiğini öğrenmiş ve Antakya seferinden vazgeçmiştir. Daha sonra hem Türkiye sultanı hem de bir müttefik olarak Danişmend Gazi'den bu meblağların yarısını istemiş ama ret cevabı almıştır. Böylece Malatya'nın fethi ve bu hadise, Sultan Kılıç Arslan ile Danişmend Ahmed Gazi'nin arasını açmıştır. Bu yüzden aynı 1103 yılında Kılıç Arslan, Danişmend Gazi'nin üzerine yürüyerek onu bozguna uğratmıştır . 1105 yılında Danişmend Ahmed Gazi'nin ölümüyle beraberse Malatya'yı kuşatma altına almış ve şehir, 28 Haziran'dam 2 Eylül'e kadar kuşatılmış ve surları mancınık ile dövülmüştür. 2 Eylül'de Danişmend Ahmed Gazi'nin oğlu Yağı-sıyan; mukavemet edemeyeceğini anlamış ve hayatına dair teminat alarak şehri teslim etmiştir. Böylece Sultan Kılıç Arslan; 9 yıl önce tam fethine muvaffak olmak üzereyken Haçlı ordularının İznik'i kuşattıklarını öğrenince geri dönmüş ve bu tehlikeli savaşlar esnasında yıpranmıştır. Ama şimdi Danişmendliler'in artan nüfuzlarını kırarak şarkta genişleme siyasetini başlatmıştır . Kılıç Arslan'ın şarkta yayılma siyasetini başlatmasıyla beraber Büyük Selçuklular ile Anadolu Selçukluları arasındaki ailevi rekabet tekrar alevlenmiştir. Babası Süleyman Şah gibi Kılıç Arslan ve haleflerini şarka çeken başlıca nedenlerden biri Büyük Selçuklular'la olan ailevi rekabettir. Başka bir nedense İslam medeniyeti hudutları içinde gelişen şarkın, Orta Anadolu'ya göre çok ileri bir medeniyete sahip olmasıdır. Bu dönem Doğu Anadolu'da, Büyük Selçuklular'a bağlı beyler hüküm sürmekteydi. Diyarbakır'da Yınal oğlu İbrahim, Siirt'te Kızıl Arslan, Erzen'de Alp-tekin, Hani'de Şahruh]], Ahlat'ta Sökmen (Kutbi), Harput'ta Çubuk oğlu Mehmed ve Meyyafarkin'de Ziyaeddin Mehmed hakimdi. Kılıç Arslan buraları almak niyetindeydi ve Muhammed Tapar ile Berkyaruk arasındaki taht mücadeleleri kendisine fırsat vermekteydi.
Nitekim Ziyaeddin Mehmed, Sultan'ı Meyyafarkin'e davet etmiş ve Kılıç Arslan onu vezir yaparak Elbistan'ı kendisine ikta etmiştir. Yine aynı yılda, 1105 yılında diğer Doğu Anadolu beylikleri de Kılıç Arslan'a bağlılıklarını bildirmişlerdir. Daha sonra Kılıç Arslan; babasının kölesi ve kendisinin atabeyi Humar-taş'ı (Sıbt, 144a) Meyyafarkin'e vali yapmıştır . Bütün Doğu Anadolu halkı, Haçlılar'a karşı Sultan Kılıç Arslan'ın idaresine girmekten memnun olmuştur. Doğu Anadolu'da sadece Erzurum'a hakim Saltuklu ve Ahlat'a hakim Sökmenli beyleri Büyük Selçuklular'a bağlılığı devam etmişlerdir.

Kılıç Arslan, topladığı Doğu Anadolu emirleriyle beraber Urfa kontu Baudoin'e karşı harekete geçmiştir. Çünkü Baudouin civar bölgelere ve Mardin Artuklu beyi Uluğ-salar'ın memleketine akın yaparak birçok ganimet elde etmişti. Kılıç Arslan; 1106 yılında ('Azimi bu tarihi yanlışlıkla 1103 olarak verir) Urfa'yı kuşatmış ama zaptı daima güç olan Urfa'nın direnmesi ve Çökermiş'in adamlarının gelerek Harran'ı kendisine teslim edeceklerini bildirmeleri üzerine Sultan Harran'a gitmiş ve halka, Haçlı tehlikesine karşı büyük bir emniyet gelmiştir. Fakat hastalanan Kılıç Arslan, Malatya'ya dönünce Urfa kuşatması kalmış ve Anadolu Selçukluları'nın şarkta genişleme siyaseti bir müddet ileri gidememiştir .

Bu dönem de Büyük Selçuklu sultanı Muhammed Tapar, Musul eyaletini Çökermiş'in elinden almış ve yerini Çavlı'yı tayin etmiştir . Emir Çavlı'nın Çökermiş'i öldürmesi üzerine Musul ileri gelenleri Çökermiş'in oğlu Zengi'ye itaat etmişlerdir. Emir Çavlı'nın Musul'u kuşatması üzerine şehrin muhafızı olan Çökermiş'in kölesi Oğuzoğlu (Guzoğlu); şehri müdafaa etmiştir. Kuşatma sürerken Zengi'nin adamları Malatya'ya, Kılıç Arslan'a haber göndererek Musul'u kendisine teslim edeceklerini bildirmişlerdir. Bunun üzerine Kılıç Arslan Musul üzerine hareket etmiş ve Nusaybin'de Çavlı'yı mağlup etmiştir. 22 Mart 1107 tarihinde Musul'a giren Kılıç Arslan; Çökermiş'in oğlu ve adamlarına hilatler vermiş, Sultan Muhammed Tapar adına okunan hutbeyi kendi adına çevirmiştir. Askerlere çeşitli ihsanlarda bulunan Kılıç Arslan, Oğuzoğlu'ndan