ularını başlattı. 5 Eylül'de Terim, kadrosunu daha da sağlamlaştırmak için eski oyuncusu Ümit Davala'yı transfer etti. 9 Eylül'de Milan ikinci maçında Terim'in eski takımı Fiorentina'yı 5-2 yenerek kara bulutları dağıttı ve ligde üst üste galibiyetler almaya başladı. Öte yandan UEFA Kupası'nda BATE Borisov'u iki maçta da geçerek tur atladı.

Terim, lide ilk mağlubiyetini beşinci hafta Perugia karşısında aldı ve bu mağlubiyeti üst üste iki beraberlik takip etti. Öte yandan UEFA Kupası ikinci turunda CSKA Sofya'yı elediler ve ligde Milano derbisinde Inter'i 4-2 mağlup ettiler. Ancak bu maçında ardından gelen Bologna beraberliği ve 4 Kasım 2001'deki 1-0'lık Torino FC mağlubiyeti ardından Terim görevinden uzaklaştırıldı ve adı daha önce de Milan ile alınan Ancelotti takımın başına geçti. Milan, o sezon ligi dördüncü bitirip Şampiyonar Ligi vizesini alırken, İtalya Kupası ve UEFA Kupası'nda da yarı final gördü.

Terim'in İtalya serüveni sırasında Galatasaray'ın başına geçen Mircea Lucescu başarılı Avrupa performansına ve 2000-01 sezonunda şampiyonluğu kovalamasına rağmen yönetimle arasındaki problemler yaşarken, Terim'in adı Galatasaray ile anılmaya başlandı. Sezon sonunda Lucescu, Galatasaray'a şampiyonluğu kazandırmasına rağmen sezon sonunda istifasını verdi ve Galatasaray'da ikinci Fatih Terim dönemi başladı. Terim, UEFA Kupası kazanan kadrodan Ümit Davala ve Hakan Ünsal'ı takıma geri getirirken, 10 numaraya Felipe'yi transfer etti. 11 Ağustos 2002'de ligin ilk haftasında Samsunspor karşısında alınan 4-1'lik galibiyetle de Terim'in ikinci Galatasaray mücadelesi başarılı başladı. İlk 10 hafta namağlup devam eden takım 6 Kasım 2002'de ezeli rakibi Fenerbahçe'ye 6-0 yenilerek tarihi bir mağlubiyet aldı. Aynı dönemde başarısız bir Şampiyonlar Ligi performansı sonucu grup aşamasında da elendi. Daha sonra Terim'li Galatasaray performansını yükseltip, ligde galibiyet serileri yakalasa da 25 Mayıs 2003'te şampiyonluk yarışı yaptığı Beşiktaş'a Sergen Yalçın'ın son dakikada attığı golle yenildi ve şampiyonluğu Lucescu'nun çalıştırdığı Beşiktaş'a verdi.

2003-04 sezonunda Terim, Hakan Şükür ile kadrosunu güçlendirirken yabancı tercihlerini Rumen oyunculardan kullandı. Galatasaray, ön elemeleri geçerken tekrar Şampiyonlar Ligi gruplarına kalma başarısı gösterdi. Ancak sene sonuna doğru takımda işler iyi gitmemeye başladı. Önce takım, Türkiye Kupası'nda Çaykur Rizespor'a 5-0 yenilerek elendi. Daha sonra Villarreal CF, Galatasaray'ı 3-0 yenerek UEFA Kupası 3. Tur'unda eledi. Ligde de üst üste puan kayıpları ile yarıştan kopan Galatasaray'da Fatih Terim, takımdan ayrılma kararı aldı. 20 Mart 2004'te Çaykur Rizespor maçı ile Galatasaray'dan ayrılacağını açıklayan Terim, bu döneminin son maçını da kaybetti ve Galatasaray'dan ayrıldı.

Haziran 2005 yılında tekrar Türkiye millî futbol takımının başına geçti. Ersun Yanal yönetiminde 2006 FIFA Dünya Kupası elemelerine kötü başlayan Türkiye millî takımında Terim ilk değişikliği Yanal'dan veto yiyen Hakan Şükür'ü tekrar kadroya alarak yaptı. Terim'li Türkiye ilk grup eleme maçında Danimarka ile son dakikada yediği golle berabere kalsa da 4 gün sonra namağlup grup lideri Ukrayna'yı 1-0 yenerek tekrar potaya girdi. Son maçta Arnavutluk'u da aynı skorla yenen takım grubu ikinci bitirip play-off turuna yükseldi. Bu turda İsviçre'yle eşleşen Türkiye, deplasmanda oynadığı ilk maçı 2-0 kaybetti, 16 Kasım 2005'te oldukça çekişmeli geçen maçı 4-2 kazanmasına karşın, kendi sahasında yediği goller nedeniyle evde kalan taraf oldu. Maç sonrası çıkan iki takım arasında çıkan kavga maç skorunun önüne geçti. FIFA tarafından verilen cezalarda ise Terim'in adı yer almadı.

7 Şubat 2007'de Gürcistan maçıyla 55. kez takımın başında sahaya çıkarak, Coşkun Özarı'nın rekorunu kırdı. 2008 Avrupa Futbol Şampiyonası elemeleri süresince aldığı mağlubiyetler ve beraberliklerden sorumlu tutuldu. Fakat daha sonrasında elde ettiği Norveç ve Bosna-Hersek galibiyetleriyle Türkiye millî takımını Avusturya ve İsviçre'de yapılacak olan 2008 Avrupa Futbol Şampiyonası finallerine götürdü. Galatasaray ve Fenerbahçe ağırlık bir kadro ile Avrupa Şampiyonası'na giden Türkiye, ilk maçında Portekiz'e mağlup olsa da İsviçre ve Çek Cumhuriyeti karşısında yaptığı geri dönüşlerle çeyrek finale çıkmayı başardı. Çeyrek finalde Hırvatistan'ı penaltılarla geçen Türkiye, tarihinde ilk kez bu turnuvada yarı finale yükseldi. Yarı finalde sakatlıklar nedeniyle tam kadro sahaya çıkamamasına rağmen Türkiye, Almanya'yı zorladı ve son dakikalarda yediği golle 3-2 yenilerek elendi ve o sonuçla da Türkiye 2008 Avrupa Futbol Şampiyonası'nda 3. oldu. Fatih Terim, bu turnuvanın en iyi teknik direktörü seçildi.

2010 FIFA Dünya Kupası elemelerinde de Terim, takımı yönetmeye devam etti. Ancak İspanya ve Bosna-Hersek'in ardından üçüncü olan Türkiye millî futbol takımını 2010 FIFA Dünya Kupası'na taşıyamadığı için 19 Ekim 2009 tarihinde basın toplantısı düzenleyerek görevinden ayrıldığını açıkladı.

UEFA Kupası'nı kazandırdığı 17 Mayıs 2000 tarihinden tam 11 yıl sonra, 17 Mayıs 2011'de 3. kez Galatasaray teknik direktörlüğüne getirildi. 1 Temmuz 2011 tarihinde Türk Telekom Stadyumu'nda gerçekleştirilen törende, Galatasaray ile üç senelik resmi sözleşmeye imza attı. Bir önceki sezondaki büyük başarısızlık sonucu yeniden yapılanmaya giden ve Ünal Aysal'ın başkanlığa gelmesiyle iyi transferlerle gücünü arttıran Galatasaray, sezona Fernando Muslera, Emmanuel Eboué, Felipe Melo, Johan Elmander, Tomáš Ujfaluši ve Albert Riera gibi flaş transferler yaparak başladı. Terim, sezona Başakşehir mağlubiyetiyle başlasa da bu kadroyu başarıyla yönetmeyi başardı ve normal sezonu 9 puan önde tamamladı. Sadece bu sezon uygulanan Şampiyonluk Grubu'nda puan kayıpları yaşadı ve şampiyonluk 12 Mayıs 2012 tarihinde Fenerbahçe Şükrü Saraçoğlu Stadyumu'nda oynanan Fenerbahçe - Galatasaray maçına kaldı. Maç 0-0 sona erince Galatasaray, 18. lig şampiyonluğunu rakibinin sahasında ilan etme başarısını gösterdi. Galatasaray'la sezonu zirvede tamamlayan Terim, kariyerinin 5. lig şampiyonluğunu elde ederken, lig tarihinin en fazla şampiyonluk kazanan teknik direktörü unvanını elde etti.
Daha önce 2002 yılında düzenlenen UEFA Elit Teknik Direktörler Forumu'na davet edilen ilk Türk teknik direktör unvanını kazanan Fatih Terim, aynı organizasyona 2012 ve 2013 yıllarında tekrar davet edildi.

2012-13 sezonuna Burak Yılmaz, Umut Bulut ve Hamit Altıntop gibi yerli transferlerle hazırlanan takım sezona Süper Kupa'yla başladı ve ligde de liderliği daha üçüncü haftadan elde etti. UEFA Şampiyonlar Ligi'ne kötü bir başlangıç yapsa da son üç maçını kazanan Galatasaray, gruplardan çıkma başarısını gösterdi. Devre arasında kadrosunu dünyaca ünlü yıldızlar Didier Drogba ve Wesley Sneijder'ı ekleyen takım bunun meyvesini Schalke 04'ü eleyerek Şampiyonlar Ligi'nde çeyrek finale çıkarak topladı. Çeyrek finalde Real Madrid'e ilk maçta 3-0 yenilse de ikinci maçtaki performansıyla umutlarını son dakikalara kadar taşıdı ancak maçı 3-2 kazanmasına rağmen kupadan elendi. Ligde ise liderliği hiç bırakmayan takım şampiyonluğu bir kez daha kolay bir şekilde etti. Terim, Galatasaray ile 6. lig şampiyonluğunu kazandı ve Süper Lig'de en çok şampiyon olan teknik direktör unvanını geliştirdi.

2013-14 sezonuna kadroda büyük değişikliklere gitmeyen başlayan takım sezon öncesinde Emirates Kupası'nı kazanarak yurtdışındaki prestijini arttırdı ve sezona da yine Fenerbahçe'yi mağlup ederek bir kez daha Süper Kupa'yı kazanarak başladı. Ağustos ayında TFF'den gelen teklife olumlu yanıt vererek bu süreçte hem Galatasaray hem de Türkiye millî futbol takımını çalıştıracak biçimde sözleşme imzaladı. Bu durum Ünal Aysal ve Fatih Terim arasındaki ipleri gerdi. Terim, sezona Galatasaray'da lig galibiyeti ile başlasa da sonraki üç maç arka arkaya beraberlikler aldı. Ayrıca UEFA Şampiyonlar Ligi grupları ilk maçında Real Madrid'e evinde 1-6 mağlup oldu. 22 Eylül 2013'te saha içi çıkan olaylar sonucu Beşiktaş'ı 3-0 mağlup etse de yönetimle arasındaki sorunlar sona ermedi. Eylül ayı içinde Galatasaray yönetim kurulu Fatih Terim ile 2 yıllık sözleşme uzatma kararı aldı. Fatih Terim ise bu teklifi kabul etmedi ve 24 Eylül 2013 günü Galatasaray SK Başkanı Ünal Aysal bu durumu gözden geçireceklerini ifade etti. 24 Eylül 2013 akşamı ise Galatasaray Yönetim Kurulu'nun yaptığı toplantı sonucunda oy birliği ile görevine son verildi. Terim'in yerine, Fiorentina'da da onun yerine dolduran Roberto Mancini getirildi.

Birçok kez millî takımı çalıştırmış ve millî takım ile birçok başarı almış Fatih Terim, Ağustos ayında Abdullah Avcı'nın görevinden ayrılmasından sonra TFF'den teklif aldı ve 2013-14 sezonunda millî takımın oynayacağı 4 FIFA Dünya Kupası eleme maçı için takımın başına getirildi. Fatih Terim, millî takımla ilk maçına ise Andorra karşısında çıktı. Bu maçta 5-0 galip gelen Türkiye, bir sonraki maçta da Romanya ile karşılaştı. Romanya maçında da Burak Yılmaz ve Mevlüt Erdinç'in attığı gollerle 2-0 galip gelen Türkiye, ardından Estonya ile Tallin'de Umut Bulut ve Burak Yılmaz'ın golleriyle 2-0 net sonuçla kazanarak gruptan çıkmak için şansını sürdürürken Fatih Terim, 3 maçta 3 galibiyet alarak büyük başarı elde etti. Ancak son maç Hollanda'ya 2-0 yenilerek FIFA Dünya Kupası vizesi alamadılar.

Terim, Galatasaray'la yollarını ayırdıktan sonra millî takım ile yoluna devam etme kararı aldı ve katılan takım sayısının arttırıldığı 2016 Avrupa Futbol Şampiyonası elemelerinde Türkiye'nin başında yer aldı. Grup maçlarına çok kötü başlayan Türkiye, 6 Eylül 2015'te Hollanda'yı evinde 3-0 yenerek tekrar gruptan çıkma şansı yakaladı. 10 Ekim'de deplasmanda Çek Cumhuriyeti'ni 2-0 ile geçen Türkiye, 3 gün sonra İzlanda ile oynanan maçta 89. dakikada Selçuk İnan'ın attığı frikik golü ile maçı 1-0 kazanıp grubu üçüncü bitirdi. Grubun diğer bir maçında Kazakistan, Letonya'yı 1-0 yenince de Türkiye en iyi üçüncü olarak Euro 2016'ya doğrudan gitme hakkı kazandı. Turnuvada Türkiye ilk iki maçta Hırvatistan'a 0-1, İspanya'ya ise 0-3 yenilerek kötü bir baş