ası emrini verdi. Fakat Romalılar ve İtalya'da Bizans'a ait olan Ravenna Eksarjlığı'na bağlı İtalyalı Bizanslılar bunu kabul etmediler. Bizans'a karşı isyan ettiler.

Justianianos İmparatorluğun yöresel idaresinin Thema şekline geçmesine de katkıda bulundu. Merkezi Yunanistan'da bulunan Hellas adlı yeni bir thema kurdu. Bizans İmparatorluğunun ana 5 themasını (yani Balkanlarda Trakya, Anadolu'da Opsikion, Anatolikon ve Armeniakon ve donanmaya bağlı Karabisiani) themalarının üst idarecilerini imparatorluğun en yüksek idarecileri olarak kabul edilmesini sağladı.

Justinianos'in kendini imar edici bir imparator olarak görüp başşehrini imar etme hevesi ile büyük harcamalar yapmaya başladı. Bu ise yıl be yıl vergilerin, özellikle zengin üst tabakadan alınan vergilerin artmasına neden oldu. II. Justinianos zaten bu zengin toprak sahibi üst sınıfı hiç sevmemekteydi ve bir sınıf olarak onları ortadan kaldırmayı kendine amaç edinmişti. Bu gerçeği açıklamaktan hiç çekinmiyordu. Sarayın en yüksek bürokratları (ve her ikisi de papazlıktan atılmış olan) Teodorus ve Stephen bu yüksek vergileri toplamak için her türlü çareyi kullandıkları, hatta vergi mükelleflerini işkenceye tabi tutmayı bile uygulamaktan sakınmadıkları söylentileri şehri sarmıştı. Zenginler ve üst sınıf mensupları kendilerini bundan kurtarmak için yeni bir lideri hemen buldular.

Leontius, Ermenistan ve Kafkasya seferlerinde başarı göstermiş yüksek rütbeli bir generaldi; ama 692'de Araplara karşı son savaşta, Sebastopolis Muharebesi'nde (belki de yenilen Bizans ordusunun komutanı olarak) itibarını fazlaca zedelenmişti ve bundan dolayı hapse atılmıştı. Hapisteyken kendini ziyaret edenler onu lider olarak kabul edebileceklerini belirttiler ve hatta ziyaretçi iki keşiş onun başında imparatorluk tacı olarak bir rüyada gördüklerini kendine söylemişlerdi. 695'te birden Justinianos tarafından affedildi; hapisten çıkartılıp yeni kurulan Hellas Theması'na askeri vali olarak atandı. Bunu Leontius öğrenince hemen imparatorluk rüyasını gerçekleştirmek için girişime başladı. Önce taraftarları ile şehrin genel hapishanesi olan Praetorium üzerine yürüyüp oranın idaresini eline geçirdi. Çoğu kendi eski askerleri olan tutukluları serbest bıraktı. Bu yeni askerler grubu hemen Leontius'u imparator olarak ilan ettiler. Bu askerlerle etrafına halkı da toplayan Leontius, çok büyük bir kalabalık içinde Ayasofya'ya yürüdü. Orada imparator II. Justinianos ile arası bozuk olan Konstantinopolis Patriği de onlara katıldı. Ertesi sabah bu kilisede toplanan şehir halkı için Leontius imparator idi. II. Justinianos yakalandı ve Hipodrom'da kendine küfürler yağdıran halka zincirler içinde olarak gösterildi. Leontius, babası IV. Konstantin ile olan yakın dostluğu nedeniyle II. Justinianos'u öldürtmedi. II. Justinianos'un burununu ve dilinin bir kısmını kestirdi. Böylece Justinianos'un tahta geçmesini önlediğini sanmaktaydı. Sonra Kırım'da Cherson şehrine hiç geri dönmemek kaydıyla devamlı bir sürgüne gönderdi. Vergi memurları da görevlerinden alınıp hapse yollandı. En üst seviyede idareciler olan Teodorus ve Stephen ise at arabaları arkasında yerlerde çekilerek şehrin ana caddesi olan Mese üzerinden Forum Bovis (bugünkü Aksaray)'e getirilerek burada diri diri yakıldılar.

Cherson'da sürgündeyken Justinianos imparatorlara karşı komplolar hazırlamaya ve tahtına geri geri almaya yeniden teşebbüs etmek için taraftarlar toplamaya başladı. Cherson'da ki idareciler Justinianos'un bu girişimlerini şehirleri için tehlikeli bularak ya 702 ya da 703'te kendisini Konstantinopolis'de bulunan imparatorluk yetkililerine geri göndermeye karar verdiler.

Bunu haber alan Justinianos Cherson'dan kaçarak Kırım'ın o zamanki hakimi olan Hazar kağanı Busir'e sığındı. Hazar Kağanı Justinianos'u çok yakınlıkla karşıladı ve ona destek sağlamayı vadetti. Bunu da daha açıkça ortaya koymak için Justinianos'u kız kardeşi ile evlendirdi. Justinianos yeni karısına, İmparator I. Justinianus'un karısının adına izafeten "Theodora" adını verdi. Hazarlar yeni karı kocaya Azak Denizi ağzında Kerç Boğazı'nda kurulu "Phanagoria" (şimdi Tmutarakan) adlı bir şehirde yerleştirdi. Diğer taraftan Konstantinopolis'de Leontius'dan imparatorluğu eline geçirmiş bulunan imparator III. Tiberius, Busir'e eğer kayın biraderini öldürürse büyük bir armağan vermeyi teklif etti. Buna inanan Bushir, 704 yılında Ppatziz ve Balgitzin adında iki Hazar görevlisini kayın biraderini öldürmek için yolladı. Fakat Justinianos'un yeni karısı bundan haberdar oldu ve bu iki görevlinin niçin geldiklerini Justinianos'a açıkladı. Böylece hazırlıklı olan Justinianos bu iki görevliyi kendi elleri ile boğarak öldürdü. Oturduğu şehirden bir balıkçı gemisi çaldı ve karısı ile birlikte önce Cherson'a gitti. Orada kendine destek sağlamak isteyen taraftarlarını da bu balıkçı gemisine alarak Karadeniz'de Batıya doğru bir rota ile denize açıldı. 
Justinianos bu balıkçı gemisiyle Tuna ağzına gitti. Oradan Bulgar Kralı Tervel'in başkentine geçtiler. Justinianos, Tervel ile görüşmelere başladı. Tervel, Justinianos'a tahtı tekrar geri alması için bütün istediği askeri yardımı vermeye hazır olduğunu bildirdi. Ama karşılığında bazı şartları vardı. Justinianos'un imparator olarak Tervel'e Sezar unvanıyla birlikte kızı Anastasia ile evlendirecekti. Justinianos bu şartlara razı oldu. 705'in ilkbaharında Justinianos Bulgar ve Slavlar'dan oluşan süvari ordusuyla Konstantinopolis surları önüne geldi. Fakat elindeki güçle şehir surlarını yarıp şehri ele geçirmesinin imkansızdı. Onun için Justinianos kendisi ve ufak bir birlik surlardan yağmur suyu akıtmak üzere yapılmış ama o zaman kullanılmayan dar bir su kanalından şehre gizlice girmeyi başardılar. Gece yarısına kadar şehirde bulunan taraftarlarını toparladılar ve gece yarısı bu taraftarları ile sarayı basarak Bizans devlet idaresini ellerine geçirdiler. Tiberius kaçarak Bitinya' ya geçti.

Justinianos sözünü tutarak Bulgar Kralı Tervel'i kalabalık kitle önünde düzenlenen törenle resmen "sezar" ilan etti. Ancak tarihi kaynaklarda Tervel'in, Justinianos'un kızıyla evliliğiyle ilgili açıklama bulunmamaktadır.

Justinianos, 15 Şubat 706' da son gaspçı imparator olan Tiberius'u ve ondan önceki gaspçı imparator olan ve bir manastıra gönderilmiş olan Leontios'u hemen idam ettirdi. Kendine karşı olan ve Tiberius ve Leontius tarafını tutmuş olan bürokratlar ve saraylıları da tasfiye edip birçoğunu idam ettirdi. Gaspçı olarak adlandırılan her iki imparatora taç giydiren Konstantinopolis Patriği I. Kallikanos'un gözlerine mil çektirerek kör etti ve Roma'ya sürgüne gönderdi.

Justinianos'un ikinci saltanatında önem verdiği iki önemli politika Bulgarlara ve Araplara karşı başarısız geçen savaşlar ve devlet içinde kendine muhalefet edenlerin hepsini çok zalim tedbirlerle bastırmak olmuştur.

Justinianos kendisine askeri yardım sağlayan Bulgar Hanı Tervel'e verdiği sözü tutmuş, ona bazı Bizans sınır bölgelerini vermiş ve onun törenle Bizans Sezarı olarak taç giymesini sağlamıştı. 708'de Bulgar Hanı aleyhine döndü. 705'te Bulgarların yardımı için onlara verdiği bölgeleri geri istedi. Tervel'in bunu kabul etmeyeceğini bilerek büyük bir ordu hazırladı. 708 ilkbaharında bu orduyla Bulgar Hanı Tervel üzerine sefere çıktı. Fakat Bulgarlar Bizans ordusunu Ankhialos'da (günümüz Pomorie) durdurdular. Orada yapılan muharebede Bizans kuvvetleri yenildi ve Justinianos ordusuyla geri çekilmek zorunda kaldı. Bulgarlar ve Bizans arasında yine harpten önceki sınırlara dönülecek şekilde barış imzalandı.

Bizans için mağlubiyet Anadolu'da Emeviler Sultanı I. Velid'in Arap komutanların yaptığı hücumların da sonucu oldu. Velid'in Anadolu'daki ordularına kardeşi Maslama bin Abdülmalik komuta etmekteydi. Araplar önce "Antioch" (bugünkü Antakya) şehrini ele geçirdiler ve (Kilikya'daki bütün şehirleri fethettiler.

707 yıllında yaptıkları Kapadokya'ya kadar ilerlediler ve "Tyana" (şimdi Kemerhisar, Niğde)de yapılan muharebede bir Bizans ordusunu yendiler. 709'da Masalama idaresindeki Arap ordusu Anadolu'da en büyük Bizans şehri olan Amorium'u zapt edip talan etti. 712'de Maslama önce "Melitene" (şimdiki Malatya şehrini eline geçirdi ve kuzeye çıkıp Amasya'yı vurdu. Sonra İç Anadolu'ya yöneldi. Beyşehir Golü üzerinde bulunan "Mistia" şehrini ele geçirip kış bu şehirde geçirdi. Ertesi sene ilkbaharında "Psidia'daki Antıoch" (şimdiki Yalvaç) ele geçirdi, talan etti yakıp yıktı. Bunda sonra "Psiadia'da Antıoch" hiç kendini toparlayamadı.

Justinianos, Ravenna ve Cherson'da bulunan tebaalarını cezalandırmak istemekteydi. 709'da Papa VII. İonnais'e "Quinisext Konsil"'inin kararlarını kabul etmesi için emir verdi. Aynı zamanda Ravenna üzerine bir askeri sefer yapmak için hazırlıklara geçti. Bu tehditleri bazı uygun sonuçlar doğurmaya başladı. Eski papanın ölümüyle papalığa gelen Papa Konstantin, 710'da Konstantinopolis'e ziyarete geldi. Bu ziyaretinde Papa imparatorun taleplerinden bazılarına uymaya hazır olduğunu bildirdi ve bunlara imparatorluk ile papalık arasındaki ilişkilerin tekrar kurulmasına temel sağladı. Bu papanın Constantinopolis'e ziyaretinden sonra, 1967'de Papa VI. Paulus'ün İstanbul'u ziyaretine kadar hiçbir papa İstanbul'a ziyarete gelmemiştir.

Justinianos'un gittikçe zorba ve zalim idaresi sonunda bir isyanın patlak vermesine neden oldu. Bardenes adlı bir Ermeni asıllı sürgüne gönderilmiş bir generalin elebaşılığı altında Cherson'da bir isyan patlak verdi. Bu şehir üzerine gönderilen Bizans güçleri, şehrin direnişi dolayısıyla şehre giremediler. Çok geçmeden bu kuşatıcı güçler de isyancıların tarafına katıldı. İsyancılar Hazarlar'ın da mali desteği ile sonra gemilerle Konstantinopolis'e geçtiler. General Bardenes, Filippikos ismini alarak imparator olarak tahta geçirildi. Justinanos şehirde değildi ve Ermenistan üzerine yürümekteydi. Geri dönüp şehri tekrar ele geçirmek için yaptığı gayretler boşa gitti ve bu hedefine erişmek için gerekli sayıda askeri güç toplayamadı. Konstantinopolis'te İmparator olarak hüküm süren Filippikos onun üzerine birlikler gönde