sizliği gemilerin yalnızca Konstantinopolis'te bakımlarının yapılmasına neden oluyordu. "Despotēs" II. Theodoros Paleologos'a 1418 yılında sunduğu sunduğu kitapçıkta, âlim Gemistos Plethon donanmanın bakımı hakkında nasihat eder, karada bulunan kaynakların itinayla hem ayakta tutmak hem de etkili ordu için yetersiz olduğunu belirtir.

bundan sonra, maddi olanağı kısıtlı Bizans devleti o günün güçlü devletlerinin piyonu oldu, bu devletlerin arasındaki rekabeti kullanarak ayakta kalmaya çalıştı. Sonuçta, örneğin, 1351 yılında Kantakouzenos, 1350-1355 yılları arasında Ceneviz-Venedik savaşında Vendeklilerin yanında yer almış ama Venedikli amirallerin terk etmesi yüzünden filosu kolaylıkla Cenevizliler tarafından mağlup edilmiş ve istemediği bir anlaşmayı imzalamaya zorlanmıştır. 1390 yılında VII. İoannis'in kısa süren taht gaspı sırasında, II. Manuil (1391-1425 arası hükümdar) sadece beş kadırga ve dört küçük tekne (bunlara Rodos Hospitalier'in verdikleri de dahildir) ile Konstantinopolis'i kolaylıkla ele geçirebilmiş ve babası V. İoannis'i kurtarmıştır. Altı yıl sonra Manuil Niğbolu Haçlılarına yardım için on gemi sözü verdi; yirmi yıl sonra, kendi komutasında dört kadırga ve piyade ve süvari taşıyan iki küçük tekne ile Taşoz adasını bir işgalden kurtardı. Aynı şekilde, 1421 yılında tahtta hak iddia edip II. Murad'a isyan eden Mustafa Çelebi'yi on savaş gemisiyle destekledi.

İmparator VIII. İoannis'un (1425-1448 arası hükümdar), Epir Despotu ve Kefalonya Kontu I. Carlo Tocco'nun üstün filosunu yenmesi sonucu Mora'da bulunan tüm mülklerini Bizans'a terk etmeye zorladığı, 1427 yılında Echinades adaları açıklarında gerçekleşen savaş, kaydedilmiş son Bizans deniz zaferidir. Bizans donanmasının son kez ortaya çıkışı, 1453 son Osmanlı kuşatması sırasında olmuştur, Bizans, Ceneviz ve Venedik gemilerinden oluşan karma filo (Kaynaklara göre sayı 10 ile 39 arası gemi olarak değişmektedir), Osmanlı filosuna karşı Konstantinopolis'i savunmuştur. Kuşatma sırasında, 20 Nisan 1453 günü, Bizans tarihindeki son deniz eylemi, üç Ceneviz kadırgası eşliğinde bir Bizans nakliye gemisinin büyük Osmanlı kuşatma filosu arasından bir yol bulup Altın Boynuz'a girmesi olarak gerçekleşmiştir.

3. yüzyılda büyük vilayet filolarının daha küçük filolara bölünmesinden İslam'ın yayılışında yeni donanmanın oluşumuna kadarki geç ilkçağ Roma filolarının organizasyonu hakkında çok az şey bilinmektedir. Bu dönemdeki dikkate değer denizcilik faaliyetlerinin kanıtlarına rağmen, erken dönem tarihçiler, Roma donanmasının tamamen ortadan kalktığına inanmaktadırlar fakat daha yeni dönem çalışmalar bu resmi değiştirmiştir, artık temel olarak kara ordusuyla yakın çalışacak şekilde tasarlanarak nehir ve sahil kuvvetlerine dönüştüğüne inanılmaktadır.

İmparator Diocletianus (284-305 arası hükümdar) hükümdarlığında, donanmanın gücünün 46,000 adamdan 64,000 adama çıkardığı anlatılmaktadır, bu rakam Geç Roma Donanması'nın çıktığı en yüksek noktayı göstermektedir. Tuna Filosu ("Classis Histrica") ve ona bağlı lejyoner filotillaları hala iyi bir şekilde "Notitia Dignitatum" içinde anlatılmaktadır ve onun artan faaliyetleri Vegetius ("De Re Militari", IV.46) tarafından yorumlanmıştır. Batıda, ırmak filosu zikredilmiştir fakat eski has filonun tamamı ortadan kalkmıştı ("De Re Militari", IV.31) ve hatta kalan Batı vilayet filoları çok ciddi güçsüz ve önemli barbar saldırılarını karşılayacak yetenekten uzaktılar. Doğuda, Suriye ve İskenderiye filoları resmi kaynaklarda belirtilmekte ve hala yaklaşık 400 yılında mevcutlarken ("Codex Justinianus", XI.2.4 & XI.13.1), bir filo Konstantinopolis'in kendisinde konuşlandırılmıştı, belki de has donanmanın kalanlarından oluşturulmuştu. 400 yılında Asya ile Avrupa'yı ayıran kanalı geçmeyi deneyen ve tekneler inşa eden çok miktarda Gotu öldürmeye yeterliydi. Fakat büyüklüğü bilinmemektedir ve "Notitia" içinde görünmemektedir.

5. yüzyıl boyunca Akdeniz'de "ad hoc" temelli filolar hazırlamış ve sonra görev bitimi dağıtılmışlardır. İlk sabit Bizans filosu 6. yüzyıl başlarında görülmektedir ve 513-515 yıllarında Vitalian isyanında I. Anastasius, asilerin filosuna karşı kendi filosunu oluşturmuştur. Bu filo daha sonra dağıtılmadı ve I. Justinianus ve onun ardılları dönemlerinde geliştirilerek profesyonel ve iyi bakımlı bir güç haline getirildi. Herhangi bir deniz tehdidi olmaması nedeniyle, 6. yüzyılın sonlarında Tuna'da birkaç küçük filotilla ve Konstantinopolis ve Ravenna'da iki ana filo ile görece küçüktü. Ayrıca filotillalar, İmparatorluğun büyük deniz ve ticaret merkezlerinde üsleniyorlardı: İskenderiye'de ki, Konstantinopolis'e giden yıllık buğday taşıyan filoya eşlik ediyordu ve Kartaca'da ki, Batı Akdeniz'i kontrol ediyordu. Justinianus ayrıca İmparatorluğun daha uzak noktalarında daimi birlik ve filo bulunduruyordu, Septem (Ceuta), Kırım'da Chersonesos ve Akabe Körfezi'nde Aelana (Eilat). Bu bölgelerin alt yapısı ve uzun dönem denizcilik geleneği filoların bakımını kolaylaştırıyor ve deniz seferi olduğunda büyük bir filo kolaylıkla ve ucuz bir şekilde çok fazla ticaret gemisine el konularak bir araya getiriliyordu.

7. yüzyıl boyunca ortaya çıkan Arap fetihlerine karşılık vermek için imparatorluğun tüm idari ve askeri sistemi elden geçirildi ve Thema sistemi kuruldu. Buna göre İmparatorlukta bölgesel idari ve askeri birim olan birçok "themata" kuruldu. "Stratēgos" komutasında her "thema" kendi vergileriyle ayakta duran kuvvetler oluşturdu. Thema kuvvetlerinin bir dizi ayaklanması neticesinde, V. Konstantin önceki daha büyük themaları dereceli olarak bölüp, Konstantinopolis'te ya da yakınlarında üslenen; sefere çıkan orduların çekirdeği olacak; merkezi ihtiyat gücü şeklinde bir imparatorluk ordusu, tagmata, oluşturdu.

Benzer hat üzerinde düzenlenen filoda da benzer süreç izlendi. 7. yüzyılın ikinci yarısında, "Karabisianoi" (, "Gemilerin Adamları") filoları oluşturuldu. Kesin tarih bilinmemektedir, 650ler/660lar aralığı tahminleri, Masts Muharebesine karşılık, ya da 672-678 yılları arasında süren Konstantinopolis'in uzun ilk Arap Kuşatmasının ardından. Kökeni de bilinmemektedir: muhtemelen eski "quaestura exercitus", ya da İlirya Eyaleti ordusu kalanlarının işe alınmasından olabilir. Bir "stratēgos" ("stratēgos tōn karabōn/karabisianōn", "general of the ships/seafarers") komuta ederdi, ve Milet'ten Klikya'da Seleucia yakınlarında Hilâfet sınırlarına kadar Küçük Asya'nın güney sahilleri; Ege adaları ve Güney Yunanistan İmparatorluk mülkleri dahildi. Karargahı başDilıçta belki Sisam adasıydı, bir "droungarios" yönetiminde bağlı komutanlık Pamfilya, Kibirra'daydı. İsminden anlaşılacağı üzere, imparatorluğun sürekli donanmasının büyük kısmını içeriyordu ve Mısır ve Suriye'den Arap filolarının ana deniz tehditleri ile yüzleşiyorlardı.

"Karabisianoi" diğer yandan yetersizliğini kanıtladı ve 8. yüzyıl başlarında üç parçadan oluşmuş daha karışık bir sistem ile yer değiştirdi, bu sistem küçük değişiklikler ile 11. yüzyıla kadar yaşadı: (1) Konstantinopolis'te üslenmiş merkezi imparatorluk filosu, (2) az sayıda büyük bölgesel deniz komutanlıkları, ya denizci "thema" ya da "drungariates" isimli bağımsız komutanlıklar, (3) tamamen savunma ve polis görevleri gören ve yerel vilayet valilerine bağlı daha büyük sayıda küçük filolar. Roma donanmasından farklı olarak, merkezi filolar ile karşılaştırıldıklarında vilayet filoları kesinlikle sayıca daha az ve daha hafif teknelerden oluşmaktaydı, Bizans bölgesel filoları, merkezi filoların sağında muhtemelen daha çetin bir düzende yer alırlardı.

Başkent donanması Konstantinopolis'in Arap kuşatmalarının püskürtülmesinde merkezi bir rol oynamıştır, fakat sonraki dönem İmparatorluk filosunun (βασιλικόν πλόιμον, "basilikon ploïmon") 7.yüzyılda mı yoksa 8. yüzyılda mı ayrı bir komuta altında olup olmadığı belli değildir. Komutanı, "droungarios tou ploïmou", ilk defa 842/843 yılında "Taktikon Uspensky" isimli talimatta görülür ve 8. yüzyıl boyunca Konstantinopolis'ten yönetilen ana filolar için çok az kanıt vardır, Hélène Ahrweiler kuruluşunu erken 9. yüzyıl olarak tarihler. Ondan sonra İmparatorluk filosu ana merkezi ihtiyat kuvveti ve çeşitli sefer filolarının çekirdeği olarak düzenlenmiştir.
İlk ve uzun zaman ayakta kalan tek denizci thema Kibirreoton Themasıdır (, "thema Kibyrrhaiotōn"). "Karabisianoi" filosundan oluşturulmuştur ve Küçük Asya'nın güney kıyılarını korumakla görevlendirilmişti. Tam olarak kurulma tarihi belirsizdir, bir bakış yaklaşık 719 olarak belirtirken bir diğeri ise yaklaşık 727 olarak belirtir. "Stratēgos", ilk olarak 734 yılında kayıtlarda görülür ve Attaleia'da konuşlanmıştır. Baş yardımcıları Merdeilerin "katepanō"nu, Syllaeum'da bir "ek prosōpou" (temsilci) ve Attaleia ile İstanköy'ün "droungarioi"leridir. Müslüman Levant'a yakın olması nedeniyle, yüzyıllar boyunca İmparatorluğun ana deniz filosu olarak kalmıştır, Arap deniz tehdidinin azalmasıyla küçültülmüştür. Filo en son 1043 yılında zikredilmiştir, o tarihten sonra thema tamamen sivil bir vilayet haline gelmiştir.

Kibirreotonlar, Ege'de iki bağımsız deniz komutası ile tamamlanırdı, her biri bir "droungarios" tarafından yönetilirdi: "Aigaion Pelagos" ("Ege Denizi"), Ege'nin kuzey yarısı, Çanakkale Boğazı ve Marmara Denizi'ni kapsardı, farklı olarak "Dodekanesos" ("On iki Adalar") ve "Kolpos" ("Körfez") olarak bilinen komuta, Sisam'da üstlenmişti ve Kiklad Adaları dahil Güney Ege'yi kapsıyordu. Diğer "droungarioi" pozisyonlarından farklı olarak ast kuvvetlere komuta ederlerdi, bu iki bölge tamamen bağımsızlardı ve bu bölgelerin "droungarioi" pozisyonlarının bölgeleri üzerinde hem askeri hem de sivil yetkileri vardı. Zamanla tam bir denizci themalığa yükseltilmişlerdir, Ege Denizi'nin Theması (, "thema tou Aigaiou Pelagous") yaklaşık 843, "Dodekanesos"/"Kolpos" drungariate doğu parçaları ise geç 9. yüzyılda Sisam'ın Theması'nı (θέμα Σάμου, "thema Samou") meydana getirdi. İyonya kıyılarını da içeriyordu ve başkenti Smyrna idi.

Bazı "karacı" "themata"lar da bir "tourmarchēs" ("Taktikon Uspensky" isimli talimatta topt