I "Karabisianoi" furono istituiti intorno alla seconda metà del VII secolo in risposta all'espansione islamica. Diversi studiosi hanno suggerito che essa costituirebbe la naturale evoluzione di ciò che era rimasto della vecchia "quaestura exercitus" dell'esercito di campo tardo-romano dell'Illirico, ma queste ipotesi rimangono puramente ipotetiche. La data della fondazione della flotta non è ben chiara: alcuni studiosi propongono che fu istituita negli anni 650 o 660 dall'Imperatore Costante II (r. 641–668), in seguito alla grave sconfitta navale subita dalla marina bizantina nella Battaglia di Dhāt al-sawārī nel 655, mentre altri ritengono che fu costituita in seguito al primo assedio arabo di Costantinopoli nel 672–678, in cui l'avanzata araba per mare verso la capitale bizantina sembra non avesse trovato opposizioni. La prima attestazione certa alla flotta dei "Karabisianoi" si ha nel corso dell'assedio di Tessalonica ad opera degli Slavi intorno al 680, e successivamente in una lettere dell'Imperatore Giustiniano II (r. 685–695) a Papa Conone scritta nel 687.