卡拉比西安可能建立于7世纪下半叶的某个时候，用来应对穆斯林入侵。许多学者认为其可能来自于旧的军务监区或是伊利里亚的罗马野战军，但是这些看法也只是假说。舰队建立的确切时间并不清楚：一些学者认为，船桅之战（655年）中拜占庭海军被击败之后，君士坦斯二世于650或660年代建立了卡拉比西安；另一些则认为它建立于674至678年的君士坦丁堡之围之后，建立原因是此战中阿拉伯人自海上发动的进攻似乎没怎么遇到抵抗。第一份关于卡拉比西安的确切来源出自斯拉夫人发起的时期，此后其又在687年皇帝查士丁尼二世寄给教宗郭諾的一封信件上出现。