歷史上哪一群落最早建立海軍眾說紛紜，但最初人類爭奪海洋的管理和控制權是為了保護海洋貿易利益開始的。四大古文明的古埃及和古巴比倫於地中海地區交會，彼此的戰爭與掠奪從陸地發展至海上而建立起了海軍，以進行擴張，奪取更多資源與地域。克里特人也向東西兩方擴張，佔領了塞浦路斯和西西里島等地。因此，早期海軍的功能在於保護自己的海上貿易、掠奪與擴張時輸送部隊登陸和抵禦敵人來自海上的進攻三種功能。而第一支專業化的海軍即為克里特王米诺斯所建，擁有以下特質：這支武裝力量長年於海上作戰、有專門從事海戰之船隻和裝備、這支海軍為米諾斯擴張佔領希臘和地中海島嶼多地、可以單靠這支力量取得基本剿滅海盜的成果。此時的海軍船艦為單層甲板的平底船，動力為人力划槳，武器使用的是運載士兵的冷兵器，攻擊方式從接舷肉搏到遠距射箭皆有。在各民族從城邦發展為更複雜的國家形式後，貿易與殖民活動更為興盛，海軍規模也隨之擴大，開始出現海軍戰術的研究，如應用高速機動力與良好的航海技術、投擲易燃物（如更晚期研發出的希臘火）和衝撞摧毀敵船等。在西元前480年的萨拉米湾海战是早期著名的一次海戰，希臘聯軍以少勝多重創薛西斯一世的艦隊，確定了往後雅典海軍於愛琴海的霸權，直到伯羅奔尼撒戰爭被斯巴達艦隊擊敗為止。亞洲方面，古印度的朱罗王朝也在印度洋建設了當地最強大的海軍，古中國則在西元600年前（春秋時期）就有建立舟師、水師與水軍，在10世紀時中国帆船即裝有火器。在西元476年至1640年的封建時代裡，西方海軍發展緩慢，於10-12世紀才出現了帆船，而14-16世紀才逐漸汰換，直到17世紀中葉才完全被取代。與船艦動力相同，戰術發展也極為緩慢，雖然人類在15世紀初就開始在艦上加裝火砲，但到15-17世紀中葉海戰仍是接戰肉搏為主，西元1571年的勒班陀海戰則為人類史上最後主要使用划槳船作戰的大型海戰。