马来西亚皇家海军的前身是在1934年4月27日成立于新加坡的海峡殖民地后备志愿军（）。后备志愿军建立的目的主要是协助英殖民政府对马来半岛及新加坡的防御，特别是在亚洲局势趋于紧张，以及日本推行大东亚共荣圈计划之后。二战期间，英殖民政府在槟城成立分队并改名为马来亚皇家志愿海军（）。太平洋战争爆发后，马来亚海军一度扩充到1450余人，主要支援同盟国军队在印度及太平洋的行动。随着日本战败投降，马来亚海军仅剩余600余人，而且由于战后资金缺乏，1947年马来亚海军曾一度被解散。