先在北京贡院东街建起两栋三层楼作为海军司令部、政治部机关的办公地点。1953年后，请梁思成主持设计，建造了使用至今的海军机关办公楼。后来又在海军机关办公楼周边逐步建设了直属部队营房、军官宿舍等，形成了“海军大院”。1950年5月25日凌晨4时，解放万山群岛的渡海登陆战斗中负责袭击牵制敌舰队的火力船队副队长林文虎率排水量仅有28吨的“解放号”小炮艇单艇突入垃圾尾（今称桂山岛）马湾港，向停泊的敌海军各类舰20多艘（其中排水量千吨以上的大舰有4艘）近战突袭开火扫射。林文虎从敌舰转入战斗的灯光信号中判明敌旗舰，