太平洋戦争序盤、日本海軍は西太平洋の連合国軍兵力を駆逐、南方資源地帯の占領に成功した（第一段作戦）。続いて、長期不敗態勢を築く「第二段作戦」に移行する。物資輸送量の増大と航路の長大化に対し、護衛に兵力を割かれることを嫌った連合艦隊は軍令部に護衛専門部隊の編成を要望する。現場の海上護衛担任部隊からも、輸送路の護衛部隊が担任海域ごとに交代する現制度の不利が指摘されるようになった。
これが第一海上護衛隊（東南アジア～内地担当、南西方面艦隊所属）と第二海上護衛隊（南洋諸島～内地担当、第四艦隊所属）である。
しかし老朽艦艇や特設艦艇が主力で対潜・対空装備が充実した専用艦艇が配備されず、兵力も少なかった。連合軍による通商破壊が本格化すると対応できず、輸送船団に甚大な被害が続出した。その後、新型海防艦の大量建造がすすむと各海上護衛隊に配備されたほか、航空部隊も編入されるなど戦力の増強が図られた。
第一海上護衛隊.
第一護衛艦隊.
増強された第一護衛艦隊はひきつづき海上護衛総司令部に所属し、ヒ船団に代表されるシンガポールを終点とする南方航路の死守を目指した。この措置と護衛戦隊の増設により、特設護衛船団司令部は解隊されていった。
第二海上護衛隊.
編制当時の交通保護担任区域（第四保護海域）は、小笠原諸島を経由してマリアナ諸島で東西に分岐し、東航路はトラックを終点とし、西航路はパラオを終点としていた。北端は横須賀（本州）、南端はニューギニア島およびラバウル（ニューブリテン島）であった。
なお東航路の延長線にはカロリン諸島・マーシャル諸島・ギルバート諸島・ビスマーク諸島・ソロモン諸島があり、西航路の延長線上には西ニューギニア・スンダ列島・ミンダナオ島が存在していた。
ソロモン諸島の消耗戦が長期化して前線の駆逐艦が不足すると、第二海上護衛隊所属の神風型駆逐艦や睦月型駆逐艦もソロモンに引き抜かれ、順次、鴻型水雷艇や新型海防艦に置き換えられた。
第三海上護衛隊.
第四海上護衛隊.