Sau khi Chiến dịch Barbarossa nổ ra, lữ đoàn của Gorshkov đã tham gia tích cực vào các hoạt động của Hạm đội Biển Đen ngày từ những ngày đầu tiên của chiến tranh. Ngày 16 tháng 9 năm 1941, Gorshkov được thăng quân hàm Chuẩn đô đốc Trong chiến dịch phòng thủ Odessa, Gorshkov là người chỉ huy cuộc đổ bộ của thủy quân vào khu vực Grigoryevka. Tháng 10 năm 1941, ông được cử làm chỉ huy hải đoàn Azov. Cuối tháng 12 và đầu tháng 1 năm 1942, ông chỉ huy cuộc đổ bộ lên bờ biển phía bắc của bán đảo Kerch. Trong tháng 8, Gorshkov chỉ huy một lực lượng đông đảo gồm hơn 150 tàu chiến của hải đoàn, đột kích từ Biển Azov đến Biển Đen sau khi Hồng quân Liên Xô rút về Novorossiysk. Sau khi hải đoàn bị giải tán, ông trở thành phó chỉ huy lực lượng hải quân và là thành viên của hội đồng quân sự của Khu phòng thủ Novorossiysk. Là một đô đốc hải quân, tuy nhiên Gorshkov có thời gian ngắn nắm tạm quyền chỉ huy Tập đoàn quân 47 phòng thủ vệ khu vực trong Chiến dịch Kavkaz vào tháng 11 năm 1942.