Gorsjkov gikk inn i sjøforsvaret i 1927, og var ferdig utdannet ved Frunze-sjøkrigsskolen i Leningrad i 1931. Under andre verdenskrig utmerket han seg ved landgangen på Kertsj, og kommanderte ved krigens slutt en jagerskvadron.