A segunda reconstrução do navio começou em junho de 1935. A saída do Japão do Tratado Naval de Londres permitiu alterações mais amplas; sua superestrutura dianteira foi reconstruída no estilo mastro pagode, as caldeiras e turbinas foram aprimoradas e uma catapulta para hidroaviões foi adicionada atrás da terceira torre de artilharia. Sua velocidade máxima aumentou para trinta nós (56 quilômetros por hora), qualificando-o como couraçado rápido. As modificações terminaram em janeiro de 1937. O "Kongō" partiu em 29 de novembro de 1941 como parte da força de invasão da Malásia e Singapura. Essa força depois seguiu para a Indochina antes de escoltar porta-aviões durante a invasão das Índias Orientais Holandesas em fevereiro de 1942. O "Kongō" proporcionou cobertura para ataques nas Índias Orientais Holandesas, fazendo o mesmo em março e abril para ataques contra o Ceilão. Ele e o "Hiei" fizeram parte do Corpo Principal da Segunda Frota durante a Batalha de Midway em junho. A embarcação em seguida envolveu-se em operações na Campanha de Guadalcanal, incluindo um bombardeamento do aeroporto de Campo Henderson em outubro. O "Kongō" passou a maior parte de 1943 e 1944 movimentando-se entre diversas bases, mas participou em junho de 1944 da Batalha do Mar das Filipinas como parte da Frota Móvel. Na Batalha do Golfo de Leyte em outubro, o navio fez parte da Força Central e conseguiu acertar e ajudar a afundar dois contratorpedeiros e um porta-aviões de escolta. O "Kongō" acabou afundado em 21 de novembro depois de ser torpedeado duas ou três vezes pelo submarino enquanto navegava pelo Estreito de Formosa.