Die NKVD het Meretskof gearresteer aan die begin van die Tweede Wêreldoorlog. Twee maande later is hy vrygelaat en het gedurende die Belegging van 1941-1944 die 7de leër en later die Volkhov Front bevel gegee. Hy was vanaf Februarie 1944 in bevel van die Kareliese Front, veral die Petsamo-Kirkenes-offensief van Oktober 1944. Vanaf April 1945 word hy na die Verre Ooste opgeplaas, waar hy in bevel was van 'n front tydens die Sowjet-inval in Japanese Mantsjoerye. Tydens die oorlog het hy die rang van Maarskalk van die Sowjetunie bereik.