Po německém napadení Sovětského svazu 22. června 1941 se Boldin na základě platných rozkazů pokusil se svými vojsky o protiútok, ale dostal se se svými jednotkami do obklíčení, ze kterého se mu ale u Smolenska podařilo probít. Poté byl pověřen neúspěšným protiútokem u Vjazmy, při kterém se opět dostal do obklíčení a ze kterého se mu opět podařilo, byť zraněnému, uniknout. Úspěch sklidil jako velitel 50. armády při odražení Němců a při následném protiútoku na přístupech k Moskvě na přelomu let 1941 a 1942. Vzhledem k tomu, že se v roce 1942 odehrávaly boje převážně na jižním směru, byl pro Boldina poměrně klidným a po obnovení bojů ve střední části fronty dostávala oslabená 50. armáda až do konce války víceméně jen podřadné a pomocné úkoly. V lednu 1945 s jeho výkony nespokojený Konstantin Rokossovskij odvolal z velení 50. armády. Boldin byl poté jmenován zástupcem velitele 3. ukrajinského frontu, který posléze osvobodil Prahu.