Während des Großen Vaterländischen Krieges befehligte General Scharochin ab Februar 1942 die 3. Armee an der Kalininer Front, ab August 1943 die 37. Armee an der Steppenfront (u. a. Operation Jassy-Kischinew) und ab Oktober 1944 die 57. Armee an der 3. Ukrainischen Front (u. a. Apatin-Kaposvarer Operation, Wiener Operation und Plattenseeoffensive).