Im Zweiten Weltkrieg war Jarzewo die erste Stadt, die nach dem Überfall Deutschlands auf die Sowjetunion während der Kesselschlacht bei Smolensk am 19. Juli 1941 zumindest zeitweilig durch die Rote Armee zurückerobert wurde. Die Stadt wechselte während der Schlacht mehrmals den Besitzer und wurde stark zerstört. Schließlich verblieb sie unter deutscher Okkupation, bis sie im Rahmen der Smolensker Operation am 19. September 1943 endgültig befreit wurde.