As derrotas do verão de 1941, durante a invasão da URSS pela Alemanha Nazista, levaram Stalin a envia-lo às frentes mais sensíveis da guerra, na condição de representante da Stavka. Júkov assumiu então um papel-chave na Frente da Europa Oriental, coordenando as tropas de seu país em várias grandes operações militares, primeiro na defesa e em seguida na contra-ofensiva soviéticas. Em particular, ele desempenhou um papel importante no cerco a Leningrado, foi responsável pelo sucesso soviético na batalha de Moscou, preparou a contra-ofensiva em Stalingrado, coordenou a parte norte da batalha de Kursk, foi co-responsável pela recuperação da Ucrânia e controlou a metade sul da Operação Bagration. Nomeado comandante da principal frente soviética na guerra, Júkov liderou a ação decisiva da ofensiva no Vístula-Oder, e na sequência comandou as tropas soviéticas na conquista de Berlim. Diante dele, em 8 de maio de 1945 o Alto comando das Forças Armadas Alemãs assinou o instrumento de rendição de seu país, pondo fim à guerra na Europa.