Em 1944, com a renúncia do primeiro-ministro Hideki Tojo, Yamada caiu em desgraça na política e em julho, voltou para Manchukuo como comandante final do Exército de Guangdong, e, ao mesmo tempo, ocupou os cargos de embaixador japonês em Manchukuo e Governador-geral do Território Alugado de Kwantung. Ele rapidamente informou ao Quartel General Imperial que seria impossível manter a fronteira com a União Soviética se as forças japonesas ficassem em um só local, já que o Exército Guangdong havia sido amplamente desmembrado com a redistribuição de tropas experientes (com a maior parte de seu equipamento) para o teatro do Pacífic na guerra. Sem ajuda do Japão, Yamada tentou organizar um grande número de recrutas e voluntários mal-treinados em 8 novas divisões de infantaria e 7 novas brigadas de infantaria, e se retirar das áreas da fronteira para proteger o núcleo estratégico da nação. No entanto, quando o Exército Soviético invadiu a Manchúria em 9 de agosto de 1945, muitas das forças improvisadas de Yamada não estavam mais do que 15% prontas para combater e foram rapidamente derrotadas.