Haziran 1939'da Moğolistan Halk Cumhuriyeti sınırına gönderildi. Japon İmparatorluğu'nun olası bir istilâsına karşı Moğolistan Halk Cumhuriyeti'ni örgütledi. Japonların Moğolistan'a saldırıya geçtiğinde, üç aşamalı bir karşı saldırı örgütledi, zayıf komutanları görevden aldı, Japonları Halhin Gol Muharebesi'nde hızlı bir harekat sonucu dağıtmayı başardı. Jukov'un ani manevra taktikleri, askerlerine de kazandırdığı disiplin ve fedakarlık duygusu, düşmanı zayıf noktalarından vuran sezgisi ve savunma durumunda bile asla saldırıdan vazgeçmeyen karakteri ile kendini ilk burada göstermiştir. Ayrıca bu yenilgi Japonya açısından çok büyük derslerle doludur. II. Dünya Savaşı boyunca Japonya Sovyetler Birliği'ne saldırmayacaktır.