Nascut en una família de camperols a Strelkovka, raion de Maloiaroslavets, Gubèrnia de Kaluga (actualment, raion de Júkovo, província de Kaluga), Júkov anà Moscou a fer d'aprenent i el 1915 entrà a l'acadèmia d'oficials de cavalleria pels seus mèrits en no ser fill d'aristòcrates. Mentre hi era fou cridat a files quan va esclatar la Gran Guerra, on va servir en un regiment de dragons com a soldat. Durant la Primera Guerra Mundial, Júkov fou condecorat dues vegades amb la Creu de Sant Jordi i ascendit al rang d'oficial pel seu valor a la batalla. Es va unir al Partit Bolxevic després de la Revolució d'Octubre, avalat pels seus orígens humils. Després de recuperar-se del tifus, va lluitar a la Guerra Civil Russa del 1918 al 1920, rebent-hi l'Orde de la Bandera Roja per haver esclafat la Rebel·lió de Tambov incitada per camperols.