Med en suksessfull brytetrener som far, vokste Khabib Nurmagomedov opp med bryting fra barnsben av. I 2001 flyttet familien fra landsbygda til delrepublikkens hovedstad, Makhatsjkala. Der oppdaget han MMA gjennom en video han kom over som inspirerte ham til å gå inn for sporten. Etter år med fristilbryting i bagasjen valgte faren hans å introdusere ham for judo da han var 15 år. Hans far ønsket at Khabib skulle få trening i den tradisjonelle drakten, kallt . Siden den gang har han oppnådd svart belte i judo. Som 17-åring ble Khabib videre introdusert for sambo, en grappling-basert kampsport som også tillater slag. Innen konkurranser oppnådde han å bli både russisk mester og senere to ganger verdensmester i sambo., I 2012 vant han to mesterskapstitler i submission wrestling holdt av organisasjonen .