Abdul Rashid Dostum ble født den 25. mars 1954 i landsbyen Khwaja Dokoh i Jowzjan-provinsen nord i Afghanistan, som sønn av fattige usbekiske bønder. Provinsen Jowzjan var storprodusent av olje og naturgass som ble eksportert til Sovjetunionen, og Dostum jobbet i en periode for The Oil and Gas Exploration Enterprise. Senere dro han til Sovjet og trente i den sovjetiske hæren.