Hans mors familie var en fremtredende handelsfamilie i Kashmir-dalen, selv om den emigrerte til Punjab generasjoner før han ble født. Hans far, Muhammad Sharif, var fra landsbyen Jati Umra, nær Amritsar i det som i dag er den indiske delstaten Punjab. Muhammad reiste i 1947 til Pakistan, under delingen til to nasjoner. Muhammad Sharif var en forretningsmann og var del-eier av the Ittefaq Group of Industries.