Рахиль родился в 1956 году в Кветте, провинция Белуджистан, его родители прибыли туда из округа Гуджрат. Его отец Мухаммед Шариф был майором пакистанских вооружённых сил. В 1971 году старший брат Шаббир Шариф погиб во время войны против Индии, он был одноклассником будущего президента Первеза Мушаррафа. Рахиль Шариф не имеет родственных связей с премьер-министром Навазом Шарифом.