Bharara ble født i Punjab i India til en far som var sikh og en mor som var hindu. Han vokste opp en forstad i Monmouth County i New Jersey og gikk på skole i Tinton Falls i New Jersey, hvor han gikk ut som beste elev i 1986. Han fikk sin med fra Harvard College i 1990 og sin grad innen rettsvitenskap fra Columbia Law School i 1993, hvor han var redaksjonsmedlem i .