Han er sønn av baronesse Margherite Agnelli de Pahlen (født 1955) og den fransk-italienske forfatteren Alain Elkann (født 1950). Moren er datter av Gianni Agnelli (1921–2003) som var styreformann i Fiat fra 1966 til 1996. John Elkann ble med i Fiat-styret allerede i 1997. Etter studier i Paris og ingeniørledelse ved Politecnico di Torino 2000, jobbet han for General Electric et par år før han fikk jobb i det Agnelli-kontrollerte investerings-selskapet Exor med hovedkvarter i Torino, der han i 2010 ble styreformann. Elkann har flere styreverv, deriblant for Juventus. Han etterfulgte i 2018 Sergio Marchionne som styreleder i Ferrari.