Barenboim var gift med cellisten Jacqueline du Pré fra 1967 til hennes død i 1987. Bryllupet ble holdt i Jerusalem etter at du Pré hadde konvertert. En av forloverne under seremonien var Zubin Mehta, som ikke selv er jødisk og som derfor, ifølge sin selvbiografi, midlertidig måtte ta navnet «Moshe Cohen» slik at seremonien skulle være gyldig i henhold til de jødiske vilkårene for ekteskapsinngåelse. Jacqueline du Pré ble rammet av multippel sklerose og måtte i 1973 legge sin musikerkarriere på hyllen.