Han ble født på familiens slott, Blenheim Palace og fikk første del av sin undervisning hjemme. I 1863 begynte han på Eton College, men uten å utmerke seg, hverken intellektuelt eller fysisk. Deretter tok han videre utdannelse ved Oxford, der han begynte i 1867 og ble uteksaminert i 1870.