Bernstorff var sønn av en adelsmann fra Hannover, Joachim Engelke friherre Bernstorff til Gartow, Wotersen og flere andre gods. Etter at hans morfar, Andreas Gottlieb Bernstorff, hadde spilt en viktig rolle som hannoversk minister hos kong Georg I av Storbritannia, ble han den neste fremstående statsmann fra denne familien. Han ble utdannet ved forskjellige universiteter og ved utenlandsreiser og la på denne måten grunnlaget for sin utvikling og språkferdigheter i flere europeiske språk.