Han var eldste sønn av storkansler Frederik Ahlefeldt (1623–1686) og Margrete Dorothea Rantzau. Allerede tidlig oppnådde han store hedersbevisninger og embeter, hvilket til dels skyldtes familieforbindelser, samt hans giftemål med kongens og Sophie Amalie Moths datter Christiane Gyldenløve.