Von Brockdorff trad in de diplomatieke dienst onder keizer Wilhelm II. Ondanks zijn adel verliep zijn carrière niet soepel. Pas in 1912 kreeg hij een belangrijke post: hij werd benoemd tot gezant in Denemarken. Toen de Eerste Wereldoorlog uitbrak lukte het de Duitse diplomatie om Denemarken neutraal te houden. (De Denen waren nog steeds verbitterd over de voor Denemarken weinig succesvolle Duits-Deense Oorlog van 1864 waarbij de Denen Sleeswijk, Holstein en Lauenburg moesten afstaan aan de Duitsers). Von Brockdoff-Rantzau zorgde ervoor dat de neutraliteit Duitsland ten goede kwam. Von Brockdorff probeerde in heel Scandinavië met pro-Duitse personen goede relaties op te bouwen, ook met de socialist Parvus Helphand.