Han ble født på Husum slott som sønn av baron Niels Gersdorff (1688-1748) og Louise baronesse von Boineburg gen. Hohenstein (1684-1765). I sin ungdom reiste han og brødrene Nicolaus Maximilian og Frederik Carl utenlands med immatrikulering på Leidens Universitet i 1741. I 1743 ble han kammerjunker hos kronprinsesse Louise, en stilling han varetok frem til 1750, hvor han ble amtmann over Akershus. I 1751 ble han konferensråd, 1752 kammerherre og i 1757 amtmann over Kalø Amt. I 1764 ble han dekorert med l'union parfaite mens han i 1767 ble ridder av Dannebrog. I 1772 fikk han Baroniet Marselisborg i forleing og to år senere ble han utnevnt til gehejmeråd.