Rudolf Christoph friherre von Gersdorff ble født i den slesiske garnisonsbyen Lüben som annen sønn av rittmesteren freiherr Ernst von Gersdorff og hans hustru Christine født grevinne og borggrevinne til Dohna-Schlodien. I 1923 ble han offiserskadett i det tyske riksvern. Utdannelsen fant sted i Breslau i , der hans forfedre hadde tjenestegjort i flere generasjoner ved det 1. slesiske livkürassierregiment (etter 1918 kalt det 7. prøyssiske rytter-regiment).