Rabenau ble født i Berlin til legen Friedrich von Rabenau (1847–1885) og Wally, født Noebel. Han sluttet seg til den prøyssiske armé i 1903.