Aufgrund seines Ranges und seiner erworbenen Sprachkenntnisse war Rabe von Pappenheim etwa zwei Jahre lang als Verbindungsoffizier bei der japanischen Armee in Ostasien stationiert. Am 11. Oktober 1912 wurde er Militärattaché bei der deutschen Gesandtschaft in Peking. Rabe von Pappenheim und seine Gattin wurden zu angesehenen Personen in Pekinger Diplomatenkreisen bis der Beginn des Ersten Weltkrieges die politische Lage grundsätzlich veränderte. Da die Republik China sich zunächst zur Neutralität verpflichtete, konnte Rabe von Pappenheim im Land bleiben und organisierte unter anderem den Nachschub für die Belagerten in Tsingtau.