Vuonna 1936 von Papen sai suurlähettilään arvon. Hänen salainen tehtävänsä oli valmistella Anschlussia, Itävallan liittämistä Saksaan. Hän saikin liittymiselle muiden muassa Wienin vaikutusvaltaisen arkkipiispan, kardinaali Innizerin tuen. Itävallan liityttyä Saksaan von Papenista tuli 1939 maansa suurlähettiläs Ankaraan, Turkkiin. Hän sai aikaan turkkilais-saksalaisen ystävyyssopimuksen solmimisen 18. kesäkuuta 1940. Von Papen vaikutti myös ratkaisevasti siihen, että Turkki pysytteli sodassa puolueettomana eikä asettunut liittoutuneiden puolelle. Von Papen karkotettiin Turkista maan katkaistua diplomaattiset suhteet Saksaan vuonna 1944. Sodan aikana vallanpitäjät Berliinissä harkitsivat myös von Papenin nimittämistä suurlähettilääksi Vatikaaniin, mutta Berliinin katolinen arkkipiispa Konrad von Preysing esti tämän. Vuonna 1938 von Papen oli liittynyt jäseneksi kansallissosialistiseen puolueeseen.