Etter avsluttede juridiske studier og promosjon til Dr. iur. ved universitetet i Heidelberg trådte Oberndorff inn i det tyske utenriksdepartementets tjeneste. Fra 1900 var han annensekretær ved den tyske ambassade i Madrid og fra 1905 første ambassadesekretær i Brussel. Som ambassaderåd kom han i 1907 tilbake til Madrid og i 1910 til Wien. Årene 1912 til 1916 var Oberndorff ekstraordinær gesandt i Oslo, fra 1916 til 1918 sendemann i Sofia.