W październiku 1896 roku Rozwadowskiego mianowano attaché wojskowym przy poselstwie austriackim w Bukareszcie. W tym czasie zdał egzamin na oficera sztabowego w sztabie generalnym i został awansowany do stopnia majora. Znał pięć języków – polski, francuski, niemiecki, czeski i rosyjski, a z czasem także rumuński. Pierwszym sukcesem było wynegocjowanie przez niego korzystnej dla Austro-Węgier umowy celnej. Rozwinął także współpracę austriacko-rumuńską na polu wojskowym, co wiązało się z modernizacją zacofanej armii rumuńskiej i miało sprzyjać zacieśnieniu sojuszu polityczno-wojskowego z Rumunią. Działalnością na tym polu Rozwadowski zjednał sobie sympatię i uznanie króla rumuńskiego Karola, a także rumuńskiego następcy tronu księcia Ferdynanda. W tym czasie mjr Rozwadowski został wysłany jako obserwator do Grecji, gdzie wybuchła wojna grecko-turecka. Był świadkiem druzgocącej klęski armii greckiej (licznej i dobrze uzbrojonej) w bitwie pod Larissą. Bitwa ta w istotny sposób wpłynęła na jego poglądy dotyczące prowadzenia wojen.