Etter nederlaget i Den russisk-tyrkiske krig (1877–1878), anmodet den osmanske herskeren Sultan Hamid om tysk hjelp til å reorganisere den osmanske hæren slik at de ville kunne være i stand ti å stå imot ytterligere avansement fra Det russiske keiserrike. Goltz ble sendt og tilbrakte tolv år i dette arbeidet, som skulle bli materiale for en rekke av hans senere bøker. Etter noen år ble han tildelt tittelen pasja, og i 1895, rett før han vendte tilbake til Tyskland, ble han utnevnt til mushir (feltmarskalk). Han forbedringer i den osmanske hæren var betydelige, og den tyrkiske hæren ble under Den gresk-tyrkiske krig (1897) stanset utenfor Aten bare etter at tsar Nikolaj II av Russland truet den osmanske sultanen med at han ville angripe Det osmanske rike fra det østlige Anatolia med mindre den osmanske hæren stoppet sin framrykning.