Da er bei Ausbruch des Weltkriegs schon über siebzig war, erhielt er zu seinem größten Bedauern kein Frontkommando mehr, sondern war vom 23. August bis 28. November 1914 Generalgouverneur für das „Kaiserlich deutsche Generalgouvernement Belgien“. Da er mit den erhaltenen Befehlen bezüglich der Behandlung der Belgier nicht einverstanden war, bat er schon bald um Abberufung von seinem Posten und wurde infolge des Vorschlages des Botschafters Freiherr von Wangenheim wieder in das Osmanische Reich berufen. Dort sollte er – so hoffte der Botschafter – den Leiter der Militärmission – Liman von Sanders – ablösen, da dieser betreffs der Operationen stets einen strikt militärischen Standpunkt vertreten hatte und sich nicht den eher politisch motivierten Plänen der Botschaft und des Militärattachés beugte. Obwohl eine solche Ablösung von der türkischen Seite grundsätzlich abgelehnt wurde, blieben die Vereinbarungen betreffs Entsendung des Generalfeldmarschalls mit den Osmanen bestehen und von der Goltz traf am 12. Dezember 1914 in der Türkei ein, wo er zunächst als militärischer Berater des Sultans eingesetzt wurde. Nachdem Ende März 1915 Liman von Sanders den Oberbefehl über die zur Verteidigung der Dardanellen neu formierte 5. Armee erhielt, übernahm von der Goltz von ihm den Oberbefehl über die 1. Armee in Konstantinopel. Seit Oktober 1915 führte von der Goltz den Oberbefehl über die 6. osmanische Armee, um die bis dahin in Persien unvereinbar scheinenden türkischen und deutschen Operationen zu koordinieren. Im Dezember 1915 traf er in Bagdad ein und verhalf der 6. Armee zum Sieg über die eingeschlossenen britischen Truppen in der Belagerung von Kut.