Da første verdenskrig brøt ut, ble Goltz kalt tilbake til tjeneste og 26. august utnevnt til tysk militærguvernør over det okkuperte Belgia (). I denne posisjonen slo han nådeløst ned på det som var igjen av belgisk motstand mot den tyske okkupasjonen, hovedsakelig snikskyttere og sabotasje mot jernbane- og telegraflinjer. Han hevdet tidlig i september 1914, rett etter at han var utnevnt, at det var en krigsnødvendighet at straffen for slike handlinger både rammet de som var skyldige for dem, men også at denne straffen også rammet uskyldige. 5. oktober 1914 var han enda tydeligere da han beordret at i fremtiden skulle landsbyer i de områder hvor jernbane- og telegraflinjer ble ødelagt, nådeløst straffes, uansett om de var skyldige eller ikke i de aktuelle handlingene. Det skulle bli tatt gisler i de landsbyene som lå nær truede jernbanelinjer, og ved første forsøk på å ødelegge jernbane- eller telegraf- eller telefonlinjer skulle gislene umiddelbar bli skutt.