Goltz morì il 19 aprile 1916, a Baghdad, appena due settimane prima che gli inglesi si arrendessero a Kut. La ragione ufficiale della sua morte fu tifo, anche se vi furono delle voci che fosse stato avvelenato dai turchi. Secondo la sua volontà, egli venne sepolto nel territorio del consolato tedesco a Tarabya, Istanbul, rivolto verso il Bosforo.