Koldewey døde etter lengre tids lidelser som kunne tilbakeføres til den strabasiøse tiden i Midtøsten. På Parkfriedhof Lichterfelde i Steglitz-Zehlendorf er hans æresgrav i form av en ziggurat (Abt. 19 Grab 566).