Konstantín Rokossovski murió en agosto de 1968, a los 71 años, y fue enterrado en la Plaza Roja, en la Necrópolis de la Muralla del Kremlin.