Rochow vant to olympiske sølvmedaljer under sommer-OL 1912 i Stockholm. Han kom på andreplass i feltritt både individuelt, bak svenske Axel Nordlander på «Lady Artist» og i lag. Det tyske laget som kom på andreplass i lagkonkurransen i feltritt, bak Sverige, var von Rochow på hesten «Idealist», Richard von Schaesberg på «Grundsee», Eduard von Lütcken på «Blue Boy» og Carl von Moers på hesten «May-Queen». I den individuelle konkurransen i feltritt kom han på femtendeplass og i dressur ble han nummer tolv med hesten «New Bank».