Fire år senere, under Sommer-OL 1968 i Mexico by, vant han en ny olympisk gullmedalje i lagkonkurransen i dressur. Det vesttyske laget besto av Liselott Linsenhoff på «Piaff», Reiner Klimke på «Dux» og Neckermann på hesten «Mariano». i den individuelle konkurransen ble han nummer to bak sovjetiske Ivan Kizimov på «Igor».