Han var praktisk talt ukjent da han deltok under OL 1976. Han løp sammen med ledergruppen inntil tittelforsvareren Frank Shorter fra USA rykket fra de øvrige etter 25 km. Cierpinski tok opp jakten og passerte Shorter, og vant til slutt med 51 sekunder.